根據發表在《科學報告》雜誌上的新研究顯示，惡意的COVID-19在線內容，包括種族主義內容、虛假信息和錯誤信息，通過繞過社交媒體平台審核工作在網上蓬勃發展和傳播。喬治華盛頓大學的研究人的員通過繪製六大社交媒體平台的在線仇恨集群圖，展示了惡意內容如何利用平台之間的路徑，強調了社交媒體公司需要重新思考和調整其內容審核政策。

在喬治華盛頓大學物理學教授尼爾-約翰遜的領導下，研究小組著手了解儘管有大量的審核工作，惡意內容如何以及為什麼在網上如此興盛，以及如何能夠阻止它。該團隊使用機器學習和網絡數據科學的組合，調查在線仇恨社區如何將COVID-19磨練成一種武器，並利用當前事件吸引新的追隨者。

研究人員首先繪製了仇恨群組如何相互連接以在社交媒體平台上傳播他們的內容。該團隊專注於六個平台，包括Facebook、VKontakte、Instagram、Gab、Telegram和4Chan，從一個特定的仇恨集群開始，向外尋找與原始集群有緊密聯繫的第二個集群。他們發現最強的連接是VKontakte進入Telegram（40.83%的跨平台連接），Telegram進入4Chan（11.09%），以及Gab進入4Chan（10.90%）。

研究人員隨後將注意力轉向識別與COVID-19有關的惡意內容。他們發現，在大流行的早期階段，COVID-19討論的連貫性迅速增加，仇恨集群形成敘事，並圍繞COVID-19的主題和錯誤信息進行凝聚。研究人員發現，為了顛覆社交媒體平台的控制努力，發送仇恨信息的團體使用了幾種適應策略，以便在其他平台上重新組合，重新進入一個平台。例如，群組經常改變他們的名字，以避免被算法發現。

由於獨立的社交媒體平台數量在不斷增加，這些產生仇恨的群組非常有可能通過新的鏈接加強和擴大他們的相互聯繫，並可能利用美國和其他西方國家管轄範圍以外的新平台，讓全球所有社交媒體平台合作解決這個問題的機會非常渺茫。然而，科學家的數學分析確定了平台可以作為一個團體使用的策略，以有效減緩或阻止在線仇恨內容傳播。