一項新的研究發現，政府立法（如歐盟最近出台的立法）可以有效抑制有害的社交媒體內容，即使是X（前Twitter）這樣的快節奏平台也不例外。研究結果對希望出台類似法規的政策制定者俱有借鑒意義。

社交媒體平台是新的數字公共廣場。它們非常適合隨時更新信息、建立個人和職業關係以及查找和共享信息。但它們也有陰暗的一面：有害內容。

有害的社交媒體內容有多種形式，包括傳播錯誤信息和虛假信息，關於恐怖主義和美化自殺的帖子，針對婦女、移民和少數群體的仇恨言論，以及危及青少年健康的病毒式挑戰。一些國家正在考慮對社交媒體內容進行監管，以降低危害的可能性，而歐盟（EU）則於2022 年11 月出台了《數字服務法》，以打擊危險內容的傳播。悉尼科技大學（University of Technology Sydney）和瑞士洛桑聯邦理工學院（Swiss Federal Institute of Technology in Lausanne）的研究人員開展了一項新研究，探討了此類立法的有效性。該研究的通訊作者瑪麗安-安德烈-裡祖伊（Marian-Andrei Rizoui）說：”Facebook、Instagram 和Twitter（現在的X）等社交網絡並沒有太多動力去打擊有害內容，因為它們的商業模式是以注意力貨幣化為基礎的。埃隆-馬斯克收購Twitter 的既定目標是維護未來的言論自由。然而，在言論自由的同時，錯誤和虛假信息也在這個不受監管的空間裡傳播和繁榮。”歐盟立法建立了舉報有害網絡內容的通知和行動機制，並要求任命”可信旗手”，即負責檢測有害內容的主題專家。一旦內容被標記，平台必須在24 小時內刪除。然而，社交媒體以其”病毒性”而聞名，即內容能夠快速、廣泛地傳播。因此，本研究中研究人員面臨的主要問題是：這項立法是否有效？裡祖伊說：”我們在Twitter上看到過這樣的例子，分享五角大樓附近爆炸的虛假圖片導緻美國股市在幾分鐘內下跌，因此人們對歐盟的新法規是否會產生影響存有疑慮。”研究人員利用信息傳播模型分析了內容傳播的動態。為了研究審核時間與減少危害之間的關係，他們研究了兩個指標：潛在危害，即產生的有害”後代”帖子的數量；內容半衰期，即產生一半後代所需的時間。先前的研究已經確定了不同平台上社交媒體帖子的半衰期。X 的內容半衰期最快，為24 分鐘，其次是Facebook 的105 分鐘、Instagram 的20 小時和LinkedIn 的24 小時，YouTube 的半衰期為8.8 天。Rizoui說：”較低的半衰期意味著大部分危害都發生在內容髮布之後，因此需要快速進行內容審核才能有效。我們發現，內容審核所需的反應時間隨著內容半衰期和潛在危害的增加而增加。”研究人員發現，即使需要24 小時的周轉時間，政府授權的內容審核也有可能有效地限制危害，但這取決於一些關鍵因素。裡祖伊說：”成功監管的關鍵包括任命可信賴的旗手、開發有效工具用於報告跨平台的有害內容，以及正確計算必要的審核反應時間。”研究人員表示，他們的研究對希望制定類似立法的政策制定者有借鑒意義。美國和英國已經開展了公眾調查，以確定有害社交媒體內容的程度，並正在考慮對其進行監管。在英國，2023 年3 月公佈的一項關於公眾對人工智能和數據驅動技術的態度的全國調查的早期結果顯示，18 至34 歲的人群中有近90% 至少目睹或接收過一次網上有害內容。三分之二的英國成年人表示至少接觸過一次仇恨言論、虛假信息、虛假圖片和欺凌行為，超過40%的18至24歲的年輕人”多次”接觸過此類有害內容。今年5 月，美國衛生總監發布了一份關於社交媒體對青少年健康影響的諮詢報告，報告稱64% 的青少年”經常”或”有時”通過社交媒體接觸到仇恨內容。諮詢建議科技公司優先考慮安全和健康，尤其是兒童的安全和健康。澳大利亞的《在線安全法》於2022 年1 月生效，該法規定電子安全專員有權執行禁止網絡欺凌、基於圖像的虐待以及非法、有害和暴力內容等的法規。在這種情況下，當前的研究展示了立法如何能有效控製網絡危害，這令人鼓舞。裡祖伊說：”通過了解內容傳播的動態、優化節制工作以及實施像歐盟《數字服務法案》這樣的法規，我們可以努力建設一個更健康、更安全的數字公共廣場，在這裡，有害內容得到緩解，建設性對話蓬勃發展。”這項研究發表在《美國國家科學院院刊》（PNAS）上。