Clubhouse等音頻社交網絡火了內容監控成了難題
在埃隆·馬斯克(Elon Musk)和馬克·扎克伯格(Mark Zuckerberg)等科技名人的支持下,基於音頻的社交網絡Clubhouse出現了爆炸性增長。但同時,也引發了人們對該應用程序將如何處理仇恨言論和虛假信息的關注。
對於那些提供實時語音聊天的平台來說,如Clubhouse、Discord和Twitter Spaces等(還有傳聞稱Facebook也在開發類似的應用),掌控實時聊天的內容將是一個挑戰。
實時遊戲聊天應用Discord首席法務官克林特·史密斯(Clint Smith)在接受采訪時稱:“與基於文本的交流相比,音頻給內容控制帶來了一系列截然不同的挑戰。它存在的時間較短(語音),很難進行研究並採取行動。”
目前,檢測“有問題”的音頻內容的工具,要落後於文本識別工具;而轉錄和檢查錄製的語音聊天,對於人和機器來說是一個更加繁瑣的過程。另外,缺乏額外的線索,如視頻或附帶文字評論的視覺信號,也會使這一問題變得更具挑戰性。
反誹謗聯盟(Anti-Defamation League)技術與社會中心副主任丹尼爾·凱利(Daniel Kelley)表示:“當前擁有的大部分內容審核工具,實際上都是圍繞文本建立的。”
而且,也並不是所有的公司都製作或保留語音記錄,以調查違規舉報。雖然Twitter Space會把音頻保留30天或更長時間,但Clubhouse卻表示,如果直播結束而沒有立即收到用戶報告,就會刪除這些錄音。
而Discord則根本不會錄音。更糟糕的是,Discord還賦予用戶一些控制權,如禁言和拉黑。這很可能導致用戶權力被濫用,並容易受到偏見的影響。
同樣引入了用戶控制的Clubhouse,也受到了外界的密切關注。例如,阻止用戶進入某些房間的行為,是否可以用來騷擾或排斥用戶。
在此之前,大型社交媒體已經歷過類似的問題,並一直在努力遏制其網站上不當的直播內容。例如,2020年,Facebook上一段自殺的直播視頻在多個網站上傳播。2019年,發生在德國猶太教堂的槍擊事件在亞馬遜旗下游戲網站Twitch上進行了直播。
對此,Twitch安全諮詢委員會成員艾瑪·蘭索(Emma Llanso)表示:“對這些服務(語音聊天)來說,要從中吸取教訓,明白他們將面臨所有同樣的問題,這一點真的很重要。”
Clubhouse一發言人對此表示,該公司同時使用內部審查員和第三方服務來審查內容,並已就這一問題聘請了顧問,但不願就審查或檢測方法發表評論。Clubhouse還表示,公司正在投資於檢測和防止虐待的工具,以及為用戶提供的功能,可以為自己的房間設定規則,以“緩和”對話內容。
App Annie數據顯示,從2月1日至16日,Clubhouse的全球下載量從350萬次增長到了810萬次。