據外媒報導，正是Facebook自家的算法推薦才導致Facebook平台上極端主義內容的盛行，而Facebook高管自2016年就了解此事，但並未採取有力的措施。

《華爾街日報》本週二發表了一篇文章，報導了Facebook自2016年以來抗擊極端化的努力。這篇報導基於Facebook內部文件，以及對現任和前任員工的採訪，詳細地描述了Facebook是如何通過各種途徑來阻止平台上分裂內容的傳播。但在許多情況下，Facebook卻拒絕了致力於解決該問題的員工們的建議。

文章稱，在Facebook上加入極端組織的人群中，超過60%是因為Facebook的算法推薦所導致，包括高級副總裁喬爾·卡普蘭（ Joel Kaplan）在內的Facebook高管自2016年就知道該問題，但卻扼殺了解決這一問題的努力。

文章指出，Facebook在2016年進行了一項研究，發現該平台上的極端主義內容和團體的比例高得令人擔憂。Facebook研究員兼社會學家莫妮卡·李（Monica Lee）當時在一次演講中稱，超過1/3的德國大型政治Facebook群組存在大量極端主義和種族主義內容。

莫妮卡·李還發現，當Facebook用戶加入極端主義組織時，近2/3（64%）的時間是由Facebook的算法推薦的，這意味著該網站自己的推薦系統在社交媒體用戶中“加劇了極端主義問題”。

文章寫道：Facebook在2018年的一張幻燈片上寫道：“我們的算法利用了人腦對分裂的吸引力，如果任其發展，Facebook將向用戶提供越來越多的分裂內容，以努力獲得用戶的關注，並增加在平台上的停留時間。

解決這種極端化問題是非常困難的，需要Facebook重新考慮其一些核心產品。其中最值得關注的是，該項目迫使Facebook考慮如何確定“用戶參與度”的優先順序。“用戶參與度”是一項涉及停留時間、點贊、分享和評論的指標，多年來一直是其係統的指路明燈。

對於上述描述，首先要說的是，“極端化”可能意味著很多事情，這可能會讓關於Facebook在這個問題上的貢獻的討論變得困難。從狹義上講，可以談論充滿黨派情緒的新聞推送（news feed）可能會導致國家分裂的方式。同時，也可以將其作為一個籠統的術語，來談論Facebook和其他社交網絡最近所稱的“平台完整性”相關的舉措，例如，消除仇恨言論，或者給錯誤信息貼上標籤。

關於“極端化”要說的第二件事是，雖然它有很多負面影響，但需要考慮的是，你提出的替代方案是什麼。如果你是一家科技公司的CEO，那麼這個問題就會涉及到“對抗”極端化的挑戰：即使你把它視為敵人，也不清楚你會用什麼標準來團結你的公司來應對它。

不管怎樣，Facebook對《華爾街日報》的這篇報導反應非常沮喪。負責相關事務的Facebook高管蓋伊·羅森（Guy Rosen）週三發表了一篇博客文章，列出了該公司自2016年以來為對抗“極端化”所採取的一些措施。

這些措施包括改變新聞推送，使其包含更多來自朋友和家人的帖子，而不是出版商的帖子；啟動一個事實核查計劃；通過機器學習系統和內容審查隊伍，更快地檢測仇恨言論和其他惡意內容；從算法推薦中刪除違反Facebook政策的群組。

羅森在這篇博客文章中稱：

我們已經採取了許多重要的措施，來減少可能在我們的平台上導致極端化的內容數量，有時是以犧牲收入為代價的。這項工作永遠不會結束，因為歸根結底，網絡話語是社會的延伸，而網絡話語又是高度極端化的。但我們的工作是減少極端化對我們產品體驗的影響，我們正致力於做到這一點。

據Facebook內部Workplace上的一篇帖子，Facebook對這篇報導感到沮喪的原因之一是，Facebook花了“幾個月”的時間與《華爾街日報》的記者討論這一發現。Facebook讓公司多名高管進行公開和非正式的交談，其中包括負責全球公共政策的卡普蘭。

不管怎樣，關於這篇報導和Facebook的回應，有兩件事值得一提。首先，Facebook對極端化的看法存在內部緊張。其次，要求Facebook解決分裂（極端化）問題，可能影響Facebook解決其他問題的注意力，包括陰謀論、錯誤信息和仇恨言論的病毒式傳播。

關於內部緊張問題，一方面，文章所描述的Facebook與極端化作鬥爭的舉措都是真實存在的。在過去的幾年裡，Facebook在平台完整性方面投入了大量資金。而且，正如一些Facebook員工所說的那樣，Facebook有充分的理由不去實施團隊提出的每一個建議。

例如，有些努力可能沒有已經在實施的其他努力那麼有效，或者它們可能會產生意想不到的負面後果。顯然，團隊中的一些員工覺得他們的大多數想法沒有被採用，或者被淡化了。但許多公司的許多團隊都是如此，這並不意味著他們所有的努力都是白費的。

另一方面，Facebook的高管在很大程度上拒絕接受，該平台在分裂國家層面上存在極端化的觀點。事實是，在許多大國，Facebook在那裡的使用率很高，但極端化正在減少，這有助於解釋為什麼Facebook高管沒有把這個問題放在首位。

因此，這樣一個案例表明，Facebook在平台完整性方面可能是“正確的”，而《華爾街日報》在更大的層面上是正確的：Facebook被設計成一個公開討論的場所，人性導致了這些討論往往會激烈和兩極分化，而Facebook選擇了相對寬鬆的方式來管理這種分化。之所以這樣做，是因為高管們認為，世界受益於喧鬧的、幾乎不受限制的討論，也因為他們不相信這些討論正在分裂國家。(李明)