回應“助推極端主義內容”的批評谷歌仍未令人滿意
作為回應“助推極端主義內容”的批評,谷歌決定更改算法,但結果仍未令人滿意。據英國《衛報》(The Guardian)2日報導,谷歌公司的一名高級搜索工程師透露,在美國頻繁發生大規模槍擊事件的背景下,錯誤信息變得非常普遍,因此谷歌不得不通過調整算法來彌補。
潘杜·納亞克(Pandu Nayak)於14年前入職谷歌公司,主要工作是搜索引擎的開發。他在接受《衛報》採訪時表示,由於大規模的謀殺事件,谷歌越來越難以提供準確的搜索結果。
納亞克表示,“很不幸,近幾年的槍擊事件在不斷增加。而在這些撲朔迷離的事件中,各種各樣的錯誤信息都可能會出現。”
“為了解決這樣的問題,我們開發了算法來識別發生的不良事件,我們應該強化’權威’觀念,增加’權威’在心中的分量,這樣在關鍵時刻才能篩選出高質量的內容,而不是錯誤的信息。”納亞克說。
根據谷歌的定義,權威是指符合該公司的搜索質量評估指南的頁面,評估指南是一份166頁的PDF文檔,谷歌將其分發給1.6萬名搜索質量評估人員。
這些員工負責檢查谷歌算法的調整情況,確保其達到最佳效果,並在兩個尺度上對搜索結果進行評級:一個是搜索者的需求是否得到滿足(例如,如果用戶搜索“谷歌工作”,結果顯示谷歌總部的位置即是“不符合”需求,而結果顯示公司職業的主頁則視為“完全符合”);另一個是標記頁面的質量,該指南將超過80頁的指南定義為“極高質量的主要內容”,“極高水平的專業性、權威性、可信性”和“極為優質的聲譽”。
這份搜索質量評估指南2013年才首次發布,但長期以來,評估人員都是谷歌判斷算法變化的核心力量。然而直到最近,他們才明確排除了搜索結果中的仇恨言論、虛假信息和假新聞。
2017年,在《衛報》和《觀察家報》連續報導谷歌助推極端主義的內容之後,該公司在評級中增加了一項標記,名為“令人反感的攻擊性”。
其中一篇報導特別指出,搜索“大屠殺真的發生了嗎”,置頂結果是白人至上主義論壇Stormfront中的某條鏈接,該鏈接內容解釋瞭如何向他人否認大屠殺。
但納亞克表示,如今該搜索已經包含在評估指南中,被視為需要標記的內容。
“值得注意的是解決這個問題的方式。我們並非簡單地從查詢中刪除這個結果。我們不進行手動干預來’修復’查詢的原因在於:某個特定的問題只是冰山一角,通常還有很多其他的問題,就像冰山的主體一樣,只是尚未有人選擇向我們報告。”納亞克補充說,“所以在這個特殊的案例中,我們真正想做的是第一時間深入了解問題發生的原因。比如,我們的算法中的哪一部分導致了問題的發生?這樣你就能找到問題的核心並解決它,那麼即使不能解決整座冰山,也能解決很大一部分。”
納亞克向《衛報》記者展示,“大屠殺真的發生了嗎”的一條搜索結果指向美國大屠殺紀念館。然而,對於英國用戶來說,置頂的搜索結果仍是《觀察家報》最初披露該問題的報導原文。