監督委員會:Meta應完善應對AI深度造假的安全機制
監督委員會(Oversight Board)是一個全球性的專家機構,負責審查Meta就Facebook、Instagram 和Threads 上的內容做出的最困難和最重要的決定。委員會最近分析了兩起類似案件,Facebook 最初對這兩起案件的處理方式不同(儘管這兩起案件也與Instagram 和Threads 有關)。
兩個案例都涉及公眾女性人物,一個在美國,一個在印度。專家小組發現這兩起未經同意的深度偽造事件都違反了《社群標準》,這一點不足為奇;然而,印度的案例最初並未被Facebook 刪除。相反,用戶報告在48 小時後自動刪除。這暗示Meta 並沒有平等對待全球所有市場–這也是該公司受到專家和記者批評的眾多原因之一。
儘管是一個獨立的實體,但監督委員會擁有很大的權力,因此被稱為”Meta 的最高法院”。它可以在特殊情況下推翻公司的決定,並向Meta 公司提出政策建議。
在這種情況下,審計委員會建議Meta:
- 將禁止”貶損性照片”的規定移至《成人性剝削社區標準》。
- 將禁止”貶損性照片”中的”貶損”一詞改為”未經同意”。
- 將禁止”貶損性的照片”中的”Photoshop”一詞換成一個更籠統的術語,即經過處理的媒體。
- 透過在”成人性剝削”政策中增加一個新的未經同意的信號來統一其關於未經同意的內容的政策:即內容是人工智慧生成或操縱的。對於具有這種特定背景的內容,該政策還應明確規定,這些內容不必是”非商業性的或在私人環境中製作的”,也屬於違規內容。
除這些建議外,委員會還對基於圖像的性虐待上訴自動終止表示關切,並說:”鑑於所造成的損害,即使等待48 小時進行審查也可能有害”:”鑑於所造成的損害,即使等待48小時進行審查也可能是有害的”。董事會認為這是一個可能對人權產生重大影響的問題,需要進行風險評估和緩解。
分析的案例還發現了另一個問題,即所謂的”媒體匹配服務庫”,它收集以前刪除的內容,並在重新發佈時幫助自動刪除違反規則的圖片。
Meta 解釋說,它依賴媒體報道,例如,有一篇文章通報了某位名人的洩露圖片。當貼文涉及公眾人物時,這可能是有用的,但對個人則沒有幫助。因此,Meta 不應過度依賴此訊號。
這些建議不具約束力,但Meta 公司必須在60 天內做出正式答复,這往往會導致Meta 內部政策的改變。