一名女性開發者正在打造可以過濾Twitter私信不雅圖的AI系統
從編寫腳本文字到發布假新聞的機器學習模型,人工智能(AI)正在各個領域嶄露頭角。現在,一位名叫Kelsey Bressler的開發者,正在幫助她的朋友打造一款特殊的AI系統,旨在檢測並剔除社交平台(Twitter)上的不雅色情圖片(比如漏鳥圖)。
資料圖(來自:Twitter官網,via Neowin)
這個項目的初始動機,源於Mressler 女士被某位男性Twitter 網友私信的漏鳥圖的騷擾。這種未經他人許可,便可隨意發送信息的方式,會讓人感到明顯的被冒犯和不尊重。
遺憾的是,儘管SNS 平台製定了相應的社區政策,但事實上仍有許多人在違規操作,且科技企業的審核機制根本無法做到實時地應對。
Mressler 補充道:想要杜絕這種現象,就必須對傳統的內容審核方式加以變革。儘管我們可以將私信一關了之,但這並不是該由受害人承受的自閉性負擔。
好消息是,Bressler 女士的團隊,已經在軟件開發方面取得了不錯的進展。她們創建了一個Twitter 賬戶來當做誘餌,並邀請某些男子發送暴露圖片,然後對AI 展開有針對性的訓練。
目前Mressler 團隊仍在努力標記某男子在其鳥部戴著籠子的照片,不過初期報告顯示這項方案似乎很有希望。在取得了更大的進展之後,她們將在軟件完工時,在Twitter 上分享更多的研究細節。