巨幅縮短工作週期OpenAI公佈基於GPT-4的內容審核系統
人工智能研究公司OpenAI在官網稱,其開發了一種使用GPT-4進行內容審核的解決方案,有望減輕人工審核員的負擔。
![](https://i0.wp.com/n.sinaimg.cn/spider20230816/560/w921h439/20230816/f258-f4902f518436d2e60d77500e5170f129.png?w=640&ssl=1)
OpenAI在博文中寫道,內容審核在維持數字平台健康方面發揮著至關重要的作用,使用基於GPT-4的內容審核系統可以更快地迭代政策變更,將工作週期從數月縮短至數小時。
任何擁有OpenAI API訪問權限的人都可以採用這種方法創建自己的人工智能輔助審核系統。GPT-4能解釋冗長的內容政策文檔中的規則和細微差別,並即時適應政策更新,從而使標籤更加一致。
在審核能力上,OpenAI承認GPT-4的標記質量與經過輕度訓練的人類審核員相似,但與經驗豐富、訓練有素的人類審核員相比仍有差距。對此,OpenAI強調,審核的過程不應該完全自動化。
![](https://i0.wp.com/n.sinaimg.cn/spider20230816/463/w779h484/20230816/5af4-4ea556e8f546dddfb1412f4c7ab42042.png?w=640&ssl=1)
需要指出的是,OpenAI的工具並不是該領域第一個引入人工智能的先行者。早於2017年,谷歌的技術團隊就開發了一個基於AI的內容審核API,名為“Perspective”,已經被多家媒體組織所使用。
但即使如此,一些企業仍選擇將審核工作外包給其他人力公司來節省成本。其中,引領智能科技發展的Facebook也被曝僱傭了數千菲律賓年輕人來過濾與恐怖襲擊有關的內容。
![Screenshot-46.webp](https://i0.wp.com/static.cnbetacdn.com/article/2023/0816/e45eb570c046f31.webp?w=640&ssl=1)
媒體報導指出,Facebook將部份監督內容的工作外包到菲律賓,由於工作壓力大,許多人做不到18個月。曾協助Facebook僱傭監督員的經理人說,員工經常因審閱的內容受精神創傷。
OpenAI稱,其最新的內容審核系統為數字平台的未來提供了一個更積極的願景,即AI可以根據平台特定的政策減輕大量人工審核人員的精神負擔。公司還透露,已經有一些客戶在使用這一流程。