OpenAI承諾投入20%算力防止AI失控但從未兌現
2023年7月,OpenAI成立了由前首席科學家伊利亞·蘇茨克沃和詹·萊克(Jan Leike)領導的人工智慧超級對齊團隊,致力於確保未來的人工智慧系統能夠被安全控制。為了顯示其對此目標的重視程度,該公司公開承諾將未來四年所獲算力的20%用於這項工作。
現在,不到一年後,這個名為超級對齊的團隊已經解散,員工紛紛辭職,並指責OpenAI將產品發佈置於人工智慧安全之上。據熟悉OpenAI超級對齊團隊運作的六位消息人士透露,OpenAI從未履行向該團隊提供20%算力承諾。
相反,消息人士透露,該團隊一再要求使用圖形處理單元(訓練和運行人工智慧應用程式所需的專用電腦晶片),但卻被OpenAI領導層拒絕,儘管該團隊的計算總預算從未接近承諾的20%門檻。
這些披露讓人質疑OpenAI在兌現其公開承諾方面有多認真,以及該公司做出的其他公開承諾是否值得信任。
該公司目前正捲入與好萊塢影星史嘉蕾喬韓森(Scarlett Johansson)的糾紛中,他指責該公司在未經她同意的情況下使用酷似她聲音的AI語音。在這種情況下,人們對OpenAI公開聲明的可信度提出了質疑,該聲明稱,其稱之為“Sky”的AI語音與約翰遜的聲音之間的相似性純粹是巧合。
OpenAI否認在未經約翰遜允許的情況下使用她的聲音,稱其付錢給了一位專業女演員來製作Sky語音,並表示不能披露她的名字。但約翰遜的說法讓人們對此產生了懷疑,社交媒體上有人猜測,OpenAI實際上克隆了約翰遜的聲音,或者可能以某種方式將另一位女演員的聲音與約翰遜的聲音混合在一起,創造了Sky語音。