馬斯克質疑OpenAI首席科學家:“你到底看到了什麼,會如此害怕”
2015年,馬斯克(Elon Musk)對伊利亞·蘇茨凱弗(IlyaSutskever)加入OpenAI擔任首席科學家起到了重要作用。現在,特斯拉CEO想知道蘇茨凱弗在這家新創公司看到了什麼,讓他如此害怕,以至於他想解僱CEO薩姆·奧特曼(SamAltman)。
蘇茨凱弗最近被馬斯克形容為“好人”、“心地善良”,是“OpenAI成功的關鍵”。他此前擔任OpenAI董事會成員,該董事會於11月18日宣布解僱奧特曼。實際上,正是蘇茨凱弗通知奧特曼被解僱。然而,在微軟主導的投資者推動下,OpenAI董事會進行了改組,奧特曼成功復職。
上週一,蘇茨凱弗改變了立場,他在社交媒體平台X上寫道:“我對自己參與董事會的行動深感遺憾。我從未想過要傷害OpenAI。”
但馬斯克和其他科技業人士,包括嘲笑解僱奧特曼的人,仍然好奇蘇茨凱弗在OpenAI看到了什麼。
上週四晚些時候,創投家馬克安德森(MarcAndreessen)在X上發文問道:「說真的,蘇茨凱弗到底看到了什麼?」幾個小時後,馬斯克也回覆說:「是的!肯定有些嚇人的東西,蘇茨凱弗被嚇得想炒了奧特曼。那到底是什麼?”
答案至今仍然是謎。OpenAI董事會對解僱奧特曼的理由只是含糊其辭,此後也沒有透露太多資訊。
OpenAI的目標是開發通用人工智慧(AGI),並確保它「造福全人類」。AGI指的是面對不熟悉的任務時能夠表現出與人類能力相當的系統。
OpenAI採用了獨特的公司結構,將非營利董事會置於利潤上限公司之上。如果董事會認為商業化的具有潛在危險的人工智慧技術正在以不安全的速度發展,就可以解僱CEO。
上週四,幾名OpenAI研究人員在一封信中警告董事會,一種新的人工智慧可能對人類構成威脅。隨後,OpenAI內部發出郵件承認了一個名為Q*(即Q-star)的項目,有些員工認為這可能是該公司尋求AGI突破的項目。
據報道,Q*在基本的數學測驗中表現出色,顯示出推理能力,與聊天GPT的行為有所不同。
馬斯克一直在提醒人工智慧對人類的潛在威脅,儘管他也看到了人工智慧的好處,現在他的xAI公司提供了一個名為Grok的ChatGPT競爭對手。
馬斯克在2015年與他人共同創立了OpenAI,並幫助吸引了關鍵人才,包括蘇茨凱弗,但幾年後他離開了。馬斯克後來抱怨道,他曾希望這家非營利組織能夠在人工智慧領域抗衡谷歌的主導地位,但現在它似乎成為了一家「由微軟有效控制的、利潤最大化的封閉來源」。
之前,馬斯克對OpenAI董事會解僱奧特曼的決定發表了觀點。他寫道:“考慮到先進人工智慧的風險和力量,公眾應該了解董事會為什麼認為他們必須採取如此激烈的行動。”
當一名社交媒體平台X的用戶暗示可能有一個未為公眾所知的“重磅炸彈變量”時,馬斯克回答說:“沒錯。”
在上週一改變立場之後,蘇茨凱弗在周三回應了奧特曼的回歸,他寫道:「任何語言都無法表達我有多高興。」(小小)