馬斯克用微軟論文當論據起訴OpenAI:你們自己早承認AGI了
大概也只有馬斯克敢了。用微軟論文當證據,起訴OpenAI。一年前微軟研究院發表的論文《Sparks of AGI:Early experiments with GPT-4》,現在成為了馬斯克起訴書中的關鍵角色。這篇論文透過分析早期GPT-4的能力,認為GPT-4可以被視為早期AGI。
去年論文發表時引發不小關注,1年被引次數已經高達1500次。
馬斯克的起訴書裡寫道,微軟自己的科學家自己也承認了。
這麼看,OpenAI最新的一通回應不是啪啪自己打臉?
還真不一定。
這篇《Sparks of AGI》當初爆火確實不假,但其中很大一部分熱度來自爭議。
不少人覺得它不夠嚴謹、在炒熱度,而且這篇論文沒有經過同行評議,只是上傳到了arxiv,結果也無法復現。
所以這篇論文到底說了啥?馬斯克憑啥敢拿它大做文章?
論文說了啥?
這篇論文主要測試了GPT-4在2022年秋季的一個早期版本。
研究提出,GPT-4不僅掌握語言能力,還能解決複雜新穎的問題,任務可以跨數學、編碼、醫學、法律、視覺等。
在這些任務中,GPT-4的表現接近人類水平,大大超越以往LLM性能,例如ChatGPT。
由此,研究給出了關鍵性結論:
我們認為它可以被合理地視為一個早期版本(仍不完整)的AGI。
在此基礎上,研究團隊也進一步探討了真正意義上的AGI應該具備哪些要素。
論文全篇超過150頁,分別測試了GPT-4的多模態、程式碼、數學、常識等能力,透過大量實例得出結論。
以測試程式碼能力為例,GPT-4和ChatGPT會得到相同的提示詞,研究者將會對回答結果進行分析。
GPT-4的一些數據結果非常值得關注。
例如在零樣本下,GPT-4程式碼能力在HumanEval上的精確度達到82%。
再例如在現實問題問答中,GPT-4的表現也遠勝於ChatGPT。
研究也討論了GPT-4基於自回歸架構表現出的限制。
例如模型本身俱備對應的知識能力,但卻會回答錯問題,因為預測下一個token的機制使得模型不能進行「內心對話」。
最後,論文作者也提出了對AGI的一系列構想。
這篇論文發表在GPT-4面世的一週後,引發業界巨大關注。
「AGI的閃現」讓不少人感嘆,一切都結束了。
但質疑也不少,很多人覺得這個結論是不是有點誇大其詞了?
而且研究團隊承認使用的一些測試方法不夠科學嚴謹,他們主要是想展示GPT-4卓越的能力。
不過可以肯定的是,這篇論文成功把GPT-4和AGI強關聯,為GPT-4創造了更多討論熱度,也成為AGI討論熱潮的重要推力。
但誰又能想得到,它現在倒成為馬斯克起訴OpenAI的關鍵了。
馬斯克到底想幹啥?
馬斯克搞事,總是醉翁之意不在酒。
去年他和千名大佬共同呼籲暫停開發AI半年,結果轉頭自己囤卡、開搞大模型,火速成立AI新創公司xAI。
今年起訴OpenAI,核心的目的是督促其開源。
號稱GPT-4是AGI也是給OpenAI上道德壓力。一方面要求他們開源,另一方面提出「AGI演算法不應該授權給微軟」。
所以有人合理懷疑,這場官司「會讓一切減速」。
同時,馬斯克的Grok也還在穩定地推進中,目前已發表Grok-2。
值得一提的是,去年OpenAI宮鬥前後,馬斯克曾在訪談中表示,從現在(23年12月)算起,AGI還有不到3年。
但往小了說,寫小說和JK羅琳一樣好、能發現新物理規律或發明新技術的AI,從現在算起不到3年。
當時他還表示覺得山姆·奧特曼很複雜。
目前,OpenAI方面除了否認GPT-4是AGI外,還沒有更多回應。
有法律專家認為,馬斯克列出的一系列觀點,很難被當成明確的條款來執行。“訴訟可能比較牽強”,但是提出了“強有力的政策論點”。
有圈內大V還覺得馬斯克這麼乾,有點吃不到葡萄說葡萄酸。
馬庫斯則調侃說,馬斯克這麼做逼得OpenAI不得不承認自己沒達到AGI,但可以找第三方來承認。
例如僱我這樣的人來拯救他們。