“今天的大型神經網絡可能已經初具意識了。” OpenAI首席科學家Ilya Sutskever在Twitter上撂下這句話，可謂語不驚人死不休。這下可讓AI圈炸開了鍋，人工智能、神經科學領域專家的回复滾滾而來。

反擊最激烈的就是圖靈獎得主、Meta AI首席科學家Yann LeCun。

LeCun當場回擊，學界大佬紛紛下場

LeCun對此的第一條回復是這樣的：

不同意！（目前的AI）沒有達到“稍微有意識”的下限，甚至還沒有達到“大型神經網絡”的上限。

他還說，如果非要給現階段的AI下定義，那麼：

我認為你需要一種當前網絡都不具備的特定類型的宏架構。

見到自家員工和當初創業夥伴被懟，OpenAI聯合創始人Sam Altman也親自下場評論：

OpenAI的首席科學家表達了對一個神秘想法的好奇心和開放性，用的是“可能”一詞做前提。

而Meta的首席AI科學家卻斬釘截鐵地說“不”。

下面這句語氣略有些嘲諷，似乎是在暗示OpenAI因開放的態度取得了更多成果。

這可能解釋了過去5年的很多情況。

推文結尾處，Sam Altman還不忘挖競爭對手牆腳：

尊敬的Meta AI研究人員：我的電子郵件地址是sama@openai.com 。我們正在招聘！

接著，LeCun還拉上了OpenAI另一位聯合創始人馬斯克，以後者航空與航天技術差異做對比。

一個人可以建造更快的飛機，並打破高度紀錄。

但如果一個人的目標是進入太空軌道，就必須研究低溫罐、渦輪泵等。

不要那麼華而不實。你可以去問問馬斯克。

除LeCun外，其他AI界人士也對OpenAI此番言論口誅筆伐。

知名AI專家、新南威爾士大學教授Toby Walsh插話說：

每次有這種投機性言論放出，我們都需要花好幾個月的努力，才能讓人們消除疑慮。

DeepMind高級研究科學家這樣嘲諷道：

如果這種觀點成立的話，那麼大片麥田裡可能也有一點意大利面。

雖然在Twitter上批評佔據了多數，但仍有一些支持OpenAI的言論。

一位來自MIT CSAIL的研究員Tamay Besiroglu表示：

看到這麼多著名的機器學習人士嘲笑這個想法，真是令人失望。

這讓我對他們能夠解決未來幾十年一些重要問題的能力降低了希望。

他認為，像OpenAI而不是Meta這樣的實驗室更有可能解決在不久的將來在該領域出現的深刻、奇怪和重要的問題。

另外，這次吵架還有個意外的收穫，那就是Sam Altman透露了GPT-4的最新消息。

從他的表述來看，GPT-4很可能是GPT-3的延續。

去年，為OpenAI提供超大型AI芯片WSE-2的公司Cerebras透露，GPT-4約有100萬億個參數，而且還要等上好幾年。

回到這場爭論風暴的“核心”來看，究竟是什麼讓Ilya Sutskever發出這樣的感慨？

或許從他的經歷中可以窺見一斑。

從最初的AlexNet，到後來的AlphaGo，再到見證GPT-3和Codex等模型的橫空出世，幾乎每一次AI領域的“破圈”技術，都有他參與其中。

在AGI道路上“越走越遠”

Ilya Sutskever本碩博畢業於多倫多大學，曾經是Geoffrey Hinton的學生。

事實上，Sutskever正是AlexNet的作者之一。

2012年，在Hinton老爺子的指導下，他和Alex Krizhevsky共同設計了這個架構，在當年ImageNet挑戰賽上奪冠，比第二名錯誤率低10.8%。

Hinton創辦的DNNResearch被Google收購後，Sutskever加入Google大腦任研究科學家。

他曾經參與開發著名的AlphaGo，成為眾多論文作者之一，後者在2016年的圍棋比賽中4比1擊敗了李世乭。

在Google期間，他還與Google大腦的另外兩名科學家合作，提出了NLP經典框架之一seq2seq算法。

2015年末，Sutskever離開Google，與馬斯克、Sam Altman等人共同創立OpenAI。

2018年，在乾了兩年多研究主管（research director）之後，他成為OpenAI的首席科學家（chief scientist）。

可以說OpenAI從GPT-2研發到GPT-3，從擊敗DOTA2冠軍戰隊的Rerun到會寫代碼做遊戲的Codex，他都是親身參與其中的見證者之一。

在他的引領下，OpenAI正在逐漸走向AGI（通用人工智能）的道路。

2021年年初，多模態模型DALL·E和CLIP出現，打通了文字和圖像之間的連接道路。

當時OpenAI就提出研究表示，CLIP與人類的思維方式非常相像，讓網友直呼AGI的到來比想像中要快更多。

同樣是去年，GitHub和OpenAI合作推出自動補全代碼工具GitHub Copilot，AI開始get到部分程序員的技能。

而就在今年年初，OpenAI研究的數學AI模型Lean再進一步，加上神經定理證明器後成功解出了兩道國際奧數題。

如今OpenAI正在研究百萬億參數大模型GPT-4，或許這也與Sutskever發出的這句感慨有關。

“200億參數AI連加減法都搞不定”

但其實，AGI的道路看起來也沒有那麼明朗。

至少就在最近，紐約大學助理教授Brendan Dolan-Gavitt發現，200億參數的大模型GPT-NeoX連最基礎的整數算術題都做不對。

GPT-NeoX並非OpenAI官方的模型，而是一個名叫EleutherAI的機器學習小組搞出來的開源大模型（因為GPT-3沒開源）。

部分結果展示

在Brendan出的100道題目整數加法、減法和乘法中，AI只算對了10道題，雖然其他的答案與正確答案也“差不多”，但畢竟還都是算錯了。可見AI並沒有真正理解四則運算。

至於“神經網絡到底有沒有自我意識”這場討論，網友們同樣發表了自己的看法。

有網友認為，這些大佬與其說是在討論AI有沒有意識，不如說是他們在討論定義是什麼：

也有人調侃，深度神經網絡進入“玄學”深水區了：

還有網友在這場討論的評論區放了個機器人的魔性表情包，“AI眉頭一皺，意識到事情並不簡單”：

對於“神經網絡初具意識”這個觀點，你認為呢？

來源：量子位