Transformer作者已獲得6500萬美元投資專攻通用人工智能
最近,一家AI 初創公司引起了不少人的注意。在推特上宣布成立之時,有不少人為其點贊和轉發。一上來就要搞通用人工智能,什麼來頭?我們看了一下它的創始人名單:
Ashish Vaswani 和Niki Parmar,這不是大名鼎鼎的Transformer 論文作者嗎?
這篇開山之作引用次數已高達4 萬,瀏覽新論文時經常會看到“(Vaswani et al., 2017)”的字樣,以至於這個名字都快被刻進DNA 了。
他們這是,離開谷歌了?
Transformer 作者出走谷歌創業
Ashish Vaswani 和Niki Parmar 兩位作者在推特上的官宣證實了這一消息。
兩位大佬在谷歌乾了5 年有餘,做出了Transformer 這一具有代表性的傲人成績後,開始了新的職業生涯。他們參與創辦的這家AI 公司,名叫Adept ,目標是創造讓人和計算機能夠協同工作的通用人工智能。說的更直白一些,他們就是要打造一個通用模型,它能做到不是讓人用計算機來完成工作,而是讓人和計算機一起使用同樣的工具合作完成工作。
至於為什麼要離開谷歌創業,這事兒還是得從Transformer 說起。
眾所周知,2017 年誕生的Transfromer,具有高度的通用能力,一路從最初的NLP 橫跨CV 等領域,成為了不少巨型模型的基本架構,包括大名鼎鼎的GPT-3、BERT、AlphaFold 等。
截止目前,Transfromer 在谷歌學術上顯示的引用次數已達40723 次。順便還帶火了“xxx is all you need”格式的論文標題黨方式。而Ashish Vaswani 和Niki Parmar 和其他創始人們,正是看重Transformer 的通用智慧,他們表示:
Transformer 應該是第一個對每個主要AI 用例都能“正常工作”的神經網絡。
這讓他們相信:通用人工智能是完全有可能被實現的。
但遺憾的是,儘管他們訓練出了越來越大的Transformer,希望最終建立一個支持所有ML 用例的通用Transformer,但眼下就已經出現了一個明顯的限制:Transformer 可以寫出一篇不錯的文章,我們卻沒法要求它完成幫人訂飛機票、給供應商開發票甚至做科學實驗等等工作。
所以,這些人決定創辦通用人工智能公司Adept。
正如前面所提到的,Adept 要實現的通用人工智能模型不僅是讀讀寫寫,還能使用Airtable、Photoshop、ATS、Tableau、Twilio 等工具幫你完成諸如“生成本月閱讀報告”等工作。
因此有人認為,Adept 的目標更像是協作智能,它選擇了和其他通用人工智能(AGI)公司截然不同的實現道路,即並非建立AGI 來接管各種有價值的任務,而是建立AI 工具,來幫人類完成任務。這種方式更容易實現。
創業陣容豪華
Ashish Vaswani 博士畢業於南加州大學,在谷歌大腦工作已有5 年;Niki Parmar 則是在印度上完大學後,同樣在南加州大學讀完碩士,在谷歌工作了近7 年。
Adept 的創始團隊陣容除了這兩位以外也非常豪華:
Kelsey Schroeder,斯坦福大學計算數學(computational mathematics )專業碩士,前谷歌大模型生產infra 的產品負責人;
Anmol Gulati,在谷歌主要做語音識別模型;
Augustus Odena,在谷歌領導大型語言模型相關的工作,也有不少圖像合成方面的研究;
David Luan,前OpenAI 加州實驗室工程副總裁,參與過GPT-2、GPT-3、CLIP 和DALL-E 等模型的開發工作,後來他加入谷歌,擔任谷歌大腦大模型研究的Director;
Erich Elsen,機器學習和高性能計算交叉領域的研究人員,前Deepmind 員工,主要研究大模型,在更早之前,還分別在谷歌和百度(矽谷AI Lab)乾了兩年;
Fred Bertsch,谷歌數據和協作人工智能係統方面的專家。
最後一位,Maxwell Nye,是剛從MIT 畢業的一位博士生,研究重點為自動代碼生成。
總的來說,可謂大佬雲集,且各有專攻。
他們的雄心壯志也順利為公司拉來了6500 萬美元的天使輪融資,投資人包括Uber CEO、特斯拉自動駕駛負責人、Airtable 創始人等。
目前,該公司已經開放招聘,共包含13 種崗位。
還有一件事
Transformer 作者一共有8 位,都具有同等貢獻。
其實在Ashish Vaswani 和Niki Parmar 之前,已經有1 位——Aidan N. Gomez 也出來創業了。
Aidan N. Gomez 的公司Co:here 還是專注於NLP。
Co:here 去年5 月成立,還不到一年,投資者陣容倒是也很強大,包括圖靈獎得主Geoffrey Hinton、GAN 之父Ian Goodfellow,以及斯坦福大學教授李飛飛等人。
不知道若干年以後,Adept 以及Co:here 能取得什麼樣的成果。
參考鏈接:
[1] https://twitter.com/AdeptAILabs/status/1518975477917962245
[2] https://www.adept.ai/post/introducing-adept
來源:量子位