大模型開不開源,矽谷大佬激辯: 一方談科學進步另一方提國家安全
風投界的兩位巨頭,馬克·安德森(Marc Andreessen)和維諾德·科斯拉(Vinod Khosla),近期在X平台激烈辯論人工智能應該開源還是閉源,此議題迅速成為矽谷最具爭議的焦點之一。
安德森等人強烈支持開源人工智慧,他們認為共享知識是科學進步的關鍵,提高透明度能夠防止大公司壟斷這項革命性技術。而科斯拉等閉源人工智慧的支持者認為,讓私部門掌握人工智慧技術,是防止濫用和潛在風險的有效方法。
開源人工智慧意味著科技將對公眾免費開放,以促進共同的建設和分享。而閉源或專有人工智慧則被其創作者控制,不對外公開。儘管二者看似對立,但其實可以和諧共存。例如,許多公司在開源程式碼的基礎上發展出自有的專有系統。
此場辯論起因於特斯拉CEO埃隆·馬斯克(Elon Musk)對OpenAI及其CEO薩姆·奧特曼(Sam Altman)的起訴,凸顯了人工智慧的部署和安全問題的複雜性,特別是在監管機構、大型科技公司和科學家等對人工智慧的發展邊界和速度仍在探索時,想要找到明確的答案何其困難。
在人工智慧是否該開源的爭論中,身處漩渦中心的科技巨頭們已經明確了各自的立場。Meta堅定支援開源人工智慧,發布了Llama 2模型供全球開發者使用和改進。緊隨其後的是法國Mistral AI,發布了具有開放「權重」的模型,即模型運作的核心參數。
然而,業界領導者OpenAI和Anthropic採取了完全不同的策略,他們提供的是閉源人工智慧模型,並堅持把技術牢牢控制在自己手中。
在這場辯論中,安德森於上週六透過社群媒體X發文。他指責科斯拉正在「遊說禁止開源」。這發生在科斯拉公開支持OpenAI及其CEO奧特曼之後。而他的支持是在馬斯克對OpenAI提起訴訟之後表達的;馬斯克指責奧特曼和OpenAI違背了公司創立時的原則,把追求利潤放在了開源人工智慧之前。
身為科斯拉創投公司(Khosla Ventures)的創辦人,科斯拉不僅支持OpenAI的獲利性業務,還聲稱,人工智慧就如同核武一旦開源將可能威脅到國家安全。他甚至引用了OpenAI首席科學家伊利亞·蘇茨凱弗(Ilya Sutskever)的話說,“不分享科學也是完全可以的。”
科斯拉風投公司的一位發言人進行了解釋。他說,科斯拉確實曾支持開源技術。然而,科斯拉現在認為,大型人工智慧模型「關乎國家安全和技術」優勢,這些模型需要嚴密保護,不應輕易開源。
安德森所在的安德森-霍洛維茲(Andreessen Horowitz)創投公司對此開源與閉源的辯論保持緘默,對評論請求沒有回應。
雙方雖立場對立,但均認同一個觀點:驅動ChatGPT等AI工具的大語言模型仍處於成長階段。ChatGPT與其他人工智慧工具面臨的問題眾多,包括產生幻覺性輸出、偏見性結果,甚至有潛力輸出有害或攻擊性內容。此外,這些模型的應用和訓練成本高昂,還會消耗大量能源。
開源支持者認為,正是這些技術的未成熟,更凸顯了開源的重要性。他們認為,只有在科學家和學者組成的開放的科研社群內,才能排除商業利益的干擾,共同推動通用人工智慧的發展,最終實現機器能夠如同人類一樣學習和思考。
艾倫人工智慧研究所(Allen Institute for AI)的執行長阿里法哈迪(Ali Farhadi)表示:「我們現在正處於一個關鍵節點,大規模部署了一項我們尚未完全理解的技術,也不知道如何有效控制這些系統。」該研究所由已故微軟聯合創始人保羅艾倫(Paul Allen)於2014年創立,是一個致力於人工智慧研究的非營利組織。
法哈迪及其他支持開源的人士強調,共享研究成果是科學界的長久傳統。人工智慧的發展不是從2017年谷歌分享的「轉換器」(Transformer,GPT中的T)模型開始的,背後有更深遠的歷史。
同時,一些美國議員支持科斯拉的觀點,他們擔心自由分享的人工智慧技術可能會落入國外競爭對手手中,因此認為應該加以保護。許多主張閉源的人工智慧公司也持類似立場,認為這種技術可能對人類生存構成威脅,可能帶來災難性後果。
奧特曼也強調,OpenAI高度重視其在開發人工智慧方面的安全責任,堅信應該小心謹慎。他同時承認,人工智慧為企業帶來了巨大商業機會。
回顧歷史,軟體產業的開源運動,自Linux等專案興起後蓬勃發展,為當前開放與封閉的辯論提供了豐富的歷史借鑒。開源軟體已成為包括雲端運算在內的眾多技術領域的基石,其商業化甚至促成了亞馬遜等科技巨頭的誕生。然而,開源軟體也面臨網路安全挑戰,因為任何人都能輕易下載和修改程式碼。
專家指出,封閉和開源技術並不是互相排斥的,兩者可以並行發展。Meta負責產生人工智慧的副總裁艾哈邁德·達勒(Ahmad Al-Dahle)就認為,把開源和封閉視為二選一的對立選擇是誤導,實際上兩者各有其發展空間。
人工智慧新創公司AI21的共同創辦人兼聯席CEO奧裡·戈申(Ori Goshen)也分享了相似觀點,他認為,「開源在人工智慧領域扮演著至關重要的角色。即便是像AI21這樣的專有供應商,其基礎模型最終也可能開源,商業價值將來源於獨特的知識產權。”