「ChatGPT之父」劍橋演講遭抵制學術大佬激戰AI安全
隨著美國政府發布新的AI 法規,關於監管AI 大模型一事最近又起爭議。北京時間11月2日凌晨,「ChatGPT之父」、OpenAI CEO奧特曼(Sam Altman)在英國劍橋參加活動時,遭到了反AI 活動的激進分子的強烈抵制,在大禮堂裡當面被「砸場子”,少數抗議者要求停止AI 競賽。
OpenAI CEO奧特曼(Sam Altman)
有些抗議者甚至在陽台上懸掛橫幅、丟下傳單,場面一度十分混亂。當然,奧特曼在現場倒是很鎮定,氣定神閒地完成了這場活動。
奧特曼在演講中表示,即便未來AI 模型夠強大,但也需要巨大的算力才能運作。如果提高了算力門檻,能夠降低蓄意犯罪風險,也能提高問責性。早前,OpenAI聯合創始人Ilya Sutskever直言,ChatGPT可能是有意識的,AI 將有潛在風險。
同時, Meta AI 首席科學家、2018年「圖靈獎」得主楊立昆(Yann LeCun)近日則多次在社群平台上痛批Altman、DeepMind CEO 傑米斯‧哈薩比斯(Demis Hassabis)、Anthropic CEO等人正向美國政府“進行大規模的企業遊說”,最終可能會導致只有少數大科技巨頭能控制AI 技術。
楊立昆直指這些人散播恐懼活動。“如果他們成功,你我將不可避免地導致一場災難——少數公司將控制AI。”
隨後,哈薩比斯駁斥,“我非常不同意楊立昆的大部分言論。”他指出,在討論如何最好地利用AI 時,GoogleDeepMind並不是試圖實現“監管捕獲”,現在就開始討論如何監管潛在的超級AI 更為重要。
在AI 大模型競爭日趨白熱化的當下,行業進入“混戰”,圍繞巨頭控制AI 這一話題,所有人都在進行激烈交戰。
AI 是人類最大威脅?馬斯克:AI 將比人類更聰明
在過去的近12個月內,ChatGPT席捲全球,生成式AI 已完全成為今年科技圈的中心話題。
如今,蘋果公司也開始擁抱AI。
在北京時間11月3日上午四季財報會上,蘋果公司CEOTim Cook(TimCook)談到,蘋果公司已經在生成式AI 方面開展各項工作,並正在投入大量的資金負責任的去做。“隨著時間推移,你會看到以這些技術為核心的蘋果產品將得到進步。”
早前彭博社報道稱,蘋果正在AI 領域悄悄追趕競爭對手,一方面加大了AI 相關的招募力度,另一方面還透過併購新創公司的方式,加速AI 技術的成熟和落地,而且內部已著手開發大語言模型,內部稱為AppleGPT。
同時,2,200億美金身價的世界科技首富、特斯拉CEO埃隆·馬斯克(Elon Musk)成立的xAI 團隊也被傳首批產品信息,包括與AI信息檢索相關Grok、提示詞工作站PromptIDE等。此外,Google、微軟、亞馬遜等科技巨頭也參與AI 浪潮。
然而,包括馬斯克、奧特曼等行業領導者,最近卻每週談論宣揚AI 具有潛在殺傷力、AI 存在風險等話題。這似乎變成了一個「小圈共識」。
11月2日,馬斯克在英國AI 峰會期間就表示,AI 是人類最大威脅之一,而AI將會成為歷史上最具顛覆性的力量,並將比人類更聰明。他相信,AI終有一天會令所有人失去工作。
「AI有能力做任何事,我不知道這會令人類覺得舒適,還是不舒適。若你想要一個魔法精靈,AI會滿足你所有願望,而且沒有任何限制,也不會只有3個願望的制約,這是好,也可以是壞,未來的挑戰將會是我們如何找到生命的意義。」馬斯克說。
馬斯克曾多次警告,AI 比核武(核彈)更危險。
奧特曼也多次表示,政府管控。10年內,全球將可能擁有一個強大的AI 系統(AI System),但現在,人類需要為此做好準備。
美國政府也對AI 安全問題開始監管。10月30日,美國總統拜登簽署了一項針對AI 的新的行政命令,針對AI 安全標準方向採取有史以來最全面的行動,保護美國人的隱私,促進公平和公民權利,維護消費者和工人的利益,促進創新和競爭,以及在國外推進美國的領導地位等,管理AI 潛在風險。
值得一提的是,在新的行政命令中,加強了對AI 巨頭公司的支持力度,例如透過研究資金和其他手段支持AI研究、吸引外國人才等。
一石激起千層浪。
隨後,「圖靈三巨頭」等AI 學術專家圍繞AI 監管展開了激烈討論,主要分成了兩派:以楊立昆和吳恩達為代表的人認為,車還沒造好就想剎車什麼車,AI 沒到監管的階段;而包括馬斯克、奧特曼、「深度學習之父」傑弗瑞‧辛頓(Geoffrey Hinton)等人卻認為,AI依然非常危險。
其中,楊立昆直言不諱的表示,如果美國持續支持科技巨頭的AI 研究,最終可能會導致只有少數大科技巨頭能控制AI,從而不可避免地導致一場巨大的風險與災難。
「和許多人一樣,我非常支持開放式AI 平台。但我也相信,未來AI 是人們創造力、民主、市場力量和監管等多種力量的結合。」楊立昆在X平台寫道。
Google大腦開創者、史丹佛大學教授吳恩達也支持楊立昆。他表示,對AI技術發展進行強監管是一個「陰謀」。
“這會摧毀創新”,吳恩達指出,“肯定有一些大型科技公司不願意與開源AI競爭,因此他們正在製造對AI導致人類滅絕的恐懼。這一直是遊說者尋求的立法武器,但對開源社區來說是非常有害的。隨著許多國家監管的發展方向,我認為沒有監管會比現在的情況更好。”
但同時,10月25日,圖靈獎得主約書亞·本吉奧(Yoshua Bengio)、「深度學習之父」傑弗裡·辛頓(Geoffrey Hinton)、姚期智(Andrew Yao)、張亞勤等AI 產業專家也簽署了一封聯名信,信中繼續呼籲加強對於AI技術發展的監管,認為在開發這些系統之前應採取緊急治理措施,並在AI研發中向安全和道德實踐進行重大轉變。
如今,這場圍繞AI 安全監管的學術大佬間激烈交戰仍在持續。AI 目前已深入從搜尋引擎、社交到金融等各個領域,因此專家們對這場AI 軍備競賽、安全風險、深度造假等挑戰提出了嚴重擔憂。
Yoshua Bengio、Geoffrey Hinton、Yann LeCun
而很多網友擔心大佬們的關係會不會受到論戰的影響。楊立昆前段時間發了一張與Yoshua Bengio、辛頓之間的合照,似乎很好地回應了這個問題。
11月3日,美國政府表示,已成立AI 安全研究所,希望透過美國商務部等機構的立法身份,制定監管AI 未來的標準和規則。
監管加速,未來10年人類或將全面進入智力時代
11月1日,在英國倫敦布萊奇利園舉辦的首屆人工智慧安全高峰會上,發布了《布萊奇利宣言》,宣言稱AI 帶來巨大機遇,有潛力增強人類福祉、和平和繁榮,但同時AI 也帶來重大風險,而需要透過國際合作的形式來解決各種風險。
會上,包括美國、中國及歐盟在內的超過25個國家和地區簽署了該宣言。英國首相蘇納克表示,「這是一項具有里程碑意義的成就,世界上最強大的AI 強國都認識到『了解AI風險』這件事的緊迫性,這有助於確保我們下一代的長遠未來。作為領導人,我們有責任採取行動,採取措施保護人民,這正是我們正在做的事情。”
宣言中指出,AI 將帶來重大風險,包括在日常生活領域,“所有問題都至關重要,我們確認解決它們的必要性和緊迫性。”
「為了實現這一點,我們申明,為了所有人的利益,AI應該以安全、以人為本、值得信賴和負責任的方式設計、開發、部署和使用。」宣言稱,AI產生的許多風險本質上是國際性的,因此最好透過國際合作來解決—識別共同關注的AI安全風險以及支持具有國際包容性的前沿AI 安全科學研究網絡。
11月3日,在北京大學舉辦的「新一代人工智慧前沿論壇」上,北京大學計算機學院教授,北京智源人工智慧研究院院長黃鐵軍表示,目前這場爭論問題在於,大家對AI 的基本認識不同,很多搞科學思維的人不相信通用人工智慧(AGI)會實現,而包括楊立昆在內的另一種技術思維認為AI 發展可行。
「這是兩種完全不同的思維方式,誰也說服不了誰。所以爭論背後,是大家完全是用不同的立場、不同的思維方式來看這一問題。」黃鐵軍在演講中寫道。
對於未來AI 大模型技術的發展,黃鐵軍給出了3年、10年和20年階段的預期。
未來3年,大模型將擴展到視覺、聽覺、具身智能、行動等通用智能、規模變大、尺度變小,成為具身智能的「大腦」;普通語言升級為科學語言,人工智慧解決重大科學問題。
未來10年:人類全面進入智(能)力時代,就像工業革命解放體力,就像電力革命解決能源流通,以智力為核心的科技、經濟、社會生態建構完成。
未來20年:目前大模型是資料驅動的靜態智能,未來是時空環境驅動的動態智能,智能載體升級為類腦的脈衝神經網路;2045年,結構仿腦、功能類腦、效能超腦,物理AGI到來。
此外,Al安全至少要同等重視,否則人類面臨巨大風險。
在黃鐵軍看來,未來10年,整個世界的經濟社會、科技的形態可能都會發生一個重大的變化,智力將成為社會運作的基本要素,就像今天的電力無所不在一樣,世界就形成了。而2045年,在AI 技術下,人類可以實現即時智慧數據,並將迭代升級,大腦、後續決策也會改變。
「我認為,2045年之前,像我們人類所有的這些靈感創新能力,會在一個非有機體上出現,但如果出現,那就是一個巨大的風險,我們人類要不要做這個選項,還是說可以慢一點,這需要多討論。」黃鐵軍在演講結尾表示。