被譽為「AI教父」的加拿大電腦科學家、深度學習技術先驅、2018年圖靈獎得主約書亞·本吉奧（Yoshua Bengio）公開表示，隨著ChatGPT的推出，AI技術風險的時間被壓縮，不幸的是，我們無法利用十年的時間解決AI風險和政策監管問題，而是更短的時間，因此產業需要馬上行動，加速AI安全政策落地。

「制定政策需要花費大量時間，它需要解決多年分歧，像這樣的立法都需要數年時間才能頒布，需要建立一些流程，需很多年時間才能真正做好這個工作，」本吉奧對彭博社表示，他現在擔心可能沒有太多時間「做好這件事」。而且更糟的是，AI風險這不僅是監管問題，它更是國際條約，大家需要在全球解決這個問題。

據悉，本吉歐出生於巴黎，成長於加拿大，現居加拿大蒙特婁，在蒙特婁大學（University of Montreal）電腦科學與運算系任教授。他於1991年獲得加拿大麥基爾大學電腦科學博士學位。本吉奧的主要研究領域是深度學習和自然語言處理。

30餘年的深度學習研究生涯裡，本吉奧發表了300多篇學術論文，累計被引用次數超13.8萬次。吳恩達曾表示，本吉歐的許多理論研究對他有很大啟發。

2018年，他與“神經網絡之父”Geoffrey Hinton和“卷積網絡之父”Yann LeCun三人因開拓深度學習技術理論而獲得“圖靈獎”，他們三位也被AI 行業稱為“AI三巨頭」、「深度學習三巨頭」、「三大AI教父」。

身為「深度學習三巨頭」之一的本吉歐曾指出，AI一詞正在被濫用，有些公司擬人化了AI系統，彷彿AI系統是與人類相當的智慧實體，但其實目前還沒有出現與人類智慧相當的實體。當然，他依然愛AI 這項技術。

本吉歐表示，在2022年底ChatGPT出現之前，他認為真正的AI 風險至少還要幾十年才會出現，他曾經有一段時間並不怎麼擔心AI安全問題，並且認為人類距離開發出能夠與人類匹敵的AI 技術還有“幾十年的時間”，他假設我們可以在面對風險之前“收穫AI的好處”多年。

但現在，ChatGPT的推出完全改變了他的想法。他不再那麼確定了。他對AI發展速度的假設——以及技術對社會構成的潛在威脅——在2022年底OpenAI發布ChatGPT後被顛覆了，因為人類水平的AI 技術已經到來。

「自從我們最終擁有了能夠與我們對話的機器（ChatGPT）後，我完全改變了我的想法，」本吉奧表示，「我們現在有了能夠掌握語言的AI機器。我們沒想到會這麼快就做到這一點。人們普遍認為，一旦我們達到人類水平的智能，就很難預測會發生什麼——我們最終會得到非常非常好的東西還是非常非常壞的東西，以及我們該如何應對。正是我目前在科學和政策方面工作的動力。

在ChatGPT引發全球關於AI 風險的討論之後，本吉奧開始投入更多的精力倡導AI監管，並且與同為學術界和AI 先驅的Geoffrey Hinton一起公開支持一項有爭議的加州AI 安全法案SB1047，該法案將使公司在不採取安全預防措施的情況下，對其AI模型造成的災難性傷害負責。

本吉奧認為，這是“桌上第二重要的提案”，僅次於歐盟的AI法案。

當地時間8月15日，飽受爭議的美國加州《前沿AI模型安全創新法案》（後稱加州AI安全法案SB 1047）在大幅削弱相關條款之後，最終順利通過加州眾議院撥款委員會的審核。

SB 1047旨在透過追究開發者的責任來防止大型AI 系統造成大量人員死亡或造成損失超過5 億美元的網路安全事件。順利通過審核之後，這意味著，該法案朝著成為正式法律法規邁出了重要一步，也是美國在AI監管上邁出的重要一步。

但是，加州AI安全法案飽受爭議。史丹佛大學教授李飛飛、Meta首席科學家楊立昆等人認為，該法案最終將會損害加州乃至美國在AI領域的領先地位，100多位學界人士也發文反對，風投機構a16z專門建立網站細數法案六宗罪。

甚至前美國眾議院議長南希·佩洛西（Nancy Pelosi）也發聲明反對此法案，認為加州AI安全法案意圖良好但缺乏充分了解，許多重要的加州科技公司學者和負責人都表示反對該法案，認為它弊大於利。

最新一個反對加州AI 法案的是OpenAI。 OpenAI本週發文稱，該立法將損害AI創新，並可能對美國在AI 和國家安全方面的競爭力產生「廣泛而重大」的影響。

然而，本吉奧卻表示，加州AI安全法案避免了過於規定性，而是使用責任來確保AI公司不會忽視「合理專家會做的」安全預防措施。 “它將為公司創造一個激勵，使他們不會成為班上最糟糕的學生。”

本吉奧指出，圍繞AI 監管的討論可能會受到創投家和希望從該技術中獲利的公司的影響。 「你可以將其與氣候變遷、化石燃料公司等進行類比，」他說。

「事實並非如此，事實恰恰相反。它沒有那麼大的約束力。它並沒有施加多大影響。它只是說：如果你造成了數十億美元的損失，你就要負責。幾十年來，整個計算領域在某種程度上一直不受任何形式的監管。利潤（加州大學柏克萊分校教授、人工智慧系統中心創辦人Stuart Russell表示）會激勵企業反對任何監管。

談到風險管控，本吉歐指出，「我認為自己對風險持懷疑態度。我聽過很多很好的論據，認為比我們更聰明的人工智慧可能非常危險。甚至在它們比我們更聰明之前，它們就可能被人類以對民主極其危險的方式使用。論點，它們都是合理的。他們不能在計算和AI 領域做到這一點。

本吉歐一再強調，他沒想到人類會這麼快掌握對話式AI語音技術，而且目前至少達到足夠人性化的程度。

「我認為，對危險事物進行快速創新的渴望是不明智的。在生物學領域，當研究人員發現透過所謂的功能獲得研究可以製造出危險的病毒時，他們一起決定，好吧，我們不這麼做了。那麼具有挑戰性，但更重要的是，同樣的深度偽造可能會扭曲社會。不夠：目前甚至未來的系統說服人們改變想法的能力。自己是在和人交談還是在和機器交談的人改變對某事的看法。

本吉奧指出，“我們應該在AI方面採取類似的預防原則行為。”

展望未來，本吉歐強調，所有AI技術應用仍會以健康方式改變人類的生活方式。例如在生物學方面，AI會了解身體如何運作、每個細胞如何運作，這可能會徹底改變醫學和藥物研發等領域；氣候方面它可以幫助製造更好的電池、更好的碳捕獲、更好的能量儲存。

「雖然還沒有發生，但我認為這些都是我們可以用AI 做出的很好的技術產品。順便說一句，這些應用——它們大部分都不是危險的。因此，我們應該在這些顯然可以幫助社會應對挑戰的事情上投入更多。