“AI有可能像核武那樣使用”:專家呼籲加強國際監管
據日本《每日新聞》4月11日報導,人工智能領域的先驅、蒙特利爾學習算法研究所(MILA)的約舒亞·本喬教授接受《每日新聞》的記者採訪時表示,擔心人工智能被政府和企業惡意利用,成為像威脅人類“核武器”那樣的東西,因此呼籲在人工智能監管方面應達成“強有力的國際協議”。另外,他還希望將人工智能應用於教育、醫療、環保等領域。
本喬是深度學習研究領域的先驅人物。美國開放人工智能研究中心(OpenAI)最近推出了由人工智能技術驅動的自然語言處理工具ChatGPT,而深度學習是利用人工智能技術的此類產品的基礎。
本喬與加拿大多倫多大學的杰弗裡·欣頓教授和美國紐約大學的揚立昆教授一道,被稱為人工智能研究領域的“三巨頭”。
本喬談到了人工智能帶來的巨大利益,同時又強調,“如果已經擁有巨大權力的個人、企業惡意使用人工智能,其很有可能擁有更大的權力”。他指出,如果為了慾望和權力而使用人工智能,“根據個人意誌等(進行心理操作),就能夠將人工智能引向某個方向。你也許會把選票投給(某個被預設好的)候選人”。
本喬還指出,“在將人工智能用於軍事方面,有些國家會考慮加以限制,有些國家則不會”。他表示擔憂地說:“國際合作是有必要的,但令人遺憾的是,目前還沒有國際性的合作體系。”他指出,“由於使用方法的差異,人工智能有可能像核武器那樣使用”,是福音還是罪惡將取決於人。
對於一直進行人工智能研究,本喬一方面表示“不後悔”,一方面也表示,“為了防止錯誤地使用人工智能,我感到應該帶有強烈的責任感來發聲”。另外他還指出,教育、醫療、環境保護等領域,雖然民間企業進行投資後難以獲取利潤,但卻具有重大社會意義,為在這些領域充分利用人工智能,應該進行更多的投資。
ChatGPT可以寫論文、寫詩,人們期待搜索引擎方式發生巨大變化。但是,虛假信息傳播等負面影響也隨之而來。
圍繞這一問題,美國非營利組織生命未來研究所向全社會發布了一封公開信,要求至少在半年時間裡停止開發比ChatGPT更強大的人工智能係統。美國企業家埃隆·馬斯克等人對此表示贊同,本喬也在這封信上署名。