ChatGPT開發商OpenAI的CEO山姆·奧特曼週二表示，一個非常微妙的「社會失衡」就能為AI系統帶來嚴重的破壞，他為此徹夜難眠。奧特曼今日在杜拜舉行的世界政府高峰會（WGS）上透過視訊電話發表講話，他呼籲建立一個像國際原子能總署（IAEA）這樣的機構來監督AI的發展。他說，AI的發展速度可能遠快於世界的預期。

奧特曼說：「有些東西很容易讓人聯想到哪裡出了問題。如果街上的一個機器人出現錯誤，我不是很感興趣。我更感興趣的是一個非常微妙的社會失衡。在這種情況下，即使AI系統本身沒有特別的惡意，事情也會出現可怕的結果。”

所謂的社會失衡，是指一個人的態度和觀點與他人背道而馳時，可能會發生的社會不協調現象。為此，奧特曼希望建立一個像IAEA這樣的機構來監督AI的發展。他同時強調，包括OpenAI在內的AI產業，在製定監管該行業的法規時，不應該處於主導地位。

他說：「我們仍在進行大量討論。當前，幾乎世界上的每個人都在舉行會議，每個人都有一個想法，一份政策文件，這些都沒問題。我們仍處於一個需要辯論的時期，這是健康的。但在未來幾年，我們必須要製定出一項在世界各地都能得到認可的行動計劃。”

奧特曼也稱，如今當看到學校將AI視為對未來至關重要的技術時，他倍感鼓舞。之前，由於老師擔心學生會使用AI來寫論文，一直存有抵制情緒。

奧特曼認為，AI目前仍處於初級階段。他說：“與當初的黑白螢幕手機一樣。給我們一些時間，再過幾年它會比現在好得多。十年後，它應該會非常了不起。”