「ChatGPT之父」關於人工智慧有哪些新觀點?
在瑞士達沃斯,美國開放人工智慧研究中心(OpenAI)執行長薩姆·奧爾特曼無疑是炙手可熱的「明星」之一。奧爾特曼被譽為「ChatGPT之父」。2022年11月,OpenAI推出大語言模式ChatGPT,掀起了生成式人工智慧的熱潮。最近在世界經濟論壇2024年年會上,奧特曼發表了哪些關於人工智慧的最新觀點?
![](https://i0.wp.com/n.sinaimg.cn/finance/transform/59/w550h309/20240119/1533-fb9434505fd007bae35e6e73de9c918a.png?w=640&ssl=1)
人工智慧會降低我們對彼此的關注嗎?
1997年,當IBM公司開發的人工智慧系統“深藍”擊敗國際象棋世界冠軍加里·卡斯帕羅夫時,有評論員預測“這將是國際象棋的終結”,此後沒有人會再費心看棋或下棋。
但時至今日,「我們仍對人類所做的事情非常感興趣,幾乎沒人觀看兩個人工智慧對弈,」奧爾特曼說,他在讀完自己喜歡的書後,第一件事就是了解作者的生活,「我想感受到與那個引起我共鳴的人之間的聯繫」。
奧爾特曼說,人類始終在獲得更好的工具,但有一點不會改變,那就是「今天我們仍然非常關注彼此」。
需要擔心人工智慧取代人類工作嗎?
奧爾特曼認為,人工智慧將對人類工作產生巨大影響。如今,人工智慧已成為“令人難以置信的生產力工具”,但尚未以經濟學家擔心的規模取代工作。
人類還能從事哪些工作?奧特曼以自己為例說,「我並不是人工智慧研究人員,我的角色是弄清楚我們將做些什麼,然後與其他人合作並實現目標。」他認為,未來,人類將在更高的抽象層次工作,也將獲得更多能力。
人工智慧監管是好事情嗎?
奧爾特曼表示對人工智慧技術實施監管表示歡迎。他認為各方在發展人工智慧技術過程中“遵守高標準是件好事”,科技業有責任將社會意見納入諸如價值觀和安全閾值等決策中,以保證收益大於風險。
奧爾特曼強調,「應讓社會和技術共同發展,建構這些(人工智慧)系統時,應透過非常嚴格的回饋循環和路線修正使其逐步發展,在符合安全要求的同時提供巨大價值」。
比技術更難的問題
奧爾特曼指出,對人工智慧進行「迭代部署」意味著社會可以逐漸習慣這項技術,並讓「我們的機構有時間展開討論,以弄清楚如何監管」。
奧爾特曼認為, GPT-3和GPT-4在對價值觀保持一致方面取得了「巨大進展」。但他認為,比科技更難的問題是:誰來決定這些價值觀、預設價值觀是什麼、界線是什麼?它在不同國家如何運作?用它可以做什麼、不可以做什麼?「這是一個重大社會問題。」他說。
AGI是不是「嚴重危害」?
通用人工智慧(AGI)是人工智慧的重要研究方向。去年2月,奧爾特曼曾警告通用人工智慧(AGI)的「嚴重危害」。在世界經濟論壇上,奧特曼的態度已軟化。
與微軟執行長薩蒂亞·納德拉對話時,奧爾特曼表示,AGI將是一個“令人驚訝的持續性事物”,“每年我們都會推出一個新模型,而且會比前一年好得多」。
在另一場對話中,奧特曼認為,AGI可能會在「相當近的未來」得到開發,但「對世界的改變將比我們想像得要小得多,對工作的改變也比我們想像得小得多” 。