諾獎得主阿西莫格魯:不贊成對AI推動經濟成長的過度樂觀預測
2024年諾貝爾經濟學獎得主揭曉。麻省理工學院(MIT)教授達龍·阿西莫格魯(Daron Acemoglu)、MIT教授西蒙·約翰遜(Simon Johnson)、芝加哥大學教授詹姆斯·A·羅賓遜(James A. Robinson)3人共同獲得這一獎項,表彰其「對制度如何形成以及如何影響繁榮的研究」。
阿西莫格魯為近年來諾貝爾經濟學獎的熱門人選,他是MIT經濟系教授,研究領域包括宏觀經濟學、政治經濟學等。西蒙·約翰遜現任職於MIT斯隆管理學院,他曾在2007年2008年擔任國際貨幣基金組織首席經濟學家。阿西莫格魯與約翰遜2023年曾合著《權力與進步:我們在科技與繁榮上的千年鬥爭》(Power and Progress: Our 1000-Year Struggle Over Technology and Prosperity),探討了主要技術變革的歷史和經濟學。
書中也談到了可能顛覆人類社會的人工智慧(AI)革命,他們認為目前AI發展已誤入歧途,許多演算法的設計是盡可能取代人類,「但技術上取得進步的方式是讓機器對人類有用,而不是取代人類。
阿西莫格魯認為,生成式人工智慧是一項很有前景的技術,但圍繞著AI對生產力和經濟成長的一些過度樂觀預測,阿西莫格魯持懷疑態度。他先前由美國國家經濟研究局發布的論文中指出,未來AI進步帶來的生產力提升可能不大,預估今後十年AI對全要素生產率(TFP)的成長上限不超過0.66%。
今年6月,阿西莫格魯在接受澎湃新聞(www.thepaper.cn)專訪時提到,越深入研究AI的能力和發展方向,越確信它當前的發展軌跡正在重複並加劇過去幾十年最糟糕的一些技術性錯誤。 AI領域的大多數頭部玩家都是由不切實際且危險的夢想驅動,即實現通用人工智慧的夢想,「這是將機器和演算法置於人類之上」。
一些分析人士將阿西莫格魯視為AI悲觀主義者。他在專訪中回應稱,作為一個社會科學家,會更加關註一些負面的社會影響。
《權力與進步》(Power and Progress)
隨著人工智慧商業化的競速,AI大模型百舸爭流,但毫無疑問,像OpenAI、微軟、Google、英偉達等科技巨頭已經搶佔了AI發展的先機。阿西莫格魯說,他非常擔心AI成為將財富和權力從普通人轉移到一小群科技企業家的方式,現在我們看到的「不平等」是「煤礦裡的金絲雀」。
以下為專訪全文:
科技與社會:最大的資產是人
澎湃新聞:您的研究涵蓋了政治經濟學、技術變革、不平等等多個領域。在怎樣的背景和契機之下,您開始關注科技發展對不平等的影響?您最初對科技發展的看法是什麼,又如何演變為現在所主張的「當前人工智慧的發展路徑既不利於經濟也不利於民主」?
阿西莫格魯:我的許多研究集中在政治經濟學和技術變革之間的相互作用,這是塑造我們能力和成長機會的兩大力量,同時也影響我們的政治和經濟選擇。
AI成為這個時代最重要的技術,一方面因為它吸引了大量的關注和投資,另一方面因為它取得了一些引人注目的進步,尤其是隨著GPU效能的提升。還有部分原因是AI無所不在的影響。這些因素促使我在這領域進行研究。
隨著我越深入研究AI的能力和發展方向,越確信它當前的發展軌跡正在重複並加劇過去幾十年最糟糕的一些技術性錯誤——過分強調自動化,就像我們優先考慮自動化和其他數位技術,而沒有為創造新任務進行充足的投資;以及社交平台試圖利用人們的數據和興趣來獲利,因此犯下的所有錯誤。
我還特別關注這樣一個事實,AI領域的大多數頭部玩家都是由不切實際且危險的夢想驅動,即實現通用人工智慧的夢想,這是將機器和演算法置於人類之上,也通常是這些頭部玩家凌駕於其他人的一種方式。
澎湃新聞:先進的電腦科技和網路讓許多富翁實現了財富轉移,並使科技巨頭空前強大。儘管如此,我們依然接受這樣的科技革新,因為它也帶來了正面的影響。技術變革有利有弊,從歷史來看社會總能找到適應新科技的方式。新一波科技席捲而來,您為什麼認為不平等問題特別令人擔憂?
阿西莫格魯:當談到社交平台和人工智慧時,我同意上述說法,但是涉及網路情況就不同了,我有不同的意見。我認為網路在某些方面使用不當,當然也不否認網路是一項非常有益的技術,在達成人與人的連結、向人們提供資訊以及為創造新服務和平台方面,它發揮了非常重要的作用。
對於人工智慧,我非常擔心它成為將財富和權力從普通人轉移到一小群科技企業家的方式。問題是我們沒有任何必要的控制機制來確保一般人能從AI中獲利,例如強而有力的監管、工人參與、公民社會和民主監督。我們看到的“不平等”是“煤礦裡的金絲雀”,意味著更糟糕的事情即將到來。
澎湃新聞:您指出自動化造成的不平等是「企業和社會在選擇如何使用科技後所導致的結果」。隨著科技巨頭市場能力和影響力壯大甚至可能失控,我們應對的關鍵是什麼?如果您擔任一家大型科技公司的CEO,會如何利用AI來管理這家公司?
阿西莫格魯:我對CEO們的建議是,要意識到他們最大的資產是工人,與其專注於削減成本,應該尋找提高工人的生產力、能力和影響力的方法。這顯示要使用新技術為工人創造新的任務、開拓新的能力。當然,自動化是有益的,我們也必然會在未來更多地應用自動化,但這不是為了提高生產力所唯一能做的,自動化也不應該是CEO們唯一追求和優先考慮的事情。
澎湃新聞:美國反壟斷執法者已經公開表達了對人工智慧的一系列擔憂,美國司法部和聯邦貿易委員會據稱達成了一項協議,為微軟、OpenAI和英偉達的反壟斷調查鋪平了道路。這種針對大型科技公司的反壟斷行動是否能真正增加市場競爭並避免AI發展被少數公司所主導?
阿西莫格魯:絕對能夠發揮作用,反壟斷很重要,科技業一些問題的根源在於美國缺乏反壟斷執法。五大科技公司都在他們所在的領域確立了牢固的壟斷地位,因為他們能夠在沒有任何監管的情況下收購潛在的競爭對手。在某些情況下,他們為了鞏固壟斷地位,購買並停用了可能與他們構成競爭的技術,我們絕對需要反壟斷,以打破大型科技公司的政治力量,這種力量在過去三十年變得非常強大。
但我也想強調,光是反壟斷是不夠的,我們更需要將科技重新引導到對社會有益的方向。如果僅僅將Meta拆分為Facebook、Instagram和WhatsApp,是不可能實現(增加市場競爭和避免少數公司主導AI發展)。在AI領域,如果擔心AI技術被用於操縱、監視或其他惡意目的,反壟斷本身不會是解決方案,反壟斷必須與更廣泛的監管議程相結合。
技術與人:如何避免重蹈覆轍
澎湃新聞:您一直強調「機器有用性」(machine usefulness),即「試圖讓機器對人類更有利」。您認為應該如何實現這個目標?無法達成這樣的目標會出現什麼後果?
阿西莫格魯:這與上述給CEO們的建議有關。我們想要的是能夠拓展人類能力的機器,就AI而言,有很大的可能性可以達成這一點。 AI是一種資訊技術,所以我們應該考慮什麼樣的AI工具可以為人類決策者提供有用、情境依賴的即時訊息,可以利用AI工具使人類成為更好的問題解決者,能夠執行更複雜的任務。這不僅僅是針對創意工作者、學者或記者,對於藍領工人、電工、水管工、醫療保健工作者以及所有其他職業都是如此。更好地獲取資訊可以推動產生更明智的決策和執行更高層次的任務,這就是機器有用性的意義所在。
澎湃新聞:您建議對勞工勞動給予公平的稅務待遇。對設備和軟體像對待人類員工一樣徵稅,或進行稅收改革以鼓勵就業而不是自動化,這些是實際可行的解決方案嗎?
阿西莫格魯:是的,我與西蒙·約翰遜在《權力與進步》中共同提出,一個更公平的稅收制度可以作為解決方案的一部分。在美國,在企業僱用勞工時面臨的邊際稅率超過30%。當他們使用電腦設備或其他機械執行相同任務時,稅率不到5%,這就為自動化提供了過度的激勵,同時阻礙了就業和對培訓及人力資本的投資。將資本和勞動力的邊際稅率統一到相同水準是一個合理的政策想法。
澎湃新聞:您提議進行稅務改革,以獎勵就業而不是自動化。這樣的改革將如何影響企業對自動化技術的應用與投資?
阿西莫格魯:在這方面必須謹慎,不要打擊投資,特別是在許多國家需要快速成長,需要在再生能源和醫療保健技術等領域注入新的投資。但如果我們能鼓勵科技以正確的方式發展,這對企業也是有好處的。因此我的提議是消除對自動化的過度激勵,並希望它能以一種不會普遍打擊商業投資的方式實現。
澎湃新聞:社群平台的快速發展帶來了一些負面的影響,例如資訊泡沫和錯誤訊息的傳播。您認為我們如何避免在人工智慧的進一步發展中重複同樣的錯誤?
阿西莫格魯:有三個原則有助於避免重蹈覆轍:(1)優先考慮機器有用性,正如我主張的那樣;(2)賦予工人和公民權力,而不是試圖操縱他們;(3)引入一個更好的監管框架,讓科技公司承擔責任。
科技與產業:數位廣告稅讓產業更具競爭力
澎湃新聞:技術專家賈倫·拉尼爾強調網路使用者的資料所有權問題。您認為在政策上,個人資料的所有權和控制應該如何得到更好的保護?
阿西莫格魯:我認為這是一個重要的方向。首先,我們將需要越來越多的高品質數據,而生產這些數據的最佳方式是透過獎勵創造高品質數據的人,數據市場可以實現這一點。第二,數據目前正被科技公司掠奪,不公平也不有效率。
然而,關鍵在於數據市場並不像水果市場那樣,我的數據通常可以高度替代你的數據,所以如果科技公司可以與個人談判購買他們的數據,就會出現「逐底競爭」(race to the bottom ),這樣做的行政成本會非常高。所以我認為,運作良好的數據市場需要某種形式的集體數據所有權,可以是數據工會或數據產業協會,或是其他集體組織的形式。
澎湃新聞:您怎麼看引入數位廣告稅以限制由演算法驅動的錯誤訊息進行盈利?這樣的稅收政策可能對數位廣告產業和資訊傳播產生什麼影響?
阿西莫格魯:我支持數位廣告稅,因為基於數位廣告的商業模式極具操縱性,它們與創造情感憤怒、數位成癮、極端嫉妒和資訊繭房的策略是協同的。它們也能與利用個人資料的商業模式相協同,會導致心理健康問題、社會兩極化、民主公民減少等負面後果。
更糟的是,如果要像我建議的那樣重新制定AI的發展方向,我們需要引入新的商業模式和新平台,但如今基於數位廣告的商業模式使之失去了可能性。你無法基於用戶訂閱啟動一個新的社群平台,無法複製維基百科的成功,因為你反對那種提供免費服務並擁有大量客戶基礎的公司。所以,我將數位廣告稅視為使科技業更具競爭力的一種方式:獲取用戶數據並透過數位廣告獲利的「低級手段」如果能夠被遏制,就會湧現新的商業模式和更多樣化化的產品。
澎湃新聞:能否分享一些您所認為的未來科技發展可能帶來的正面變化,以及我們該如何準備並推動這些變化?
阿西莫格魯:如果我們正確使用人工智慧,可以提升各行各業工人的職業技能,也可以改善科學發現的過程。我也認為有一些方法能夠民主地使用AI。