人大教授劉永謀:暫停ChatGPT研發不是應對風險的好辦法
最近,包括埃隆.馬斯克在內的千名專家聯合簽署公開信,呼籲暫停訓練GPT-4後續AI模型至少6個月。消息一出,引爆全球網絡和媒體,很快引來吳恩達等“AI大牛”的反對。如何看待雙方的爭論?我們一層層分析問題。
![](https://i0.wp.com/static.cnbetacdn.com/article/2023/0315/ec8802a472f5df4.webp?w=640&ssl=1)
先說競爭失控問題。
據公開信所稱,提出“暫停ChatGPT研發”的提議,直接刺激是對“最近幾個月人工智能實驗室陷入了一場失控競賽”的擔憂。可實際上,短短幾日爭論,是往OpenAI公司和LLMs(Large Language Models,大語言模型)火上澆油,完成了又一波量子級別的免費推廣。
這波“操作”的宣傳效應,繼續擴大該領域領先公司的領先優勢。如此聲譽競爭是不是失控的商業競爭呢?
將目光拉到國內,競爭問題會看得更清楚。GPT研發競爭不限於幾個美國公司之間,更是關涉各國尤其是大國之間的AI科研競爭。在LLMs領域,美國本來就領先一大截,其競爭對手可能暫停ChatGPT研發嗎?馬斯克一聲呼籲,OpenAI公司真的會暫停,而不是轉向秘密研發嗎?
公开信呼吁政府出面,实施暂停研发的措施。新科技领域问题风险和伦理问题层出不穷,政府全部都要大包大揽吗?而且依据何在,又如何能合法合规地实施呢?如果强力暂停措施在一个应对、治理和管控能力有着显著优势的国家奏效,而在其他国家完全不顶用,结果是不是反而扩大了后者对前者的LLMs竞争优势呢?
再說LLMs風險問題。
AI風險早就被學界指出,被各國政府所重視,近年來更是成為全社會的關注焦點。近十年來,從物聯網到大數據、雲計算、區塊鏈、元宇宙、ChatGPT,一波波的AI熱潮中,從來沒有缺少關注風險的呼聲。
本人专业关注新科技社会冲击问题,花了大量精力提醒大家注意AI可能导致的技术风险。比如,曾写过专著《物联网与泛在社会的来临》《技术有病我没药》《元宇宙陷阱》《科技与社会十四讲》,面向非专业人士提示ICT(信息与通讯技术)的社会冲击和技术风险。
可以說,警惕AI發展,防止AI失控,正在成為全球範圍內科技領域的“政治正確”。在此氛圍之下,公開宣稱“AI無禁區”的聲音被極大地抑制。對此,作為技術控制的選擇論者,我完全贊同。
然而,公開信指向的不是泛泛的AI風險,而是具體的、當下的LLMs風險。那麼,就目前的發展態勢而言,ChatGPT究竟存在什麼嚴重的風險,必須以暫停至少六個月的方式加以應對呢?
有人說,ChatGPT是超級AI出現的徵兆,如果現在不停止(注意:不僅是暫停),“潘多拉的魔盒”一旦打開,人類很快會被超級AI統治甚至滅絕。這種幻想色彩濃厚的念頭,很難讓人予以嚴肅的對待。尤其是,很多專業人員不承認ChatGPT是通用AI,更別說它是超級AI的雛形了。
超級AI可能是個問題,但在嚴防人類自我滅絕的問題上,很多風險如核大戰、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前。我們是不是先把它們都停止了?就算停止不了,暫停一下也行,起碼可以呼籲暫停。對不對?
仔細想一想,LLMs對中國社會最重要的衝擊在於:1)失業問題:ChatGPT未來會威脅很多人的“飯碗”,進一步加劇“AI失業問題”,即AI的推廣導致人們失業。2)教育問題:ChatGPT對應試教育造成巨大挑戰,要求中國的教育體制適應AI輔助工作和生活的未來社會環境。3)信息安全問題:ChatGPT很快生成海量的AIGC(計算機生成內容),其中不乏錯誤的、虛假的、有害的內容,威脅主流價值觀、意識形態和健康的輿論思想環境。
如何應對ChatGPT的衝擊?這是我們最後要討論的問題。
暫停ChatGPT肯定不是應對風險的好辦法。為什麼?第一,暫停沒有道理。有人說,ChatGPT風險應對措施沒有想清楚,所以先暫停。錯!不是沒想清楚,而是沒有落實到位。第二,暫停是不可能真正實現的,肯定會有AI公司違反禁令,結果是出現不公平的競爭。第三,暫停解決不了問題。就算所有AI公司都真的暫停ChatGPT科研,風險問題就解決了嗎?沒有!除非徹底停止和取締LLMs,否則風險不會消失。重新啟動之時,仍然得直面風險。
如今,新科技是人類生存和發展最重要的不可須臾離開的工具。ChatGPT對社會生產力的推動作用已經昭然若揭,我們為什麼要因噎廢食,為什麼不能控制地利用呢?20世紀就有人提出來,彼時的科技人類已經完全夠用了,繼續發展會導致很多新問題,應該讓科技靜止下來,科學家不要再搞研究了。此類極端非理性想法,從來沒有被社會嚴肅對待過。
顯然,上述ChatGPT導致的三大衝擊都不是什麼新問題,早在ChatGPT爆火之間就已經被學界和政府所關注、所研究,各種應對建議早已被提出來。比如AI失業問題,各種討論汗牛充棟。具體的應對措施不一而足,如學生的職業規劃、勞動者AI素養提升、失業人員社會保障和再就業、產業結構升級改造等。長遠的戰略規劃亦蔚為大觀,如製度性地減少勞動者工作時間(有些地方已經在嘗試一周工作4天),徵收AI稅(AI是全人類智力結晶,向AI公司徵收重稅全民共享),靈活退休制度(勞動者一輩子可以短暫退休幾次)等。因此,現在的問題是根據國情落實AI治理措施,而不是暫停ChatGPT研發。
總之,暫停ChatGPT研發的想法簡單粗暴,作用不大,也實現不了,純屬無效的“嘴炮”。
文| 劉永謀(中國人民大學哲學院教授、國家發展與戰略研究院研究員)