最近，包括埃隆．馬斯克在內的千名專家聯合簽署公開信，呼籲暫停訓練GPT-4後續AI模型至少6個月。消息一出，引爆全球網絡和媒體，很快引來吳恩達等“AI大牛”的反對。如何看待雙方的爭論？我們一層層分析問題。

先說競爭失控問題。

據公開信所稱，提出“暫停ChatGPT研發”的提議，直接刺激是對“最近幾個月人工智能實驗室陷入了一場失控競賽”的擔憂。可實際上，短短幾日爭論，是往OpenAI公司和LLMs（Large Language Models，大語言模型）火上澆油，完成了又一波量子級別的免費推廣。

這波“操作”的宣傳效應，繼續擴大該領域領先公司的領先優勢。如此聲譽競爭是不是失控的商業競爭呢？

將目光拉到國內，競爭問題會看得更清楚。GPT研發競爭不限於幾個美國公司之間，更是關涉各國尤其是大國之間的AI科研競爭。在LLMs領域，美國本來就領先一大截，其競爭對手可能暫停ChatGPT研發嗎？馬斯克一聲呼籲，OpenAI公司真的會暫停，而不是轉向秘密研發嗎？

公开信呼吁政府出面，实施暂停研发的措施。新科技领域问题风险和伦理问题层出不穷，政府全部都要大包大揽吗？而且依据何在，又如何能合法合规地实施呢？如果强力暂停措施在一个应对、治理和管控能力有着显著优势的国家奏效，而在其他国家完全不顶用，结果是不是反而扩大了后者对前者的LLMs竞争优势呢？

再說LLMs風險問題。

AI風險早就被學界指出，被各國政府所重視，近年來更是成為全社會的關注焦點。近十年來，從物聯網到大數據、雲計算、區塊鏈、元宇宙、ChatGPT，一波波的AI熱潮中，從來沒有缺少關注風險的呼聲。

本人专业关注新科技社会冲击问题，花了大量精力提醒大家注意AI可能导致的技术风险。比如，曾写过专著《物联网与泛在社会的来临》《技术有病我没药》《元宇宙陷阱》《科技与社会十四讲》，面向非专业人士提示ICT（信息与通讯技术）的社会冲击和技术风险。

可以說，警惕AI發展，防止AI失控，正在成為全球範圍內科技領域的“政治正確”。在此氛圍之下，公開宣稱“AI無禁區”的聲音被極大地抑制。對此，作為技術控制的選擇論者，我完全贊同。

然而，公開信指向的不是泛泛的AI風險，而是具體的、當下的LLMs風險。那麼，就目前的發展態勢而言，ChatGPT究竟存在什麼嚴重的風險，必須以暫停至少六個月的方式加以應對呢？

有人說，ChatGPT是超級AI出現的徵兆，如果現在不停止（注意：不僅是暫停），“潘多拉的魔盒”一旦打開，人類很快會被超級AI統治甚至滅絕。這種幻想色彩濃厚的念頭，很難讓人予以嚴肅的對待。尤其是，很多專業人員不承認ChatGPT是通用AI，更別說它是超級AI的雛形了。

超級AI可能是個問題，但在嚴防人類自我滅絕的問題上，很多風險如核大戰、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前。我們是不是先把它們都停止了？就算停止不了，暫停一下也行，起碼可以呼籲暫停。對不對？

仔細想一想，LLMs對中國社會最重要的衝擊在於：1）失業問題：ChatGPT未來會威脅很多人的“飯碗”，進一步加劇“AI失業問題”，即AI的推廣導致人們失業。2）教育問題：ChatGPT對應試教育造成巨大挑戰，要求中國的教育體制適應AI輔助工作和生活的未來社會環境。3）信息安全問題：ChatGPT很快生成海量的AIGC（計算機生成內容），其中不乏錯誤的、虛假的、有害的內容，威脅主流價值觀、意識形態和健康的輿論思想環境。

如何應對ChatGPT的衝擊？這是我們最後要討論的問題。

暫停ChatGPT肯定不是應對風險的好辦法。為什麼？第一，暫停沒有道理。有人說，ChatGPT風險應對措施沒有想清楚，所以先暫停。錯！不是沒想清楚，而是沒有落實到位。第二，暫停是不可能真正實現的，肯定會有AI公司違反禁令，結果是出現不公平的競爭。第三，暫停解決不了問題。就算所有AI公司都真的暫停ChatGPT科研，風險問題就解決了嗎？沒有！除非徹底停止和取締LLMs，否則風險不會消失。重新啟動之時，仍然得直面風險。

如今，新科技是人類生存和發展最重要的不可須臾離開的工具。ChatGPT對社會生產力的推動作用已經昭然若揭，我們為什麼要因噎廢食，為什麼不能控制地利用呢？20世紀就有人提出來，彼時的科技人類已經完全夠用了，繼續發展會導致很多新問題，應該讓科技靜止下來，科學家不要再搞研究了。此類極端非理性想法，從來沒有被社會嚴肅對待過。

顯然，上述ChatGPT導致的三大衝擊都不是什麼新問題，早在ChatGPT爆火之間就已經被學界和政府所關注、所研究，各種應對建議早已被提出來。比如AI失業問題，各種討論汗牛充棟。具體的應對措施不一而足，如學生的職業規劃、勞動者AI素養提升、失業人員社會保障和再就業、產業結構升級改造等。長遠的戰略規劃亦蔚為大觀，如製度性地減少勞動者工作時間（有些地方已經在嘗試一周工作4天），徵收AI稅（AI是全人類智力結晶，向AI公司徵收重稅全民共享），靈活退休制度（勞動者一輩子可以短暫退休幾次）等。因此，現在的問題是根據國情落實AI治理措施，而不是暫停ChatGPT研發。

總之，暫停ChatGPT研發的想法簡單粗暴，作用不大，也實現不了，純屬無效的“嘴炮”。

文| 劉永謀（中國人民大學哲學院教授、國家發展與戰略研究院研究員）