Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

人大教授劉永謀:暫停ChatGPT研發不是應對風險的好辦法

人大教授劉永謀:暫停ChatGPT研發不是應對風險的好辦法

2023-03-31 Comments 0 Comment

最近,包括埃隆.馬斯克在內的千名專家聯合簽署公開信,呼籲暫停訓練GPT-4後續AI模型至少6個月。消息一出,引爆全球網絡和媒體,很快引來吳恩達等“AI大牛”的反對。如何看待雙方的爭論?我們一層層分析問題。

先說競爭失控問題。

據公開信所稱,提出“暫停ChatGPT研發”的提議,直接刺激是對“最近幾個月人工智能實驗室陷入了一場失控競賽”的擔憂。可實際上,短短幾日爭論,是往OpenAI公司和LLMs(Large Language Models,大語言模型)火上澆油,完成了又一波量子級別的免費推廣。

這波“操作”的宣傳效應,繼續擴大該領域領先公司的領先優勢。如此聲譽競爭是不是失控的商業競爭呢?

將目光拉到國內,競爭問題會看得更清楚。GPT研發競爭不限於幾個美國公司之間,更是關涉各國尤其是大國之間的AI科研競爭。在LLMs領域,美國本來就領先一大截,其競爭對手可能暫停ChatGPT研發嗎?馬斯克一聲呼籲,OpenAI公司真的會暫停,而不是轉向秘密研發嗎?

公开信呼吁政府出面,实施暂停研发的措施。新科技领域问题风险和伦理问题层出不穷,政府全部都要大包大揽吗?而且依据何在,又如何能合法合规地实施呢?如果强力暂停措施在一个应对、治理和管控能力有着显著优势的国家奏效,而在其他国家完全不顶用,结果是不是反而扩大了后者对前者的LLMs竞争优势呢?

再說LLMs風險問題。

AI風險早就被學界指出,被各國政府所重視,近年來更是成為全社會的關注焦點。近十年來,從物聯網到大數據、雲計算、區塊鏈、元宇宙、ChatGPT,一波波的AI熱潮中,從來沒有缺少關注風險的呼聲。

本人专业关注新科技社会冲击问题,花了大量精力提醒大家注意AI可能导致的技术风险。比如,曾写过专著《物联网与泛在社会的来临》《技术有病我没药》《元宇宙陷阱》《科技与社会十四讲》,面向非专业人士提示ICT(信息与通讯技术)的社会冲击和技术风险。

可以說,警惕AI發展,防止AI失控,正在成為全球範圍內科技領域的“政治正確”。在此氛圍之下,公開宣稱“AI無禁區”的聲音被極大地抑制。對此,作為技術控制的選擇論者,我完全贊同。

然而,公開信指向的不是泛泛的AI風險,而是具體的、當下的LLMs風險。那麼,就目前的發展態勢而言,ChatGPT究竟存在什麼嚴重的風險,必須以暫停至少六個月的方式加以應對呢?

有人說,ChatGPT是超級AI出現的徵兆,如果現在不停止(注意:不僅是暫停),“潘多拉的魔盒”一旦打開,人類很快會被超級AI統治甚至滅絕。這種幻想色彩濃厚的念頭,很難讓人予以嚴肅的對待。尤其是,很多專業人員不承認ChatGPT是通用AI,更別說它是超級AI的雛形了。

超級AI可能是個問題,但在嚴防人類自我滅絕的問題上,很多風險如核大戰、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前。我們是不是先把它們都停止了?就算停止不了,暫停一下也行,起碼可以呼籲暫停。對不對?

仔細想一想,LLMs對中國社會最重要的衝擊在於:1)失業問題:ChatGPT未來會威脅很多人的“飯碗”,進一步加劇“AI失業問題”,即AI的推廣導致人們失業。2)教育問題:ChatGPT對應試教育造成巨大挑戰,要求中國的教育體制適應AI輔助工作和生活的未來社會環境。3)信息安全問題:ChatGPT很快生成海量的AIGC(計算機生成內容),其中不乏錯誤的、虛假的、有害的內容,威脅主流價值觀、意識形態和健康的輿論思想環境。

如何應對ChatGPT的衝擊?這是我們最後要討論的問題。

暫停ChatGPT肯定不是應對風險的好辦法。為什麼?第一,暫停沒有道理。有人說,ChatGPT風險應對措施沒有想清楚,所以先暫停。錯!不是沒想清楚,而是沒有落實到位。第二,暫停是不可能真正實現的,肯定會有AI公司違反禁令,結果是出現不公平的競爭。第三,暫停解決不了問題。就算所有AI公司都真的暫停ChatGPT科研,風險問題就解決了嗎?沒有!除非徹底停止和取締LLMs,否則風險不會消失。重新啟動之時,仍然得直面風險。

如今,新科技是人類生存和發展最重要的不可須臾離開的工具。ChatGPT對社會生產力的推動作用已經昭然若揭,我們為什麼要因噎廢食,為什麼不能控制地利用呢?20世紀就有人提出來,彼時的科技人類已經完全夠用了,繼續發展會導致很多新問題,應該讓科技靜止下來,科學家不要再搞研究了。此類極端非理性想法,從來沒有被社會嚴肅對待過。

顯然,上述ChatGPT導致的三大衝擊都不是什麼新問題,早在ChatGPT爆火之間就已經被學界和政府所關注、所研究,各種應對建議早已被提出來。比如AI失業問題,各種討論汗牛充棟。具體的應對措施不一而足,如學生的職業規劃、勞動者AI素養提升、失業人員社會保障和再就業、產業結構升級改造等。長遠的戰略規劃亦蔚為大觀,如製度性地減少勞動者工作時間(有些地方已經在嘗試一周工作4天),徵收AI稅(AI是全人類智力結晶,向AI公司徵收重稅全民共享),靈活退休制度(勞動者一輩子可以短暫退休幾次)等。因此,現在的問題是根據國情落實AI治理措施,而不是暫停ChatGPT研發。

總之,暫停ChatGPT研發的想法簡單粗暴,作用不大,也實現不了,純屬無效的“嘴炮”。

文| 劉永謀(中國人民大學哲學院教授、國家發展與戰略研究院研究員)

分享此文:

  • 按一下即可分享至 X(在新視窗中開啟) X
  • 按一下以分享至 Facebook(在新視窗中開啟) Facebook
  • 分享到 WhatsApp(在新視窗中開啟) WhatsApp
  • 按一下以分享到 Telegram(在新視窗中開啟) Telegram
  • 分享到 Pinterest(在新視窗中開啟) Pinterest
  • 分享到 Reddit(在新視窗中開啟) Reddit
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟) 電子郵件
  • 點這裡列印(在新視窗中開啟) 列印

相關


網絡資訊

Post navigation

PREVIOUS
谷歌Bard被曝剽竊ChatGPT?BERT一作跳槽OpenAI揭驚天內幕
NEXT
奈飛擬重組電影部門以實現減產提質目標

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
赫思醫美
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2023 年 3 月
一 二 三 四 五 六 日
 12345
6789101112
13141516171819
20212223242526
2728293031  
« 2 月   4 月 »

分類

  • 網站公告
  • 赫思醫美
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 植髮手術怎麼選?從剃髮與不剃髮的區別找到最適合方案 2025-07-09
  • 把葉綠體「偷」到自己體內這些動物曬太陽就能活 2025-07-09
  • 茶顏悅色進軍美國:不賣奶茶專攻茶週邊零食 2025-07-09
  • 全球最大的3D列印學校建築計畫正在卡達建設中 2025-07-09
  • 分析師呼籲特斯拉董事會限制馬斯克結束“肥皂劇” 2025-07-09
  • Switch2在日首月熱銷140萬台《瑪利歐賽車:世界》登頂軟體榜 2025-07-09
  • 全新速騰L正式下線顏值飆升 2025-07-09
  • 多人收到河北文旅千條簡訊轟炸手機流量被限速、佔用數十GB儲存空間 2025-07-09
  • 全球最高遺產稅壓頂三星家族拋售梨泰院豪宅賺了146億 2025-07-09
  • 石破茂:美國造的尺寸大、油耗高的汽車在日本沒有市場 2025-07-09

熱門文章與頁面︰

  • 無3C行動電源禁止登機一文看懂到底什麼是3C認證、如何分辨真偽
  • 您可以在Windows 11 24H2 中找回WordPad
  • YouTube By Click 2.2.86(含:註冊機序列號)
  • CCleaner全家桶激活密鑰
  • 美國力推車聯網(V2X)技術以降低交通事故率
  • 日本川崎重工確認開發氫能飛機部件計劃2040年投用
  • 拆解報告:20000mAh 18W PD雙向快充版小米移動電源3 PLM18ZM
  • Windows 10用固態硬盤還是太卡?教你一個提速神招
  • iPhone 16第一批Bug來了:刮痕、掉漆、相機進灰等
  • Chrome開啟硬體加速, 顯示顏色變淡

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

赫思醫美

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2025   All Rights Reserved.