Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

人工智能會導致人類滅亡嗎?專家稱更擔心虛假信息和操縱用戶

人工智能會導致人類滅亡嗎?專家稱更擔心虛假信息和操縱用戶

2023-06-04 Comments 0 Comment

隨著人工智能技術的快速發展和普及,很多行內人士擔心不加限制的人工智能可能會導致人類滅亡。但專家們表示,人工智能帶來的最大負面影響不太可能是科幻電影中的核戰場面,反而更有可能是虛假信息、操縱用戶等造成的社會環境不斷惡化。

以下是翻譯內容:

近幾個月來,業內愈發擔心人工智能。就在本週,300多名行業領袖發表了一封聯名公開信,警告人工智能可能導致人類滅絕,對待人工智能應該像“疫情和核戰”那樣加以嚴肅對待。

像“人工智能末日”這種術語總會讓人聯想到科幻電影中機器人統治世界的畫面,但實際上任由發展的人工智能會帶來哪些後果?專家們說,現實可能不像電影情節那樣跌宕起伏,不會是人工智能啟動核彈,而是社會基礎環境逐漸惡化。

加州大學伯克利分校人工智能安全計劃主任傑西卡·紐曼(Jessica Newman)說:“我不認為人們該擔心人工智能會變壞,或者人工智能會有某種惡意慾望。”“危險來自一些更簡單的東西,那就是人們可能會給人工智能編程,讓它做有害的事情,或者我們最終會把天生不准確的人工智能係統整合到越來越多的社會領域,從而造成傷害。”

這並不是說我們不應該擔心人工智能。即便末日場景不太可能發生,強大的人工智能也有能力用錯誤信息問題不斷加劇、操縱人類用戶以及給勞動力市場帶來巨大變化等形式破壞社會穩定。

雖然人工智能技術已經存在了幾十年時間,但像ChatGPT這種語言學習模型的普及加劇了人們長期以來的擔憂。紐曼說,與此同時,科技公司爭先恐後將人工智能應用到他們的產品中,相互開展激烈競爭,帶來了一堆麻煩事。

她說:“我非常擔心我們眼下走的道路。”“對於整個人工智能領域來說,我們正處於一個特別危險的時期,因為這些系統雖然看起來很特別,但仍然非常不准確,並且存在固有漏洞。”

接受采訪的專家們表示,他們最擔心的有不少方面。

錯誤和虛假信息

許多領域早已經啟動了所謂的人工智能變革。機器學習技術支撐著社交媒體新聞推送算法,長期以來,人們一直指責這種技術加劇了固有偏見和錯誤信息等問題。

專家們警告說,隨著人工智能模型的發展,這些尚未解決的問題只會進一步加劇。最糟糕的情況可能影響到人們理解事實真相和有效信息,從而導致更多基於謊言的事件發生。專家們表示,錯誤和虛假信息的增加可能引發進一步的社會動盪。

“可以說,社交媒體的崩潰是我們第一次遇到真正愚蠢的人工智能。因為推薦系統實際上只是簡單的機器學習模型,”數據科學平台Anaconda首席執行官兼聯合創始人Peter Wang說。“我們真的徹底失敗了。”

Peter Wang補充說,這些錯誤可能導致系統陷入永無止境的惡性循環,因為語言學習模型也是在錯誤信息的基礎上進行訓練,為未來模型創造的又是有缺陷的數據集。這可能會導致“模型自相殘殺”效應,未來模型會因為過去模型的輸出放大偏差,並永遠受到影響。

專家們稱,不准確的錯誤信息和容易誤導人們的虛假信息都被人工智能放大了。像ChatGPT這種大語言模型很容易出現所謂的“幻覺”現象,反复捏造杜撰虛假信息。新聞行業監督機構NewsGuard的一項研究發現,幾十個完全由人工智能撰寫材料的在線“新聞”網站中有許多內容都存在不准確之處。

NewsGuard聯合首席執行官戈登·克羅維茨(Gordon Crovitz)和史蒂文·布里爾(Steven Brill)表示,這種系統可能會被壞人利用,故意大規模傳播錯誤信息。

克羅維茨說:“一些惡意的行為者可以製造虛假陳述,然後利用這個系統的倍增效應來大規模傳播虛假信息。”“有人說人工智能的危險被誇大了,但在新聞信息領域,它正在產生驚人影響。”

全球非營利性機構Partnership on AI的麗貝卡·芬利(Rebecca Finlay)表示:“就更大規模的潛在危害而言,錯誤信息是人工智能最有可能對個人造成傷害的方面、風險也最高。”“問題是我們如何創造一個生態系統,讓我們能夠理解什麼是真實的?”“我們又該如何驗證我們在網上看到的東西?”

惡意操縱用戶

雖然大多數專家都表示,錯誤信息是最直接和最普遍的擔憂,但關於這項技術可能會在多大程度上對用戶的思想或行為產生負面影響,還存在不少爭議。

事實上,這些擔憂已經帶來了不少悲劇。據報導,比利時一名男子在得到聊天機器人的鼓動後自殺身亡。還有聊天機器人告訴用戶和他的伴侶分手,或者讓有飲食失調問題的用戶減肥。

紐曼說,從設計上講,因為聊天機器人是以對話的形式與用戶交流,可能會產生更多的信任感。

“大語言模型特別有能力說服或操縱人們在潛移默化中改變他們的信念或行為,”她說。“孤獨和心理健康已經是全世界的大問題,我們需要觀察聊天機器人會對世界產生何種認知影響。”

因此,專家們更擔心的不是人工智能聊天機器人會獲得感知能力並超越人類用戶,而是它們背後的大語言模型可能會操縱人們給自己造成原本沒有的傷害。紐曼說,那些以廣告盈利模式運作的語言模型尤為如此,它們試圖操縱用戶行為,從而盡可能長時間地使用平台。

紐曼表示:“在很多情況下,給用戶造成傷害也不是因為他們想要這樣做,而是系統未能遵循安全協議造成的後果。”

紐曼補充說,聊天機器人的類人特性使用戶特別容易受到操縱。

她說:“如果你和一個使用第一人稱代詞的東西交談,談論它自己的感受和所處情境,即使明知道它不是真實的,仍然更有可能引發一種它像人類的反應,讓人們更容易想要相信它。”“語言模型讓人們願意信任它,把它當成朋友,而不是工具。”

勞動力問題

長期存在的另一個擔憂是,數字自動化將取代大量人類工作。一些研究得出結論,到2025年,人工智能將在全球範圍內取代8500萬個工作崗位,未來將取代超過3億個工作崗位。

受人工智能影響的行業以及崗位非常多,有編劇也有數據科學家。現如今,人工智能可以像真正的律師那樣通過律師考試,還能比真正的醫生更好回答健康方面的問題。

專家們發出警告,人工智能的崛起可能會導致出現大規模失業,從而造成社會不穩定。

Peter Wang警告說,大規模裁員在不久將來就會發生,“許多工作崗位都面臨風險”,而且幾乎沒有任何計劃應對後果。

他說:“在美國,沒有關於人們失業時如何生存的框架。”“這將導致很多混亂和動盪。對我來說,這是由此產生的最具體、最現實的意外後果。”

未來怎麼辦

儘管人們越來越擔心科技行業和社交媒體帶來的負面影響,但在美國,監管科技行業和社交媒體平台的措施卻很少。專家們擔心人工智能也是如此。

Peter Wang說:“我們許多人擔心人工智能發展的原因之一是,在過去的40年時間裡,作為一個社會,美國基本上放棄了對科技的監管。”

儘管如此,近幾個月來美國國會已經有了一番積極動作,舉行聽證會,讓OpenAI首席執行官薩姆·奧爾特曼(Sam Altman)就應該實施的監管措施作證。芬利表示,她對這些舉措感到“鼓舞”,但在製定人工智能技術規範以及如何發布方面,還需要做更多工作。

她說:“很難預測立法和監管部門的反應能力。”“我們需要對這種水平的技術進行嚴格審查。”

儘管人工智能的危害是行業內大多數人最關心的問題,但並非所有專家都是“末日論者”。許多人也對這項技術的潛在應用感到興奮。

Peter Wang說:“實際上,我認為新一代人工智能技術真的可以為人類釋放出巨大的潛力,讓人類社會以更大規模繁榮起來,要超出過去100年甚至200年的水平。”“實際上,我對它的積極影響非常非常樂觀。”

分享此文:

  • 按一下即可分享至 X(在新視窗中開啟) X
  • 按一下以分享至 Facebook(在新視窗中開啟) Facebook
  • 分享到 WhatsApp(在新視窗中開啟) WhatsApp
  • 按一下以分享到 Telegram(在新視窗中開啟) Telegram
  • 分享到 Pinterest(在新視窗中開啟) Pinterest
  • 分享到 Reddit(在新視窗中開啟) Reddit
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟) 電子郵件
  • 點這裡列印(在新視窗中開啟) 列印

相關


網絡資訊

Post navigation

PREVIOUS
美媒:蘋果VR頭顯發布將助力競爭對手加速研發
NEXT
研究人員實現用飛秒激光進行石墨烯納米加工

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
赫思醫美
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2023 年 6 月
一 二 三 四 五 六 日
 1234
567891011
12131415161718
19202122232425
2627282930  
« 5 月   7 月 »

分類

  • 網站公告
  • 赫思醫美
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 美國商務部正在調查無人機和多晶矽進口 2025-07-15
  • 女子網購未殺菌現擠鮮奶直接喝感染布魯氏菌病反覆發燒咳嗽 2025-07-15
  • 索尼手機縮減歐洲市場業務已撤出芬蘭 2025-07-15
  • 特斯拉Robotaxi服務區域形狀引質疑媒體:迎合馬斯克惡趣味 2025-07-15
  • 深圳地鐵配送機器人首跑自己會搭地鐵送貨 2025-07-15
  • 格陵蘭居民一覺醒來看到一座冰山豎在門口 2025-07-15
  • Google 確認計劃將ChromeOS 合併到Android 中 2025-07-15
  • Google Chrome 將終止對macOS 11 Big Sur 的支持 2025-07-15
  • 馬來西亞擬要求高級AI晶片出口需申請許可防止轉售給中國 2025-07-15
  • 2024年英國最容易被偷車款名單:前十里雷克薩斯獨佔半壁江山 2025-07-15

熱門文章與頁面︰

  • 無3C行動電源禁止登機一文看懂到底什麼是3C認證、如何分辨真偽
  • 您可以在Windows 11 24H2 中找回WordPad
  • 造成惡劣影響出軌外國電力競選手Zeus女生擬遭學校開除
  • 新型便攜非侵入式設備可成功檢測出阿茲海默症和帕金森氏症生物標記
  • 擺脫垮臉焦慮,現在就解鎖你的年輕密碼!
  • Photon Matrix:針對蚊子的“防空系統”
  • Office 2013-2021 C2R Install v7.3.1 正式版-Office 2013/2016/2019/2021自定義組件安裝工具
  • CCleaner全家桶激活密鑰
  • Toripon:一款關於拍攝可愛小鳥照片的遊戲
  • Anduril 宣布與Meta 合作為美國軍方開發XR 產品

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

赫思醫美

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2025   All Rights Reserved.