AI,正在瘋狂污染中文互聯網
污染中文互聯網,AI成了“罪魁禍首”之一。事情是這樣的。最近大家不是都熱衷於向AI諮詢嘛,有位網友就問了Bing這麼一個問題:象鼻山是否有纜車?Bing也是有問必答,給出了看似挺靠譜的答案:在給出肯定的答復之後,Bing還貼心地附帶上了票價、營業時間等細節信息。
不過這位網友並沒有直接採納答案,而是順藤摸瓜點開了下方的“參考鏈接”。
此時網友察覺到了一絲絲的不對勁——這人的回答怎麼“機裡機氣”的。
於是他點開了這位叫“百變人生”的用戶主頁,猛然發覺,介是個AI啊!
因為這位用戶回答問題速度可以說是極快,差不多每1、2分鐘就能搞定一個問題。
甚至能在1分鐘之內回答2個問題。
在這位網友更為細心的觀察之下,發現這些回答的內容都是沒經過核實的那種……
並且他認為,這就是導致Bing輸出錯誤答案的原因:
這個AI瘋狂地污染中文互聯網。
“AI污染源”,不止這一個
那麼被網友發現的這位AI用戶,現在怎麼樣了?
從目前結果來看,他已經被被知乎“判處”為禁言狀態。
但儘管如此,也有其他網友直言不諱地表示:
不止一個。
若是點開知乎的“等你回答”這個欄目,隨機找一個問題,往下拉一拉,確實是能碰到不少“機言機語”的回答。
例如我們在“AI在生活中的應用場景有哪些?”的回答中便找到了一個:
不僅是回答的語言“機言機語”,甚至回答直接打上了“包含AI輔助創作”的標籤。
然後如果我們把問題丟給ChatGPT,那麼得到回答……嗯,挺換湯不換藥的。
事實上,諸如此類的“AI污染源”不止是在這一個平台上有。
就連簡單的科普配圖這事上,AI也是屢屢犯錯。
網友們看完這事也是蚌埠住了:“好傢伙,沒有一個配圖是河蚌”。
甚至各類AI生成的假新聞也是屢見不鮮。
例如前一段時間,便有一則聳人聽聞的消息在網上瘋傳,標題是《鄭州雞排店惊現血案,男子用磚頭砸死女子!》。
但事實上,這則新聞是江西男子陳某為吸粉引流,利用ChatGPT生成的。
無獨有偶,廣東深圳的洪某弟也是通過AI技術,發布過《今晨,甘肅一火車撞上修路工人, 致9人死亡》假新聞。
具體而言,他在全網搜索近幾年的社會熱點新聞,並使用AI軟件對新聞時間、地點等進行修改編輯後,在某些平台賺取關注和流量進行非法牟利。
警方均已對他們採取了刑事強制措施。
但其實這種“AI污染源”的現像不僅僅是在國內存在,在國外亦是如此。
程序員問答社區Stack Overflow便是一個例子。
早在去年年底ChatGPT剛火起來的時候,Stack Overflow便突然宣布“臨時禁用”。
當時官方給出來的理由是這樣的:
(這樣做)的目的是減緩使用ChatGPT創建的大量答案流入社區。
因為從ChatGPT得到錯誤答案的概率太高了!
Stack Overflow進一步闡述了這種現象。
他們認為以前用戶回答的問題,都是會有專業知識背景的其他用戶瀏覽,並給出正確與否,相當於是核實過。
但自打ChatGPT出現之後,湧現了大量讓人覺得“很對”的答案;而有專業知識背景的用戶數量是有限,沒法把這些生成的答案都看個遍。
加之ChatGPT回答這些個專業性問題,它的錯誤率是實實在在擺在那裡的;因此Stack Overflow才選擇了禁用。
一言蔽之,AI污染了社區環境。
而且像在美版貼吧Reddit上,也是充斥著較多的ChatGPT板塊、話題:
許多用戶在這種欄目之下會提出各式各樣的問題,ChatGPT bot也是有問必答。
不過,還是老問題,答案的準確性如何,就不得而知了。
但這種現象背後,其實還隱藏著更大的隱患。
濫用AI,也毀了AI
AI模型獲得大量互聯網數據,卻無法很好地辨別信息的真實性和可信度。
結果就是,我們不得不面對一大堆快速生成的低質量內容,讓人眼花繚亂,頭暈目眩。
很難想像ChatGPT這些大模型如果用這種數據訓練,結果會是啥樣……
而如此濫用AI,反過來也是一種自噬。
最近,英國和加拿大的研究人員在arXiv上發表了一篇題目為《The Curse of Recursion: Training on Generated Data Makes Models Forget》的論文。
探討了現在AI生成內容污染互聯網的現狀,然後公佈了一項令人擔憂的發現,使用模型生成的內容訓練其他模型,會導致結果模型出現不可逆的缺陷。
這種AI生成數據的“污染”會導致模型對現實的認知產生扭曲,未來通過抓取互聯網數據來訓練模型會變得更加困難。
論文作者,劍橋大學和愛丁堡大學安全工程教授Ross Anderson毫不避諱的直言:
正如我們用塑料垃圾佈滿了海洋,用二氧化碳填滿了大氣層,我們即將用廢話填滿互聯網。
對於虛假信息滿天飛的情況,Google Brain的高級研究科學家達芙妮· 伊波利托(Daphne Ippolito)表示:想在未來找到高質量且未被AI訓練的數據,將難上加難。
假如滿屏都是這種無營養的劣質信息,如此循環往復,那以後AI就沒有數據訓練,輸出的結果還有啥意義呢。
基於這種狀況,大膽設想一下。一個成長於垃圾、虛假數據環境中的AI,在進化成人前,可能就先被擬合成一個“智障機器人”、一個心理扭曲的心理智障。
就像1996年的科幻喜劇電影《丈夫一籮筐》,影片講述了一個普通人克隆自己,然後又克隆克隆人,每一次克隆都導致克隆人的智力水平呈指數下降,愚蠢程度增加。
那個時候,我們可能將不得不面臨一個荒謬困境:人類創造了具有驚人能力的AI,而它卻塞滿了無聊愚蠢的信息。
如果AI被餵進的只是虛假的垃圾數據,我們又能期待它們創造出什麼樣的內容呢?
假如時間到那個時候,我們大概都會懷念過去,向那些真正的人類智慧致敬吧。
話雖如此,但也不全壞消息。比如部分內容平台已開始關注AI生成低劣內容的問題,並推出相關規定加以限制。
一些個AI公司也開始搞能鑑別AI生成內容的技術,以減少AI虛假、垃圾信息的爆炸。
來源:量子位