Google研究人員發表論文探討人工智慧如何毀掉互聯網
根據外電報道，Google研究人員發表了一篇新論文，警告生成式人工智慧正在用虛假內容毀掉網路的廣闊領域——這極具諷刺意味，因為谷歌一直在努力向其龐大的用戶群推廣同樣的技術。這項研究是一篇尚未經過同行評審的論文。
研究發現，絕大多數生成式人工智慧用戶正在利用這項技術模糊真實性和欺騙性之間的界限，在網路上發布虛假或篡改的人工智慧內容，例如圖片或影片。研究人員也仔細研究了先前發表的關於生成式人工智慧的研究，以及大約200 篇報導產生式人工智慧濫用的新聞文章。
研究人員總結：操縱人類肖像和偽造證據是現實世界濫用案件中最普遍的手段。其中大多數都帶有明顯的意圖，即影響輿論、進行詐騙或欺詐活動或牟利。
使問題更加複雜的是，生成式人工智慧系統日益先進且隨時可用——研究人員表示，只需要極少的技術專長，而這種情況正在扭曲人們對社會政治現實或科學共識的集體理解。
據我們所知，這篇論文遺漏了什麼？有沒有提到谷歌自己在使用該技術時犯下的令人尷尬的錯誤——作為世界上最大的公司之一，谷歌的錯誤有時規模巨大。
如果你讀過這篇論文，你會忍不住得出這樣的結論：生成式人工智慧的濫用聽起來很像是該技術在預期工作。人們正在使用生成式人工智慧製作大量虛假內容，因為它非常擅長完成這項任務，結果導致網路上充斥著人工智慧垃圾。
而這種情況正是谷歌自己促成的，它允許這些虛假內容氾濫，甚至是虛假內容的源頭，無論是假圖片還是假訊息。
研究人員表示，這場混亂局面也考驗著人們辨別真假的能力。
他們寫道：同樣，大量生產低品質、垃圾郵件和惡意的合成內容可能會增加人們對數位資訊的懷疑態度，並使用戶的驗證任務負擔過重。
令人不寒而慄的是，由於我們被虛假的人工智慧內容淹沒，研究人員表示，有些情況下知名人士能夠將不利的證據解釋為人工智慧生成的，從而以昂貴且低效的方式轉移舉證責任。
隨著Google等公司繼續將人工智慧融入每個產品中，我們將會看到更多這樣的情況。
了解更多：