2024 年美國總統大選正式開始，愛荷華州將率先舉行黨團會議。生成式人工智慧公司OpenAI 決定利用今天來概述其計劃如何防止一些團體利用其工具（如ChatGPT 和DALL-E）來創建和傳播”深度偽造”和其他虛假信息，這些信息可能會被用來破壞美國總統大選，甚至是今年全球各國密集舉行的大選。

OpenAI 在一篇部落格文章中表示，它將確保其工具被用於”準確的投票資訊、執行有節制的政策和提高透明度”。它補充道：

我們有一個專門負責選舉工作的跨職能部門，匯集了我們的安全系統、威脅情報、法律、工程和政策團隊的專業知識，以快速調查和解決潛在的濫用問題。

OpenAI 表示不會允許其工具被用於任何政治活動或遊說目的。此外，它還表示不允許使用其工具和服務創建任何旨在模擬與真實候選人或政府團體聊天的聊天機器人。

該公司表示，它將阻止使用其工具散佈歪曲人們在選舉中的投票方式或勸阻人們投票的訊息。它還將允許人們向OpenAI 報告可能的違規行為。

此外，OpenAI 也正在開發相關工具，以幫助識別人工智慧透過DALL-E 製作的深度偽造影像。目前正在開發一種名為”出處分類器”的新工具，該工具可以幫助發現人工智慧製作的圖像，”即使圖像經過了常見類型的修改”。包括記者在內的一組測試人員”很快”就能試用這項工具。

最近的一份報告稱，微軟的Copilot 聊天機器人使用了OpenAI 開發的技術，經常對有關2023 年選舉的一些問題提供錯誤的答案。11 月，微軟宣布計畫提供一款新工具，幫助各政黨證明其創建的圖像（如廣告和影片）是真實的，沒有經過人工智慧工具的修改。

了解更多：