微軟和OpenAI 宣布成立一個200 萬美元的基金，以應對人工智慧和深度偽造被用於”欺騙選民和破壞民主”的日益增長的風險。今年將有創紀錄的20 億人參加50 多個國家的選舉，因此人們擔心人工智慧會對選民產生影響，尤其是那些”認知弱勢群體”，他們可能更容易相信自己看到的表面現象。

生成式人工智慧（包括ChatGPT 等大受歡迎的聊天機器人）的興起導致了一種新的重大威脅，其中涉及人工智慧生成的”深度偽造”，其目的是使虛假資訊永久化。這些新工具可以廣泛使用，任何人都可以製作假視頻、照片或高知名度政治實體的音頻，但這並沒有什麼幫助。

就在本週一，印度選舉委員會敦促各政黨在圍繞選舉的網路宣傳活動中避免使用深度偽造和類似的虛假訊息。

正是在這一背景下，包括微軟和OpenAI 在內的所有主要科技公司都簽署了應對此類風險的自願承諾，併計劃建立一個共同框架，以應對專門為誤導選民而製造的深度偽造。

在其他地方，主要的人工智慧公司已經開始透過在其軟體中引入限制來應對這些風險。例如，Google表示不允許其Gemini 人工智慧聊天機器人回答有關選舉的問題，而Facebook 的母公司Meta也限制透過其人工智慧聊天機器人回答與選舉有關的問題。

今天早些時候，OpenAI 為虛假信息研究人員推出了一款新的深度虛假檢測工具，旨在幫助識別由其自己的DALL-E 圖像生成器生成的虛假內容，同時它還加入了行業機構內容出處和真實性聯盟（C2PA）的指導委員會，該聯盟的成員包括Adobe、微軟、Google和英特爾。

新的”社會復原力基金”是這一更廣泛的”負責任”人工智慧推動力的一部分，微軟和OpenAI 目前正致力於”在選民和弱勢群體中進一步開展人工智能教育和掃盲活動”。這將涉及向一些組織發放補助金，包括老年人技術服務組織（OATS）、內容真實性聯盟（C2PA）、國際民主與選舉援助研究所（International IDEA）和人工智慧合作夥伴關係（PAI）。

根據微軟的說法，這些資助旨在讓全社會更了解人工智慧及其能力。例如，OATS 顯然將把贈款用於針對美國50 歲及以上人群的培訓項目，內容涵蓋”人工智慧的基礎面向”。

社會復原力基金的啟動只是微軟和OpenAI 致力於應對人工智慧掃盲和教育領域的挑戰和需求的其中一步，”微軟負責技術和企業責任的公司副總裁Teresa Hutson 在博文中表示。”微軟和OpenAI 將一如既往地致力於這項工作，我們將繼續與擁有共同目標和價值觀的組織和倡議合作。 “