在2024 年美國總統大選之前，Anthropic（一家資金雄厚的人工智慧新創公司）正在測試一種技術，當其GenAI 聊天機器人的用戶詢問政治話題時，該技術就會檢測到，並將這些用戶重新引導到”權威”的投票資訊來源。

這項技術被稱為”提示盾”（Prompt Shield），它依賴於人工智能檢測模型和規則的結合，如果Anthropic公司的聊天機器人克勞德（Claude）的美國用戶詢問投票信息，它就會彈出一個視窗。彈出視窗會將使用者重新導向到無黨派組織”民主工程”（Democracy Works）的資源庫TurboVote，在那裡他們可以找到最新、準確的投票資訊。

Anthropic說，由於克勞德在政治和選舉相關資訊方面的缺陷，”Prompt Shield”是必要的。 Anthropic 承認，克勞德沒有接受過足夠頻繁的培訓，無法提供有關具體選舉的即時信息，因此很容易對這些選舉產生幻覺，即捏造事實。

發言人透過電子郵件表示：”自從Claude 推出以來，我們就一直在使用’及時屏蔽’–它可以根據我們的可接受用戶政策標記出一些不同類型的危害。我們將在未來幾週內推出針對選舉的及時屏蔽幹預措施，我們打算監控其使用情況和局限性……[在開發過程中]，我們與包括政策制定者、其他公司、民間社會和非政府機構以及針對選舉的顧問在內的各種利害關係人進行了交流。”

目前這似乎只是一個有限的測試。當媒體向Claude詢問如何在即將到來的大選中投票時，它並沒有彈出提示，而是吐出了一份普通的投票指南。 Anthropic 聲稱它正在對Prompt Shield 進行微調，準備將其推廣給更多用戶。

Anthropic公司禁止在政治競選和遊說中使用其工具，它是最新一家實施政策和技術以試圖防止選舉幹擾的GenAI供應商。時機絕非巧合，今年，全球將有比歷史上更多的選民參加投票，至少有64 個國家將舉行全國大選，這些國家的總人口約佔世界總人口的49%。

今年1 月，OpenAI 表示將禁止人們使用其病毒式人工智慧聊天機器人ChatGPT 創建冒充真實候選人或政府、歪曲投票方式或阻止人們投票的機器人。與Anthropic 一樣，OpenAI 目前也不允許用戶使用其工具創建用於政治競選或遊說目的的應用程式–該公司上個月重申了這項政策。

在與Prompt Shield 類似的技術方法中，OpenAI 還採用了檢測系統，將詢問有關投票的後勤問題的ChatGPT 用戶引導到一個無黨派網站CanIVote.org，該網站由全國國務卿協會維護。

在美國，儘管得到了兩黨的支持，國會仍未通過立法來規範人工智慧產業在政治中的作用。同時，在聯邦立法停滯不前的情況下，超過三分之一的美國州已經通過或提出法案，以解決政治競選中的深度偽造問題。

在監督機構和監管機構的壓力下，一些平台正在採取措施阻止GenAI 被濫用於誤導或操縱選民，以取代立法。

Google去年9 月表示，將要求在YouTube 及其他平台（如穀歌搜尋）上使用GenAI 的政治廣告，如果圖像或聲音是經過人工合成的，則必須在顯著位置披露。 Meta 也禁止政治活動在其旗下的廣告中使用GenAI 工具（包括自己的工具）。