在上個月的初選中，一條被設計成美國總統拜登聲音的信息告訴新罕布什爾州居民不要投票，美國聯邦通信委員會（FCC）正著手將人工智能生成的聲音用於自動語音電話的行為定為非法。該機構擔心音頻深度偽造技術被用來透過模仿”名人、政治候選人和近親」的聲音來混淆和欺騙消費者。

FCC 主席傑西卡-羅森沃塞爾（Jessica Rosenworcel）的提案將規定，根據《電話消費者保護法》（TCPA），使用人工智慧產生的聲音撥打搶答電話屬於非法行為。

1991 年的TCPA 法律限制電話行銷、使用自動電話撥號系統和人工或預先錄製的語音訊息。該法也要求電話行銷人員在撥打聲訊電話給消費者之前，必須事先獲得消費者的明確書面同意。 FCC 希望人工智慧生成的聲音也能遵守這些標準。委員會的五位成員預計將在未來幾週內就該提案進行投票表決。

“人工智慧生成的語音克隆和圖像已經在播撒混淆視聽的種子，誘使消費者認為詐騙和欺詐是合法的，」羅森沃塞爾在一份聲明中說。 “不管你喜歡哪位名人或政客，也不管你與親屬的關係如何，當他們打電話求助時，我們都有可能成為這些偽造電話的目標。”

語音詐欺偵測公司Pindrop分析了這條聽起來像是拜登告訴新罕布夏州居民不要投票的39秒假訊息，發現它是利用ElevenLabs公司的文字到語音引擎製作的。這家新創公司使用人工智慧軟體複製了二十多種語言的聲音。

根據彭博社報道，ElevenLabs 公司證實在新罕布夏州事件中使用了其軟體，並封鎖了肇事帳戶。新罕布夏州總檢察長辦公室已宣布對假拜登的電話進行調查。

聯邦通訊委員會發言人表示，對法律的潛在修改將賦予各州總檢察長新的權力，以打擊使用人工智慧的聲訊電話騙子，同時保護消費者。

多年來，聯邦通訊委員會一直在與自動語音電話作鬥爭。 2022 年12 月，聯邦通訊委員會提議對一個非法的跨國機器人呼叫行動小組處以3 億美元的罰款，該行動在2021 年的三個月內向5 億多個電話號碼撥打了50 多億次自動電話。 2020 年，該局還對誤導性自動語音電話處以2.25億美元的罰款。

生成家庭成員的聲音已成為犯罪分子從毫無戒心的受害者那裡偷錢的常用手段。隨著人工智慧生成技術變得更容易取得、更便宜、更有說服力，這種犯罪也不斷增加。