喬-拜登（Joe Biden）在昨晚的國情咨文演講中談到了幾個與科技相關的話題，其中包括人工智慧語音克隆。總統呼籲”禁止人工智慧語音模仿”，今年早些時候有人利用他的聲音試圖影響選。

“在國內，我已經簽署了400 多項兩黨法案。”拜登總統在國情咨文中說：”要通過我的團結議程，還有更多的法案。隨後，他列舉瞭如果他被選中連任，他希望解決的一些提案：加強對芬太尼販運的懲罰力度，通過兩黨隱私立法來保護我們的兒童上網，利用人工智能的承諾來保護我們免受危險，禁止人工智能語音冒充等等” 。

拜登有充分的理由呼籲禁止人工智慧語音複製。今年1 月，新罕布夏州的選民接到了一個39 秒的機器人電話，告訴他們不要在民主黨初選中投票，而是把選票”留給”11 月的總統選舉。播報這條建議的聲音聽起來幾乎和喬拜登一模一樣。語音詐欺偵測公司Pindrop 後來分析了這通電話，認為它是使用ElevenLabs 公司的文字轉語音引擎製作的，該公司也證實了這一點。

這起事件導緻美國聯邦通訊委員會根據1991 年的《電話消費者保護法》，規定使用人工智慧產生的語音撥打機器人電話為非法行為。該機構擔心，技術被用來模仿”名人、政治候選人和近親屬”的聲音，從而混淆和欺騙消費者。

拜登提議的禁令範圍尚不清楚。它可能僅限於某些領域，例如模仿政客，但總統聽起來確實在談論全面禁止人工智慧語音模仿，這將產生深遠影響。

除了政治之外，使用人工智慧重塑演員的聲音和形像也是SAG-AFTRA 演員罷工背後的問題之一。儘管並非所有人都對這一協議感到滿意，但在達成協議，確保在使用人工智慧複製演員時，演員同意並獲得公平補償後，罷工結束了。