接到“女兒”的求救電話，竟不能相信自己的耳朵！今年年初，美國亞利桑那州的Jennifer DeStefano 就遇到了“耳聽為虛”的騙局。據《紐約郵報》報導，這通來自“女兒”的電話，實則是一起利用AI 聲音克隆技術的勒索案。

01.AI 仿聲敲詐，需要100 萬贖金

那天下午，Jennifer DeStefano 收到了一個陌生電話號碼的來電。

原本沒在意，但想起15 歲的女兒正在外地滑雪，出於擔心就選擇了接聽。

誰料，聽到電話那頭傳來了女兒的哭喊聲：“媽媽！救我！”

緊接著，一位陌生男子開始發話：“你女兒在我這裡，如果打電話報警或通知任何人，就把你女兒帶到墨西哥去’注射毒品’和’強姦’。”

恐慌之中， Jennifer DeStefano 還聽到電話那頭女兒的呼救，聲音非常真實。

男子還馬上談起了條件—— 需要100 萬美元的贖金才能放人。但得知無法支付那麼多贖金後，男子又改口稱：“拿5 萬美元來換你的女兒。”

在頓感事情蹊蹺之後， Jennifer DeStefano 選擇了迅速聯繫丈夫，直到確認女兒正在安全地滑雪中，才倖免被騙。

事後回憶起通話細節時， Jennifer DeStefano 表示仍感到後怕，雖然如今明確這是電話詐騙，但想到“女兒的聲音”如此逼真，讓她細思極恐。

02.3秒即可克隆，多起詐騙案發生

經過多方證實，這是一起利用AI 聲音克隆技術進行的詐騙案。

針對這類基於AI 的詐騙案，加州大學伯克利分校計算機科學教授、伯克利人工智能實驗室成員Hany Farid 對AI 克隆語音的生成原理，做出了詳細解釋。

AI 語音生成軟件，可以分析什麼讓人的聲音與眾不同（包括年齡、性別和口音），並蒐索龐大的聲音數據庫以找到相似的聲音，然後重新創造出相似整體效果的聲音。

它通常從YouTube、播客、商業廣告、TikTok、Instagram 或Facebook 等地方獲取音頻樣本。

此外，亞利桑那州立大學人工智能專業計算機科學教授Subbarao Kambhampati 還認為，AI 語音克隆技術正在迅速改進：“以前，克隆聲音需要從被克隆人身上獲取大量樣本。現在，只需三秒鐘就可以克隆出一個接近你的聲音。”

該觀點也得到了Hany Farid 的“證言”：“一個好的克隆可以用不到一分鐘的音頻創建，甚至幾秒鐘就足夠了。在AI 軟件的幫助下，語音克隆只需每月5 美元，任何人都可以使用。”

然而，由於目前這類技術幾乎沒有受到監督，類似的“詐騙案”也不勝枚舉。

3 月，據《紐約郵報》報導，居住在匹茲堡的Beth Royce 接到了“姐姐”的求救電話後，給“綁匪”寄了1000 美元贖金。事後， Beth Royce 表示：“很難描述電話中’姐姐’的聲音多麼真實。”

甚至，以往被認為安全的“聲紋”系統也存在明顯漏洞。

4 月20 日，國內郭先生收到了利用AI 技術換臉和換聲後偽裝熟人的詐騙，“好友”稱自己在外投標需要高昂的保證金，請求郭先生過戶430 萬元。

3 月，《衛報》澳大利亞版記者Nick Evershed 表示，他使用人工智能做出自己的聲音，進入了他的Centrelink 自助服務賬戶。在《衛報》調查後發現，Centrelink 和澳大利亞稅務局（ATO）使用的“聲紋”安全系統其實是可以“被欺騙”的。

03.警方：“小心陌生電話，社交媒體的個人信息不公開！”

的確，在ChatGPT、GPT-4 引領的浪潮之下， AI 提速科技變革帶來諸多便利，也難免讓眾人惶恐不安，例如：

Google DeepMind 基於深度學習的原始音頻生成模型WaveNet，在語音合成的聲學模型建模中，可直接學習到採樣值序列的映射，能高度模仿人類聲音；

AI 語音克隆算法項目MockingBird，號稱能“5 秒內克隆你的聲音並生成任意語音內容”。

值得關注的是，當AI 語音克隆技術用於正當目的時，能幫助語音合成、語音翻譯、語音恢復等，但它用於非法目的時，將為偽造證據、欺詐勒索等行為提供可能。

知名安全機構McAfee 對來自七個國家的7054 人，針對AI 詐騙進行了調查，結果顯示：近1/4 的人遇到過某種形式的AI 語音詐騙。

據聯邦貿易委員會最新發布的數據顯示，在2022 年因欺詐損失金額的案件中，“冒名頂替者詐騙”的數量排名第二，全年共損失了26 億美元。此外，在240 萬份欺詐報告中，最常見的是冒名頂替詐騙報告。

聯邦調查局專家表示，詐騙者經常在社交媒體上尋找目標。

為了避免成為此類騙局的受害者， FBI 鳳凰城辦公室的助理特工Dan Mayo 敦促大家：社交平台的個人資料保持在私人模式，不要向公眾公開。

Dan Mayo 認為：“必須把那些東西鎖起來，一旦公開將會面臨被騙的風險，因為他們會尋找有關你的公開信息，並隨之深入了解你。”

與此同時，對於那些不熟悉的區號的電話號碼、國際號碼，需要格外警覺。

目前，雖然尚不清楚有多少人接聽到通過AI 語音克隆進行假綁架的詐騙電話，但Dan Mayo 表示這種情況“每天都在發生”。

針對“ AI 語音克隆進行假綁架”的相關新聞，許多網友也展開了相關討論。一些人認為：“非常擔心家中的老人和小孩被’詐騙’”；“感覺如果真的用了完全逼真的聲音進行’勒索’，完全是防不勝防。”還有網友調侃道：“現在是防火防盜，還要防AI 了！”