巴基斯坦前總理在獄中使用AI語音複製進行競選活動 政府斷網阻止民眾觀看
巴基斯坦前總理伊姆蘭汗自八月以來因非法出售國家禮品而入獄,但這並沒有阻止他的競選活動。 這位領導人的政黨於週日晚上發布了一段長達四分鐘的視頻,使用人工智慧語音克隆技術複製了他的聲音。 這段在巴基斯坦的「虛擬集會」期間播出的影片中,配音的音訊附有說明文字,「伊姆蘭汗的人工智慧聲音是基於他的筆記」。
巴基斯坦 Tehreek-e-Insaf 黨,簡稱 PTI的社交媒體領導人吉布蘭·伊利亞斯 (Jibran Ilyas) 在 X 上發布了這段影片。
據《衛報》報道,汗向 PTI 發送了一份速記腳本,隨後由法律團隊對其進行了編輯,以更好地模仿這位政治家的修辭風格。然後使用人工智慧公司 ElevenLabs 的軟體將生成的文字配音為音頻,該公司生產文字轉語音工具和人工智慧語音生成器。
伊利亞斯告訴《衛報》:“當伊姆蘭汗不再參加政治集會時,這對我們來說是理所當然的事情。這是為了擺脫壓制。”
也許並不奇怪,汗的支持者在社群媒體上對這段影片大加讚揚。 Voicebot.ai 報導稱,汗的社群媒體團隊使用汗以前集會的檔案片段和 ElevenLab 的合成音訊引擎來克隆這位政客的聲音。影片混合了歷史鏡頭和庫存影像。
這場長達五小時的虛擬集會在 YouTube 上吸引了超過 50 萬次觀看,數千人也在其他社群媒體平台上直播了。為了阻止公眾觀看虛擬集會,巴基斯坦政府於週日關閉了 Facebook、Instagram、X 和 YouTube 的訪問。根據網路追蹤機構 NetBlocks 在 X 上發布的帖子,週日晚上,巴基斯坦各地的這些社交平台出現了全國性的中斷。