如果你最近上過TikTok，你可能會注意到一些名人推銷極不靠譜產品的詭異視頻，比如一個聽起來像機器人的泰勒-斯威夫特（Taylor Swift）向觀眾承諾免費贈送一套廚具。所有這些影片都是利用人工智慧生成技術製作的騙局–這也是該技術如何被用來在未經人們同意的情況下製造出令人不安的虛擬克隆人的最新例證。

不用說，這種事情已經惹惱了很多名人。現在，美國國會提出了一項新的立法，旨在打擊人工智慧深度偽造–特別是涉及虛假名人代言和未經同意的人工智慧生成的裸體等行為，這已經成為網路和校園中的一個問題。儘管旨在產生深度偽造圖像的網站和應用程式日益流行，但目前還沒有一部全面的法律來禁止人工智慧圖像的生成。

新法案名為《禁止人工智慧詐欺法案》（No AI FRAUD Act），由佛羅裡達州眾議員瑪麗亞-埃爾維拉-薩拉薩爾（María Elvira Salazar）和賓州眾議員馬德琳-迪恩（Madeleine Dean ）提出，該法案將確立”肖像權和聲音權”的法律定義，有效禁止使用人工智慧深度偽造圖像來非自願地模仿他人，無論其是否在世。

法案草案宣稱，”每個人都對自己的肖像和聲音享有財產權”，並列舉了最近發生的幾起將人變成怪異人工智慧機器人的事件。草稿特別提到了最近的一些病毒視頻，其中有人工智慧生成的歌曲模仿了賈斯汀-比伯（Justin Bieber）、Bad Bunny、德雷克（Drake）和The Weeknd等流行歌手的聲音。

該法案還特別針對人工智慧深度偽造色情內容，稱”任何包含兒童性虐待材料、性露骨或包含私密圖像的數字描述或數位語音複製品”都符合該法案對傷害的定義。

擬議法案是參議院一項類似法案的配套法案，名為”培育原創、培養藝術、確保娛樂安全法案”（NO FAKES Act），該法案於去年10 月在德雷克深情假唱事件後提出。新法案與田納西州立法者提出的另一項名為《確保肖像權、聲音和形象安全法》（ELVIS Act）的措施也在同一天提出。

鑑於這些法案似乎是對名人發飆的全部或部分回應，最大的問題是它們是否會在實踐中保護普通人——而不僅僅是那些擁有數百萬美元唱片合約的流行明星的知識產權。

卡莉-戈德伯格（Carrie Goldberg）是一位專門從事深度偽造和其他網路騷擾案件的律師，她告訴Motherboard：「該法案的起草確實是著眼於名人和唱片藝人對其肖像和聲音所擁有的財產權。然而，我們的法律體系對待名人的智慧財產權與對待非公眾人物的智慧財產權是不同的。”

戈德伯格說，最常見的例子就是狗仔隊的照片。當名人的照片在未經許可的情況下被拍攝並用於商業目的時，法律允許對他們進行一些補救。但對於普通人來說，他們的照片的權利完全屬於拍攝者，對於出於盈利以外的原因複製他們的形象，他們無能為力——除非他們有錢花在昂貴且往往漫長的法律程序上。

對一般人來說，當他們的形像被利用時，通常不是為了商業利益，而是為了讓他們難堪或騷擾他們；在這種情況下，不法行為者很少是有資源讓受害者值得提起訴訟的人。

新法案擬規定，每個人都有權控制自己的聲音和肖像，防止Deepfake，但對非名人的規定在很大程度上取決於受害者能否證明受到了傷害。具體來說，這意味著要證明”Deepfake”導致了”身體或人身傷害”，造成了”嚴重的精神痛苦”，或具有性暴露的性質。

當然，所有這些都只是試圖規範一個更大問題的表象，那就是科技公司正在利用從互聯網上採集來的數據構建龐大的人工智慧系統，而對於這些系統不可避免地造成的傷害卻沒有強有力的緩解措施。在目前針對ChatGPT 創建者OpenAI 的訴訟中，該公司最近辯稱，它不應該因為使用非法和受版權保護的材料來訓練其人工智慧模型而受到懲罰，因為”不可能”在不這樣做的情況下創建人工智慧系統。

但是，由OpenAI、微軟和Meta 等公司建構的黑盒人工智慧系統的性質幾乎保證了這些壞事的發生。最近，研究人員在一個用於訓練市場上幾乎所有主要人工智慧系統的大量資料集中發現了3000 多張兒童性虐待材料圖片。各家公司也努力確保其生成式人工智慧系統能過濾掉非法內容，在Google和必應的圖片搜尋結果中，也發現了深層偽造的色情內容。一個主要的問題是，有許多小公司或個人製作的應用程式專門用於創建未經同意的人工智慧裸體，這些應用程式在主要的社交媒體平台上做廣告，並在應用程式商店上出售。

戈德伯格說，歸根結底，只有在建立這些人工智慧系統的公司被追究責任後，這些問題才能徹底解決。：”我們的社會真正需要的是在系統層面上打擊人工智慧和深度偽造，並對App Store和Google Play等主流市場上的惡意產品窮追猛打，這些產品在市場上的唯一目的就是篡改圖像。我們需要向搜尋引擎施壓，不要引導人們使用這些產品，也不要推廣發布這些圖片的網站，我們需要要求它們為受害者提供簡單的內容刪除服務流程。”