本週三，在加州州長加文-紐森（Gavin Newsom）簽署新的人工智慧法律不到兩週後，一名聯邦法官阻止了加州的一項新法律。 在簽署第2839 號法案後不久，紐森曾建議可以利用該法案來強制埃隆-馬斯克（Elon Musk）刪除他轉貼的副總統卡馬拉-哈里斯（Kamala Harris）的人工智能深度偽造照片（這又引發了兩人之間的網路惡鬥）。

不過，加州的一位法官剛裁定，該州不能強迫人們撤下選舉相關的深度偽造內容，至少現在還不能。

AB 2839 針對的是社交媒體上的人工智慧虛假資訊發布者，特別是如果他們發布的信息與政治候選人相似，並且發布者知道這是可能混淆選民的虛假信息。 這項法律的獨特之處在於，它並不是針對出現AI Deepfake的平台，而是針對那些傳播人工智慧Deepfake內容的人。 AB 2839法案授權加州法官命令人工智慧Deepfake的發布者將其撤下，否則可能面臨罰款。

也許不出所料，就在加州新法簽署的第二天，該AI深度模擬的原始發布者–一位名叫克里斯托弗-科爾斯（Christopher Kohls）的X 用戶–就提起了訴訟，以違憲為由阻止加州新法的實施。 科爾斯的律師在申訴中寫道，對卡馬拉-哈里斯的deepfake是一種諷刺，應受到第一修正案的保護。

本週三，美國地區法官約翰-門德斯（John Mendez）支持科爾斯的觀點。 Mendez 下達了一項初步禁令，暫時禁止加州總檢察長對Kohls 或其他任何人執行新法律，但屬於AB 2839 範圍內的音訊資訊除外。

門德斯法官在判決中的內容節錄：

“幾乎所有經過數位篡改的內容，如果由網路上的任意個人來決定，都可以被視為有害的。 例如，根據本法規，人工智慧產生的關於選民投票率的近似數字可被視為虛假內容，合理地破壞了人們對選舉結果的信心。 另一方面，許多’有害的’描述在向不同的個人展示時，可能根本不會最終影響選舉前景或破壞對選舉的信心。地指出的那樣，AB 2839 法案’依賴於各種主觀用語和措辭笨拙的犯罪意圖’，其結果是牽涉到大量受憲法保護的政治言論……。

儘管對數位操縱的媒體環境的恐懼可能是有道理的，但這種恐懼並沒有給立法者肆無忌憚地踐踏受第一修正案保護的批判、戲仿和諷刺的悠久傳統的許可。 YouTube 影片、Facebook 貼文和X tweets 是當今的報紙廣告和政治漫畫，無論這些批評採用何種新媒介，第一修正案都保護個人的發言權。 其他法定訴訟理由，如隱私侵權、版權侵權或誹謗，已經為公眾人物或個人提供了追索權，他們的聲譽可能會受到諷刺家或機會主義者在互聯網上兜售的被人為篡改的描述的影響…..

記錄顯示，加州在維護選舉公正性和解決人為操縱內容方面有著強烈的利益訴求。 但是，如果與第一修正案價值的嚴重性以及原告和其他類似情況的內容創作者在言論受阻時所經歷的持續違憲行為相比，加州的利益和所面臨的困難微不足道。

從本質上講，他裁定該法律的內容過於寬泛，可能導致州政府嚴重越權，越權決定是否允許發表言論。

由於這是一項初步禁令，我們需要繼續觀察加州的這項法律是否真的會被永久封殺，但無論如何，它都不太可能對下個月的選舉產生太大影響。 AB 2839 是紐森在上個月簽署的18 項與人工智慧相關的新法律之一。