加州議會週三通過了一項備受爭議的人工智慧安全法案，之後還需要進行程序性投票，該法案的命運將掌握在州長加文-紐森（Gavin Newsom）手中。開發生成式人工智慧（能以完全成型的文字、圖像或音訊回應提示，並能在最少干預的情況下執行重複性任務）的科技公司大多對這項名為SB 1047 的立法表示反對，認為它可能會將人工智慧公司趕出本州並阻礙創新。

包括眾議員南希-佩洛西（Nancy Pelosi）在內的一些美國國會民主黨人也表示反對。支持者包括特斯拉執行長馬斯克（Elon Musk），他經營一家名為xAI的人工智慧公司，並表示支持該法案。

該措施強制要求對許多開發成本超過1 億美元或需要一定運算能力的最先進人工智慧模型進行安全測試。在該州運營的人工智慧軟體開發商還需要概述在人工智慧模型出現問題時將其關閉的方法，即有效的”阻斷開關”。

該法案還授權州總檢察長在開發商不合規的情況下提起訴訟，尤其是在持續威脅的情況下，例如人工智慧接管電網等政府系統。

此外，該法案還要求開發人員聘請第三方審計人員來評估其安全實踐，並為揭發人工智慧濫用行為的舉報人提供額外保護。

該法案的作者、民主黨州參議員斯科特-維納（Scott Wiener）代表舊金山，這裡是OpenAI 和許多開發強大軟體的新創公司的所在地。他曾表示，在人工智慧的進步變得難以駕馭或無法控制之前，立法保護公眾是必要的。

創投公司Andreessen Horowitz 的普通合夥人馬丁-卡薩多（Martin Casado）在投票前表示，他希望紐森能夠否決該法案。他說：”這是我見過的兩黨最廣泛的反對意見。”

Alphabet旗下的Google、微軟支持的OpenAI 和Meta Platforms在給維納的信中表達了他們的擔憂。亞馬遜與Anthropic公司則表示，該法案的好處可能超過成本，但它補充說，仍有一些方面似乎令人擔憂或模糊不清。