超過100 名大型人工智慧公司的現任和前任員工呼籲加州州長加文·紐瑟姆(Gavin Newsom) 通過該州新的人工智慧監管法案，該法案在科技界和政策界引起了分歧。這封信由OpenAI、Anthropic、Google的DeepMind、Meta 和xAI 的現任和前任員工簽署，表達了對某些人工智慧模型開發的擔憂。

該法案SB 1047 要求人工智慧公司在向公眾發布系統之前對其係統進行安全測試。它還要求公司對其模型造成的災難性損害承擔責任，並允許為技術工人提供舉報人保護。

信中寫道： 我們認為，最強大的人工智慧模型可能很快就會帶來嚴重風險，例如擴大生物武器的使用範圍和對關鍵基礎設施的網路攻擊。前沿人工智慧公司測試最強大的人工智慧模型是否會造成嚴重危害，並針對此類風險實施合理的保障措施，是可行且恰當的。

SB 1047 已在州議會和參議院獲得通過。現在由紐森在9 月30 日之前簽署該法案使其成為法律或否決它。州長尚未表明他對該法案的立場，他正面臨雙方的強烈遊說。

該法案的支持者認為，如果沒有護欄，人工智慧的發展可能會帶來災難性的後果。 xAI 創辦人 Elon Musk 公開支持對人工智慧進行監管。 OpenAI 的競爭對手Anthropic 也支持該法案，該公司得到了亞馬遜和Alphabet 的支持。

人工智慧先驅Yoshua Bengio 和Geoffrey Hinton 在先前致加州領導人的公開信中寫道：政府現在就如何開發和部署這些強大的人工智慧系統所做出的選擇，可能會對加州當前和未來的幾代人以及全世界產生深遠的影響。