加州議會批准了一項備受爭議的人工智慧安全法案，要求企業確保其技術不會造成重大傷害。這項名為SB 1047的法案得到了一系列美國知名人士的批評和讚揚。現在，這項法案將回到州參議院進行確認投票，可能進行修改，此後將提交給州長加文紐森（Gavin Newsom）。該法案已經在州眾議院以41票贊成、9票反對獲得通過。

SB 1047法案規定，開發強大人工智慧模型的公司必須採取“合理的謹慎措施”，確保其技術不會造成“嚴重傷害”，例如大規模傷亡或超過5億美元的財產損失。這項法案由加州參議員斯科特·維納（Scott Wiener）提出，於今年5月在州參議院獲得通過。該法案將要求企業採取預防措施，例如引入可以隨時關閉其技術的「終止開關」。該法案還要求將模型提交給第三方測試，以確保將嚴重風險降至最低水準。

此外，該法案還將為希望分享安全隱患的人工智慧公司員工提供舉報人保護。不遵守該法案的公司可能會被加州總檢察長起訴。

「創新和安全可以攜手並進，而加州正在引領這一潮流，」維納在聲明中說，「通過這次投票，州眾議院邁出了真正具有歷史意義的一步，積極主動地開展工作，以確保一項令人興奮的新技術在發展過程中保護公眾利益。

在過去的幾個月裡，該法案遭到了許多主要科技領袖、新創公司和創投家的激烈反對，他們認為該法案代表了政府對一項仍處於起步階段的技術的過度幹預，可能會扼殺加州的科技創新。上週，OpenAI公開表示反對該法案，認為此類政策應在聯邦層級而非州層級實施。

包括前眾議院議長南希•佩洛西（Nancy Pelosi）、美國眾議員羅•卡納（Ro Khanna）、舊金山市長倫敦•布里德（London Breed）等政界人士也對該法案表示反對，他們對科技業的擔憂表示認同，即該法案可能會阻礙加州在人工智慧創新方面的領導地位。

但在這次投票前的最後階段，該法案也贏得了人工智慧領域一些重要人物的支持。 8月27日，馬斯克（Elon Musk）出人意料地表示了支持，儘管他說這是一個「艱難的決定，會讓一些人不高興」。 OpenAI的競爭對手Anthropic以注重安全而著稱，也謹慎地支持了這項法案，並在上週表示，“收益可能大於成本”，而且可以切實地實施這些條款。在維納實施了該公司建議的幾項修正後，Anthropic對該法案更加支持。

面對批評者，維納為該法案進行了辯護，強調其條款僅適用於花費超過1億美元訓練大型模型或花費1000萬美元微調模型的公司，這將使大多數規模較小的初創公司免受影響。這位議員也表示，雖然他會支持聯邦立法，但國會在科技監管方面歷來行動遲緩，在缺乏全國性行動的情況下，他認為加州有責任發揮領導作用。

現在，隨著SB 1047法案提交給州長紐森，有關該法案的爭論還將繼續。 OpenAI、科技孵化器Y Combinator和創投公司Andreessen Horowitz（SB 1047的批評者）都註冊了遊說人員為該法案工作。