Meta首席人工智慧科學家、深度學習之父Yann LeCun又開噴了。這次不是懟OpenAI，也不是和馬斯克打嘴仗，而是非常言辭犀利地直指SB-1047法案主要起草者Dan Hendrycks ，稱他根本就是「偽裝成學術智庫主管的末日邪教大師」。

這位Dan Hendrycks是美國AI政策領域的後起之星，2023年被《時代雜誌》評選為全球百大AI人物之一。博士畢業於UC Berkeley電腦科學系，曾發明GELU活化函數與神經網路穩健性基準。目前擔任舊金山非營利組織AI安全中心（CAIS）主任和xAI的安全顧問。

圖：The Boston Globe

作為SB-1047的重要參與者和推動者之一，Hendrycks一直在多個平台上大力宣傳該法案，提醒大眾警惕先進AI帶來的社會風險。他在Yann LeCun轉發的這則採訪中指出：人工智能將“從執行日常任務到摧毀整個宇宙”，它雖不懂人類是什麼，但會尋求權力並表現得”自私”，而美國加大AI監管也會「一舉兩得」地扼制中國人工智慧發展。

此番言論馬上被一大批科技人士痛批“bullshit”，對這個SB-1047法案也是深惡痛絕。因為它表面看似為增強AI模型安全性、透明度、促進公平競爭做出的立法努力，實則會讓開發者背負沉重負擔，很可能扼殺創新，給AI新創公司和開源社群帶來巨大的負面影響。

a16z合夥人Martin Casado稱SB-1047“是一場災難，會攻擊AI創新，傷害研究人員、學者和創業公司。”

什麼是加州SB-1047法案？

SB-1047 法案，全稱為“前沿人工智慧安全創新法案（Safe and Secure Innovation for Frontier Artificial Intelligence Act）”，由加州參議員Scott Wiener在今年2月首次提出。目的是“為大規模人工智慧系統的開發和部署設立嚴格安全標準，以確保其安全性並防止潛在重大危害。”

該法案針對超過10^26次浮點運算能力（FLOPs）和1億美元訓練成本，以及任何基於上述AI模型微調的、運算能力不少於3 倍10^25 FLOPs的智慧系統。幾乎把現在市面所有主流大模型囊括在內。

主要內容包括要求開發者進行部署前的安全評估，實施強有力的網路安全保護，具備緊急關停模型的能力，提交年度合規認證，72小時內上報安全事件等。

另外也要求開發者對其模型的下游使用或修改承擔法律責任。換言之，但凡有人用你的模型做了“壞事”，你就要“連坐受罰”，跟古代皇宮裡“株連九族”差不多意思。在開始訓練之前，開發者需要保證他們的模型不會被用來或提供”危險能力”，並實施一系列保障措施來防止未經授權的訪問或濫用，還必須要立下「書面字據」。

一個新成立的「前沿模型司（Frontier Model Division）」將負責監督新法規的執行。它將隸屬於加州技術部，由向開發者收取的費用和罰款來資助。向該機構虛假陳述模型能力可能會因偽證罪而入獄。同時條款明文寫著“鼓勵告密”，呼籲AI公司內部員工報告雇主的不合規行為，且不會因此而遭到報復——不知為什麼，總覺得這機構滿滿的反派感。

目前該法案的進度是，已於5月21日在加州參議院獲得兩黨支持通過，正在眾議院審議中。 6月20日剛進行了最新閱讀和修訂，計劃7月2日舉行聽證會，並最終在8月進行議會投票。一旦投票通過，只需州長蓋文紐森一個簽名，SB-1047就將正式確立為加州法律，成為懸在所有矽谷AI從業者頭頂的一把大刀。

極限高壓嚴管， SB-1047將如何影響AI開發者？

只通篇略讀，就已經覺得這個法案槽點太多，群起反抗迫在眉睫。

加州是全球人工智慧的創新熱土：坐擁學術重鎮史丹佛大學、加州理工、柏克萊、南加大、UCLA，是Meta、Google、微軟等科技巨頭和OpenAI、Anthropic這些業內領軍企業的總部所在地，更別提遍地湧現的AI獨角獸、技術實驗室和開源社群。頒布這樣一條法案弊遠大於利，當然引來Yann LeCun等許多權威人士的嚴辭抵制。

首先是「受管制模型」的不合理範圍。 Answer.ai CEO、fastai庫作者Jeremy Howard指出其定義方法過於寬泛，很可能把大量風險極小的開源模型包括在內，進而誤將從事有益AI項目的善意開發者活動歸為犯罪。

a16z普通合夥人Anjney Midha認為，隨著演算法效率的提升和計算成本的下降， 10^26 FLOPs的閾值將很快覆蓋比科技巨頭開發的最大、最尖端模型多得多的模型，這將真正傷害到大批AI新創公司。

而關於「1億美元訓練成本」的界定也十分模糊。它應該包括研究人員薪資嗎？是包含歷代模型還是只計算最終版本，模型對齊的人類回饋費用怎麼算？若是從別人的模型微調而來，那麼基礎模型的成本又是否涵蓋在內？這些都是沒有明確答案的開放性問題，對小型開發者造成巨大的應對負擔。

接下來是批判聲浪最大也最荒謬，對模型開發者施加民事甚至刑事責任的22603條款。

該細則要求開發人員在訓練模型之前，必須採取一系列措施防止濫用，包括實施網路安全保護、關鍵時刻能不考慮使用者緊急關停模型等。

此外，存在潛在風險的模式不得用於商業或公共用途。開發人員每年要重新評估安全措施，提交合規證明。 2028年開始必須獲得第三方審計員的合規證書。也要評估模型是否可能導致“嚴重危害”，確保能夠準確追蹤其衍生行為及後果。由於上述疏忽而出現AI安全事故的話，第一開發者將負連帶責任。

也就是前面說的，當素不相識的下游用戶做出一些不法行為時，基礎模型開發者將成為共同受罰的冤大頭。好比讓汽車製造商對每個駕駛者造成的事故負責，簡直離大譜。

Jeremy Howard在評論中寫道，「AI模型是電腦上運行的通用軟體，就像計算器或網路瀏覽器一樣。模型的創建者無法確保模型未來不會被用於有害用途，就像網路瀏覽器不能決定打開什麼網頁一樣。

這也是SB-1047法案的根本缺陷——它不是專注於濫用和惡意用戶，反而試圖監管模式和基礎設施，把如此繁重的負擔放在了新創公司、創辦人和工程師身上。 DeepLearning.AI創始人吳恩達在X撰寫長文，稱“安全性是應用程式的屬性，而不是技術或模型的屬性….如果有機會，我希望您能加入發聲，共同反對這一法案。”

接著來到22604條款，對營運計算集群的人員來說，當客戶使用其算力資源訓練「前沿模型」時，要收集客戶的身份資訊、支付方式和聯絡方式，包括相關金融機構、信用卡號碼、帳戶號碼、交易識別碼或虛擬貨幣錢包地址等。

而且，還要保留客戶的IP位址和訪問記錄長達七年，每年對用戶行為和意圖進行評估，也要在海關、邊境總署備案。

諸如這樣不合理的責任條款還有很多，那它們帶來的實際效果會是什麼呢？

a16z合夥人Anjney Midha認為，它將把先進AI開發推向地下或海外，“創始人將把公司業務轉移到一個監管環境更明智的轄區，而加州甚至美國將失去這些機會，就這麼簡單。”

並且由於合規成本的增加，企業或個人開發者在開源大模型權重上會非常謹慎。而開源一直是軟體技術進步的關鍵推動力，提供了許多現代人工智慧基本構建塊。事實上，生成式AI浪潮正是源自Google實驗室的Transformer架構，然後由OpenAI 去開創與延續。 Mistral和Meta們的開源模型對下由貢獻不可估量，今天的一切都是開源合作的結果，而這項法案會大大減緩其發展。

Yann LeCun解釋說，「SB-1047 的級聯責任制將使開源AI 平檯面臨極大風險。沒有開源AI，就沒有AI 新創公司生態系統，也沒有大模型的學術研究。Meta 會沒事，但AI新創公司將會死亡。

Y Combinator掌門人Gary Tan表示，“SB-1047將對加州的AI 發展產生強烈的寒蟬效應。”

Kentauros AI CEO 、前Red Hat資深架構師Daniel Jeffries認為這根本不是AI安全法案，而是一匹「特洛伊木馬」。真正目的是讓一小撮反AI極端分子擁有關閉先進AI的權力，同時為加州的科技產業製造麻煩。

“不要讓模型對別人的犯罪負責。沒人因為安然公司有人用Excel詐騙投資者就懲罰微軟，該懲罰的是安然的騙子。”

他也指出，若法案在加州成功很可能引發其它州效仿，同時其它地區的AI正在快速發展。例如中國就已經有了媲美Sora的先進視頻生成模型，量產的無人駕駛出租車，和廣泛部署用於交通控制的阿里巴巴城市大腦。

Luma AI CEO Amit Jain說，「加州是我們所知最優秀、最聰明的AI開發者聚集地。我在加州創業是因為這裡一流的創新精神和創造性思維。不幸的是，SB-1047法案違背了這一切，不僅會帶來重大現實影響，還會破壞新創公司來此地奮鬥的目標。

抵制SB-1047，還能做些什麼？

在加州這片土地上，有大批華人創業家和研究人員奮鬥在AI科技第一線。如果SB-1047法案通過，除了直接影響華人AI從業人員的創新步伐，還可能需要投入更多資源確保工作合規，例如對模型進行額外測試與認證等。也可能導致投資環境惡化，令獲得資金和客戶變得艱難，同時國際間的技術交流和合作也將驟減。

“那麼如果我是創始人、工程師，或者只是感到擔憂的普通人，可以做些什麼來表達對這項法案的意見呢?”

a16z合夥人Anjney Midha認為有三個步驟：

第一步是閱讀這項法案。它並不是很長，但大多數人還沒實際讀過它。如果你覺得它將與你未來的職業境遇息息相關，那就前往此連結：https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047

第二，特別是對於在加州的人來說，反對這項法案最有效的方式是聯繫議會代表。透過打電話或任何方式，告訴他們為什麼應該在8月投出反對票，轉述創業社群、科技創辦人和學者的呼聲。

第三是上網，在X等社群媒體發聲。事實證明許多美國州級和國家級立法者都會在Twitter上傾聽人們的意見。也可以到https://stopsb1047.com/ 網站簽署聯名信。這是由一群加州的領先AI開發者、研究人員和創始人們共同啟動的線上平台，供關心SB-1047法案影響的科技人士發聲，在開通24小時內就集齊了數百個簽名。如果你反對該法案，現在就可以發送一封郵件。

今年5月22日，美國眾議院於以43 : 3通過一項ENFORCE法案，旨在擴大美國政府對人工智慧系統出口的監管權力。一旦遞交總統簽署，將對在美華人AI從業人員產生重大影響。包括持H1B工作簽證的中國人需特殊許可才能從事AI/ML相關工作，面臨更多就業困難和限制；對一些國際合作開源AI項目的參與者進行背景調查，在發布開源軟體之前詳細審查等。

而今加州的SB-1047法案，將進一步擠壓AI新創公司、小型開發者團隊的生存空間，阻礙開源AI的進行與進步。距離投票還有不到60天，如果你也身在其中，想出一份力，或許可以抓住現在的機會。