AI是否應該監管，應該怎麼監管？是能避免災難，還是扼殺創新？圍繞著加州議會的一項AI監管法案，矽谷已經為此吵翻了天。上週三，一群在電腦領域聲名顯赫的功勳學者教授們聯名簽署了一封公開信，支持加州議會一項AI安全監管法案。他們將這封信分別送至加州政府的三個機構負責人：加州州長紐森（Garvin Newsom）、加州參議院與眾議院的兩位議長。

泰斗專家力挺監管立法

簽署這封聯名信的學者教授都在人工智慧領域作出了奠基性的研究，尤其是在神經網路和深度學習方面作出了傑出貢獻，在電腦科學領域享有極高的地位。他們的意見會受到美國政府以及整個AI產業的重視與尊重。

他們包括被譽為「人工智慧之父」的加拿大科學家傑弗裡·辛頓（Geoffrey Hinton）、被譽為「深度學習之父」的加拿大蒙特婁大學電腦科學教授約書亞·本吉奧（Yoshua Bengio ）、撰寫最早AI教材的加州柏克萊大學電腦科學教授斯圖亞特·羅塞爾（Stuart Russell）以及網路立法專家、哈佛大學法學教授勞倫斯·賴斯格（Lawrence Lessig）。

一項加州的法案為什麼會讓這些泰斗級人物如此關注和擔憂？這項《前沿人工智慧模型安全可靠創新法》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，又稱SB 1047）目前已經通過了加州參議院和眾議院相關委員會的表決，即將送至兩院正式表決。如果投票通過，交由加州州長紐森簽字，就會成為正式法律。

這些大名鼎鼎的教授們表示，如果缺乏足夠的重視與監管，下一代AI系統的研發可能會存在嚴重風險，他們認為加州這項法案是有效監管這項技術的最基本要求。 「目前缺乏對AI系統的監管，這可能會產生嚴重的災難風險」。

「作為最了解AI系統的專家，我們可以自信地說，（AI帶來災難）的風險是很可能存在的，而且足夠嚴重，有必要製定相關安全檢測和預防措施。我們擔心科技公司在追求市場在份額和利潤最大化的過程中，無法自己化解這些系統性風險。 因此需要對這些處於AI賽道前沿的公司製定規則”，他們在公開信中寫道。

這已經不是辛頓和本吉歐這兩位AI產業的泰斗第一次公開支持SB 1047法案了。此前他們就曾經站出來支持加州立法監管AI。這次發表公開信的背景是，加州AI監管法案SB 1047遭受了諸多AI行業人士以及學者專家的反對，這兩位圖靈獎得主認為自己有必要再次公開表態，立場鮮明地支持加州政府這一立法。

李飛飛吳恩達反對過度監管

的確，有不少電腦科學的專家公開反對目前的AI監管法案，尤其是與矽谷科技公司關係密切的學者。史丹佛電腦教授、視覺辨識專家李飛飛上週在《財星》雜誌發表評論文章，立場鮮明地反對加州這項監管法案；認為這項法案會帶來意想不到的後果，扼殺AI領域的創新。

她表示，如果SB 1047成為法律，將傷害到新生的AI生態系統，尤其是目前那些與科技巨頭相比已經處於不利地位的部分：公眾領域、學術以及小科技。 “SB 1047會毫無必要地懲罰開發者，扼殺我們開源社區，阻礙學術AI研究，而無法真正解決原先想要解決的問題。”

李飛飛自稱不反對AI治理，但AI監管政策必須支持開源開發，提出統一與合理的規則，而SB 1047並未達到此標準。李飛飛表示，希望可以與加州議員攜手合作，共同製定AI監管立法。 “加州是AI的心臟，加州的發展決定了整個美國的未來。”

李飛飛的同事、史丹佛電腦科學教授吳恩達雖然沒有言辭激烈的表達反對意見。他也委婉地表示，身為AI研發者，這個法案的許多條款會讓自己無所適從。

在電腦科學領域，許多專家學者都和產業公司有著許多交集和關聯。李飛飛曾在Google雲端擔任首席科學家，而辛頓也曾經在Google Brain部門任職長達十年。吳恩達更曾在Google和百度工作多年，是Google深度學習部門的創辦人之一。

AI監管立法勢在必行

自從今年2月加州國會正式提出這個法案之後，矽谷就圍繞著AI監管的問題吵翻了天。站在不同的立場與利益上，學者專家、政府要員、產業巨頭們都有著截然不同的意見。

這個法案是由代表舊金山地區的加州參議員斯科特·維納（Scott Wiener）提出。法案要求加州的AI公司在訓練大模型時要進行嚴格的安全測試，以避免可能有危險的功能，並且實施完善的安全措施，以降低造成災難的風險。

SB 1047在加州立法討論過程中進展順利，並沒有太多議員站出來表示反對。因為先前David Binder的民調顯示，高達77%的加州選民支持對AI進行立法，更有55%的選民強烈支持對AI公司進行強制安全檢測。

需要指出的是，這項法案只針對那些在AI大模型研發投入超過1億美元的公司，這差不多也是熱門企業和小新創公司的研發投入分水嶺，正好就是GPT-4o的訓練成本。依照這個標準，Google、Meta、Open和Anthropic等AI領域的知名公司都在監管範圍之內。

而且，無論這些AI公司總部不在加州，只要他們在加州有業務，就會受到監管。因此，馬斯克的xAI就算未來搬家到德州，也一樣會受到這個法案的束縛，因為他們幾乎不可能在研發和商業方面完全脫離加州。

先前數據公司Collibra委託市場調查公司Harris Poll對美國300名資料管理與網路隱私的從業人員進行了調查。結果顯示，幾乎所有的受訪者（99%）都認同政府應該對AI科技可能帶來的威脅進行監管。

在AI可能帶來的風險中，64%的受訪者強調了隱私問題和安全性，57%的受訪者提到了假資訊問題。 81%的受訪者認為，許多網路服務公司都把使用者當成有價值的商品，科技公司應該為使用使用者資訊訓練AI大模型付費。

雖然美國國會以及拜登政府從去年就開始研究如何對AI進行監管，負責反壟斷的聯邦貿易委員會（FTC）已經更是多次調查OpenAI、微軟和谷歌等公司在AI領域的操作；不過，因為目前正值美國大選最激烈的階段，兩黨已經無暇顧及國會立法上，AI監理立法或許只能交給明年上台的新政府和國會了。

根據資料產業機構透明聯合會（Transparency Coalition）統計，美國各地已經有400多個與AI相關的法案正在擬定。在加州，除了SB 1047法案之外，還有30個與AI相關的法案正在立法初期討論階段，主要涉及保護智慧財產權、阻止AI色情內容、保護兒童資料等相關面向。

加州並不是美國第一個立法監管AI的州。先前科羅拉多州和猶他州通過了相關的監管法律，但是他們的監管範圍都明顯弱於加州的SB 1047法案。更重要的是，大多數AI公司都設在加州，因此加州這項法案將對AI產業帶來深遠的影響。

矽谷AI產業強烈反對

在SB 1047的監管對象層面，大多數矽谷AI公司和創投產業都對這項法案提出了反對意見和擔憂情緒，Meta、Google、微軟等巨頭也在透過自己的遊說能力，希望促使維納修改法案或是阻止法案在加州議會通過。

微軟在公開信中表示，支撐這個法案監管架構的根基都尚未到位，（貿然通過法律）可能會讓AI領域錯失投資、帶來誤導性的結果，還會讓產業失去專注資源研發的機會。

矽谷最有影響力的創投機構安德森‧霍洛維茲（Andreessen Horowitz）則指出，這法案設定了一個不可能的要求，（如果這項法案通過），大多數創業公司都只能選擇搬遷到對AI產業更友善的州。安德森·霍洛維茨的兩位創始人在今年美國大選中都立場鮮明地支持共和黨候選人川普，批評民主黨政府的許多政策損害了美國經濟。

知名AI新創公司Anthropic上個月底致函維納，顯示他們不支持目前的監管法案，並提出了許多改進意見，希望與維納進行對話。 Anthropic希望法案可以縮小範圍，專注於讓AI公司為造成的災難承擔責任，而不是強行規定AI公司應該採取哪些措施來阻止災難。

Anthropic認為，監理機關應該讓AI產業自行決定安全措施，懲罰那些造成嚴重後果的企業，而不該從一開始就推出各種繁瑣安全措施，讓AI公司在創新研發時束手束腳。

AI產業對SB 1047法案的反對意見主要集中在強制要求開發者必須提供合理可靠的保證，確保AI大模型不會帶來不合理的風險，造成嚴重的損害，例如會被濫用打造大規模殺傷性武器，或對關鍵基礎設施帶來損害。

按照目前法案規定，加州司法部可以起訴那些沒有製定合適的安全措施並且造成災難後果的AI公司。在法案中提到的災難後果中，包括了開發可以幫助打造或使用「生化輻射或核武」的技術，以及為關鍵基礎設施帶來超過5億美元的損失。

舊金山擔憂AI公司逃離

有趣的是，舊金山是美國AI領域的創新地，Open和Anthropic等許多AI新創公司都集中在這裡，而且還在持續擴張成長。結果反而是來自舊金山的議員率先提出法案，要求立法監管限制自己選取的這些AI公司。

維納的這項法案提出之後就引發了舊金山的熱議，支持者和反對者各持一詞，而且各有說法。許多人擔心AI監管法案會打壓正在高速成長的AI產業，進一步損害到本就處於低谷的舊金山經濟。

舊金山經濟嚴重依賴科技業。 2021年的統計數據顯示，舊金山有將近五分之一的（18.7%）員工都曾工作於科技業。然而，過去幾年由於日益糟糕的治安狀況，越來越多的科技公司選擇搬離舊金山，也帶走了大型會展活動，為舊金山經濟帶來了嚴重打擊。最近一個選擇搬走的科技公司是馬斯克的X（先前的推特）。商業不動產公司CBRE的數據顯示，今年第二季舊金山市區的辦公室空置率已經高達36.8%，創下了歷史新高。

在這樣的整體蕭條景像下，AI卻是舊金山少數還在成長的亮點產業。 OpenAI、Anthropic等大多數AI新創公司的總部都在舊金山。在AI大潮的推動下，今年第一季AI產業新租賃了舊金山超過100萬平方英尺（9.9萬平方公尺）的辦公室，讓整個產業的租賃面積超過了340萬平方英尺（31.6萬平方公尺）。

曾在2018年擔任舊金山市長、並在今年再次參選市長的法瑞爾（Mark Farrell）公開表示，這個法案可能會扼殺新興的AI產業，殺死舊金山脆弱科技產業經濟的希望。他呼籲應該把AI監管的職責交給聯邦政府，讓舊金山專注於AI等科技創新，而不是給科技公司繼續離開舊金山的理由。

矽谷最具影響力的創業訓練營Y Combinator的CEO陳嘉興（Garry Tan）一直鼓勵新創公司落腳舊金山，但他也不斷批評舊金山乃至加州政府的許多政策。陳嘉興表示，SB 1047法案可能會嚴重損害加州留住AI人才、吸引AI公司的能力。

營造恐慌與危言聳聽？

雖然遭到矽谷AI產業的強烈抵制，但看起來，SB 1074在加州立法通過的可能性越來越大，而且很多支持者並不相信這個法案會扼殺AI產業的創新。

非營利網路權益保護機構Encode Justice表示，矽谷科技業認為監管會迫使創新離開加州，這種說法是誤導性和危險的，SB 1047法案只面向那些投入上億美元用於AI模型研發的公司，大多數新創公司都不會受到影響。

SB 1074法案的提出者維納稱，認為AI監管法案會殺死AI產業的說法是在營造恐慌和危言聳聽。他表示，自己是AI的擁護者，也為舊金山成為AI創新中心而深感驕傲。

今年7月底，維納專門來到YC舊金山總部，面對許多AI創業家和研發人員解釋法案。他表示，外界對AI監管法案有著太多傳言和誇張之處，包括「如果AI技術被濫用，研發者可能會因此坐牢」的說法都是謠言。但是他並沒有得到聽眾的太多認同。

顯然，維納並不相信為科技公司會因為監管而離開矽谷。他也提到，目前科技公司對AI監管法案的抵制態度，讓他想到了2018年加州推出網路資料隱私法案的狀況。

“當時科技公司也是說，那個法案會迫使互聯網公司離開加州，但現在科技公司還在加州，而且正在強勁增長，而我們現在有了更加保護消費者的數據隱私法律。”

維納對矽谷的科技創新地位充滿信心。先前馬斯克宣布要把X搬離舊金山的時候，維納就站出來公開嘲諷馬斯克是「裝模作樣」罷了。因為特斯拉就算總部搬到了德州，也離不開矽谷的科技人才，不得不在矽谷設立了“工程總部”，而且在整體裁員的同時，還在矽穀不斷招募。