在越來越多科技企業承諾管控人工智能（AI）的風險之際，美國的立法者正在試圖加快腳步出台AI監管法規。美東時間9月13日週三，美國參議院多數黨民主黨領袖舒默組織在華盛頓召開閉門AI峰會，多位矽谷名流受邀參加。

馬斯克在出席峰會後表示，該峰會的強烈共識是，應當針對AI出台一定程度的監管措施。舒默會後稱，國會立法監管AI只需要數月時間，而不是長達數年之久。

媒體稱，舒默試圖讓國會對AI的未來有更大的影響力，本週三的閉門峰會是他踐行這一策略的部分行動。本次到會的大多數科技業領導者都曾敦促政府，專注於為AI的使用方式製定法規，而不是規管AI技術的實際開發。

媒體指出，這場峰會將影響未來如何監管AI，出席的科技業大佬合計身家約有5500億美元。

其中包括，個人資產淨值2421億美元的特斯拉CEO馬斯克、個人資產1286億美元的微軟聯合創始人比爾•蓋茨、個人資產1.097億美元的Meta CEO扎克伯格、個人財富400億美元的英偉達CEO黃仁勳、個人財富266億美元的前GoogleCEO施密特。

週三當天，AI概念股漲跌各異。到收盤時，亞馬遜漲近2.6%，微軟漲1.3%，Meta漲1.1%，Google母公司Alphabet漲1%，Palantir漲不足0.1%，而BigBear.ai跌超6%，Guardforce AI跌3%，Bullfrog AI跌2.2%，賽富時跌近1.3%，C3.ai跌近1.2%，百度跌0.4%，SoundHound .ai收平。

週三召開AI峰會前，多家科技巨頭已經發出了自願管控AI風險的承諾。

7月，在白宮“指示”下，美國AI巨頭“自我管控”的條例浮出水面。白宮宣布，拜登政府得到了亞馬遜、Anthropic、Google、Inflection、Meta、微軟和OpenAI七家公司自願的承諾，管控AI帶來的風險。他們承諾，將幫助推動AI技術安全且透明地發展。

拜登曾指出，這些企業的承諾將立即實行，體現了安全、保障和信任這三個基本原則，但他們的承諾只是第一步，“我們必須對（AI的）威脅保持清醒和警惕。”

拜登承諾，要採取行政行動，同時與國會合作，出台針對AI的法規。他說，新興的技術需要一些新的法律、監管法規和監督。

本週二白宮發布聲明稱，Adobe、Cohere、IBM、英偉達、Palantir、賽富時、Scale AI和Stability八家公司承諾，採取自願監管措施管理AI技術開發風險。這些企業的具體承諾如下：

確保AI產品在發布之前是安全的

公司承諾在發布AI系統前進行內部和外部的安全測試。測試部分由獨立專家進行，防範存在的重大AI風險，如生物安全和網絡安全，以及其更廣泛的社會影響。

公司承諾與行業內外以及政府、社會和學術界分享管理AI風險的信息，包括：保障安全的最佳實踐方法、試圖規避保障措施的信息以及技術合作。

構建把安全放在首位的系統

公司承諾投資於網絡安全和內部威脅保障措施，保護專有和未發布的模型權重。這些模型的權重是AI系統最重要的部分。公司一致認為，只有在認真考慮到安全風險的情況下，才能發布模型權重，這一點至關重要。

公司承諾推進第三方發現和報告其AI系統存在的漏洞。有些問題可能在AI系統發布後仍然存在，而一個強大的報告機制能使這些問題被迅速發現並修復。

贏得公眾的信任

公司承諾開發出強大的技術，確保用戶知道內容是人工智能生成的，例如添加數字水印。這一行動既能充分發揮人工智能的創造力和生產力，又能減少網絡詐騙的危險。

公司承諾公開報告其AI系統的能力、限制以及適用和不適用的領域。報告將涵蓋AI系統的安全風險和社會風險，如公平公正性以及偏見的影響。

公司承諾優先研究AI系統可能帶來的社會風險，包括避免極端的偏見和歧視，並保護用戶隱私。AI的歷史記錄可以看出這些危險的潛在規模和普及程度，這些公司承諾推出可以減輕這些危險的AI。

公司承諾開發和部署先進的AI系統，以幫助解決社會面臨的最大挑戰。從癌症到減緩氣候變化，以及許多其他領域，如果AI風險得到管理，AI可以為所有人做出巨大貢獻。

白宮稱，承諾僅為政府制定AI風險管理辦法的一部分，政府將採取行政行動，並同國會合作出台針對AI的法規。幫助引導AI負責任的發展。