當地時間11月1日，英國主辦的首屆全球人工智慧（AI）安全高峰會在英國布萊切利公園拉開序幕。高峰會第一天，包括中國、美國、英國在內的28個國家及歐盟共同簽署了《布萊切利宣言》，承諾以安全、以人為本、值得信賴和負責任的方式設計、開發、部署和使用AI。

宣言聚焦在兩個方面，一是識別共同關注的AI安全風險，建立對這些風險的共同科學和基於證據的理解；二是各國制定各自基於風險的政策，以確保此類風險的安全，酌情開展合作。宣言提到，為推動這項議程，各國決定支持一個具有國際包容性的前沿AI安全科學研究網絡，該網絡包含並補充現有和新的多邊、諸邊與雙邊合作，包括透過現有的國際論壇和其他相關舉措，為政策制定和公共利益提供最佳的科學支持。

會議也確認了下一屆峰會的主辦單位。英國數位部長米歇爾唐蘭（Michelle Donelan）宣布之後將再召開兩場AI安全峰會，一場於6個月後由韓國主辦，另一場將在一年內由法國主辦。

根據路透社報道，我國科技部副部長吳朝暉在開幕式上稱，中國政府願意加強在AI安全方面的合作，幫助建立一個國際治理框架，秉持著相互尊重、平等互利的原則，「國家不分大小，都享有平等開發和利用人工智慧的權利……我們呼籲全球合作，分享人工智慧知識，並以開源方式向公眾提供人工智慧技術。”

▲我國科技部副部長吳朝暉

美國商務部長吉娜·雷蒙多（Gina Marie Raimondo）稱，美國將成立一個AI安全研究所，以評估所謂「前沿」AI模型的已知和新出現的風險。她在會上發表演講時稱：“我幾乎肯定會呼籲學術界和工業界的許多觀眾加入這個聯盟……我們無法單獨做到這一點，私營部門必須挺身而出。”

雷蒙多補充說，她還將致力於推動美國研究所與英國安全研究所建立正式的合作夥伴關係，這項新工作將由美國國家標準與技術研究院（NIST）負責。該部門稱，此研究所「將促進AI模型安全、保障和測試標準的製定，制定驗證AI生成內容的標準，並為研究人員提供測試環境，以評估新興AI風險並解決已知影響」。

▲美國商務部長雷蒙多

美國副總統卡瑪拉·哈里斯（Kamala Harris）當天在倫敦發表演講，介紹美國政府對AI的應對措施。她的演講時機受到一些英國高層和立法者的質疑，他們認為哈里斯似乎搶了AI安全高峰會的風頭。

據兩位消息人士透露，哈里斯已邀請多個研究小組與她一起參加週三在倫敦大使館舉行的閉門活動，這意味著一些與會者可能必須提前離開布萊切利公園的峰會。據報道，哈里斯將在周三晚些時候與蘇納克會面共進晚餐，並將出席週四第二天的峰會。

▲美國副總統哈里斯

英國政府也在峰會上宣布，將投資3億英鎊（約3.64億美元）用於建立新的“AI研究資源”，以支持先進AI模型的研究。資金將主要用於建造兩台新的超級計算機，分別位於劍橋和布里斯托爾，為研究人員提供比英國目前最大的公共AI計算工具容量大30倍以上的資源。

據稱，布里斯託的「Isambard-AI」超級電腦將包括來自英偉達的5000個先進AI晶片，由惠普建造；而劍橋的「Dawn」超級電腦將透過與戴爾和英國中小企業StackHPC的合作交付，並由1000多個英特爾晶片提供動力。這些機器將從明年夏天開始運行，將用於分析先進的AI模型以測試安全功能，並推動藥物發現和清潔能源的突破。

英國首相里希·蘇納克（Rishi Sunak）在社群媒體平台X上表示：「前沿AI模型的力量正在呈指數級增長。這項投資將確保英國的科學人才擁有他們所需的工具，以確保最先進的AI模型的安全。”

▲蘇納克在社群媒體平台X上評論

除了各國政府，一些科技頭部企業的高階主管和研究人員也出席了高峰會。

馬斯克（Elon Musk）稱，希望建立一個“第三方裁判”，能夠監督AI開發公司並在出現問題時發出警報。他在接受記者採訪時說：“我不知道公平的規則是什麼，但在進行監督之前，你必須從洞察力開始。”

GoogleDeepmind聯合創始人穆斯塔法·蘇萊曼（Mustafa Suleyman）告訴記者，他並不認為目前的AI前沿模型會造成任何“重大災難性危害”，但他談道，隨著AI行業訓練出越來越大的模型，提前做好規劃是有意義的。

結論：28國簽署新宣言，推動AI風險管控議程

此次高峰會是首屆全球性質的AI安全高峰會，《布萊切利宣言》的簽署有助於推動全球AI風險管理的進程。

前沿AI模型可能帶來的風險是不可忽視的，需要立法者、科技企業和國際社會共同監督與合作，確保這項技術能夠負責任地造福所有人。