本週三和週四，來自全球27 個國家政府的代表以及頂級人工智慧公司的負責人齊聚倫敦附近的布萊切利公園，參加全球首次人工智慧安全高峰會。與會者包括美國和中國政府代表、馬斯克（Elon Musk）和OpenAI 執行長山姆-奧特曼（Sam Altman）。

這場由瑞希-蘇納克（Rishi Sunak）領導的英國政府主辦的高規格活動，是繼近一年前推出ChatGPT 之後，全球有關人工智慧安全的討論激烈升級的一年。至少對許多用戶來說，該聊天機器人首次展示了最新一代人工智慧系統強大的綜合能力。它的病毒式傳播為以前的一個小眾學派注入了活力，這個學派認為人工智慧遲早會對人類的生存構成威脅，並促使世界各地的政策制定者權衡是否以及如何監管這項技術。這些討論是在這樣的警告中進行的：不僅當今的人工智慧工具已經帶來了多方面的危險–尤其是對邊緣化群體而言，而且下一代系統可能比現在強大十倍或百倍，更不用說更加危險了。

英國政府之所以選擇布萊切利公園作為峰會的舉辦地，是因為它的象徵意義：這裡是現代計算的發源地之一；在這裡設計的用於破解納粹英格瑪密碼的機器構成了早期可程式計算機的藍圖。英國科技大臣米歇爾-多納蘭（Michelle Donelan）在周三的峰會開幕式上表示，她希望與會代表能夠為類似規模的成就做出貢獻，”突破實際可能的界限”。

來自世界各地的官員並沒有試圖在這裡就一套共同的、可執行的技術準則達成協議。但蘇納克在周四宣布，人工智慧公司已在峰會上同意讓各國政府儘早使用他們的模型來進行安全評估。他還宣布，圖靈獎得主、電腦科學家本吉奧（Yoshua Bengio）已同意擔任一個機構的主席，該機構將努力在一份報告中就前沿人工智慧系統的風險和能力達成科學共識。

本吉奧在聲明中說：”我很高興能與來自世界各地的同事合作，就這一極其重要的問題提出最新的證據，從而為管理人工智能安全所急需的國際協調提供支持。”

蘇納克在峰會上贏得頭條新聞點位- 人工智慧實驗室將讓政府儘早使用他們的系統，儘管這一決定在細節上並不突出。蘇納克在6 月已經宣布，三家領先的前沿人工智慧公司（OpenAI、Google DeepMind 和Anthropic）已經同意讓英國政府出於安全目的”提前或優先訪問”他們的系統。蘇納克沒有詳細說明週四達成的協議與這一現有承諾有何不同，他也沒有對政府是否會獲得前沿模型的源代碼或所謂的”權重”發表評論，或者僅僅是獲得使用API​​ 接口與前沿模型進行互動的能力。(蘇納克辦公室沒有立即回覆置評請求）。

蘇納克也宣布，英國的人工智慧前沿工作小組將發展成為一個負責安全評估的常設機構：英國人工智慧安全研究所（UK AI Safety Institute）。

儘管進展有限，但與會代表對高級別討論表示歡迎，認為這是國際合作監管人工智慧技術邁出的關鍵性第一步——他們承認，雖然在許多領域達成了共識，但仍存在一些關鍵分歧。

週三，英國政府宣布了關於人工智慧的”布萊切利宣言”，包括美國、英國、中國、印度和歐盟在內的28個國家簽署了該宣言。宣言稱，人工智慧既有短期風險，也有長期風險，申明強大的人工智慧系統的創造者有責任確保這些系統的安全，並承諾在識別和降低風險方面開展國際合作。

英國政府作為此次峰會的組織者，一方面要向科技公司傳達其對人工智慧風險的嚴肅態度，另一方面又要向科技公司發出信號，表明其對商業持開放態度，在這兩者之英國政府走的是一條細水長流的路線。多納蘭在峰會前夕於Google DeepMind 總部舉行的招待會上對科技界知名人士說：”對我來說，我們面臨的最大風險其實是錯失人工智能真正帶來的所有這些令人難以置信的機遇。如果我們真的讓人們過於恐懼，或者因為沒有把握住這些風險而退縮，那麼我們就不會看到NHS（國民健康服務）採用人工智能，我們就不會看到我們的交通網絡採用人工智能，我們就無法利用人工智慧來應對氣候變化，或支持發展中國家解決糧食不平等等問題。這將是我們所能想像的最大悲劇。”

另一方面，美國本週發布的幾項聲明有可能使英國在人工智慧安全方面的全球領導地位黯然失色。美國副總統卡馬拉-哈里斯（Kamala Harris）週三在倫敦發表演講時宣布了美國的一系列行動，其中包括成立美國人工智慧安全研究所。哈里斯表示，該機構將為人工智慧系統的風險評估制定指導方針，並就人工智慧生成材料的水印和打擊演算法歧視等問題為監管機構制定指南。哈里斯是在美國總統喬-拜登（Joe Biden）週一簽署行政命令，要求人工智慧公司在訓練具有潛在危險的模型時通知聯邦政府，並在公開安全測試結果之前與聯邦政府分享測試結果之後宣布這一消息的。

英國外交大臣詹姆斯-克萊弗利（James Cleverley）週四淡化了有關美國的聲明給英國蒙上陰影的說法。他對《時代》周刊說：”這不是囤積，而是分享。我們希望每個人都參與進來。這不是排他性的，而是包容性的。”

在布萊切利公園，大批警察在戰時密碼破解綜合體周圍搭建的安全臨時警戒線上巡邏。週三，在正門外，來自壓力團體”暫停人工智慧”（Pause AI）的一小撮抗議者高舉橫幅和標語牌。該組織主張暫時停止訓練比OpenAI 的GPT-4 更強大的人工智慧系統，GPT-4 是ChatGPT 的後繼者，也是世界上最強大的公開大型語言模型。抗議者之一吉迪恩-富特曼（Gideon Futerman）告訴《時代》周刊：”民意調查越來越顯示，放慢人工智能的發展速度受到了公眾的歡迎，就像我們今天在抗議時收到的許多來自老老少少公眾的支持信息一樣。暫停不僅是必要的，也是可以實現的”。

在會場內，主要的討論都是閉門進行的，但也有一些業界人士出來向媒體發表演說。Google DeepMind聯合創辦人、現任新創公司Inflection AI執行長穆斯塔法-蘇萊曼（Mustafa Suleyman）在一次新聞發布會上表示，他不同意那些呼籲暫停訓練下一代人工智慧系統的人的觀點，但他表示，在不久的將來，業界可能需要考慮將其作為一種選擇。他說：「我不排除這種可能性，我認為在未來五年左右的某個時間點，我們必須非常認真地考慮這個問題。我不認為今天有任何證據表明，GPT-4 這種規模的前沿模型……會帶來任何重大的災難性危害，更不用說任何生存危害了。客觀地說，GPT-4 對世界上的人們有著不可思議的價值。但是，在我們創造更大10 倍、100 倍、1000 倍的模型時，這是一個非常明智的問題，而這將在未來三四年內發生。”

今年3月，一封呼籲暫停訓練大型人工智慧系統6個月的公開信被許多業內人士認為無法執行，但一些代表表示，峰會正在採取措施，建立一個可以執行這項決定的國際框架。人工智慧安全公司”猜想”（Conjecture）的首席執行官康納-萊希（Connor Leahy）週三告訴《時代》周刊，他對峰會的討論水平和幾乎一致的共識留下了深刻印象。他說：「總的來說，我認為英國在這裡做了一些非常了不起的事情，」他稱讚了來自政府和行業的高級別與會者的數量。”這不是一個在實踐中製定政策的地方，而是一個奠定基礎的地方”。

民間社會的部分成員受邀參加了與政策制定者和技術專家的閉門會議，但其中一些人對他們所說的代表人數不足感到不滿。非營利組織REAL ML 的代表、印度班加羅爾的維杜希-馬爾達（Vidushi Marda）說：”如果這真是一場全球對話，為什麼[出席]的大多是美國和英國的民間社會？對我們來說，大多數重要決定都是不透明的，儘管我們就在會議室裡。”

還有人指責峰會反映了業界的談話要點。研究機構AI Now Institute 的執行董事安巴-卡克（Amba Kak）說：”業界完全掌握了這場對話，在很多方面，這次峰會也反映了這一點。所有這一切的背景是，我們正看到權力進一步向科技業集中，而在這個產業中，只有少數幾個參與者。如果我們讓產業為人工智慧政策定調，光說我們希望監管是不夠的–因為我們將看到進一步鞏固行業利益的監管。”

卡克說，峰會的範圍似乎在進程後期發生了轉變，納入了對近期風險的討論，她對此表示歡迎。她說：「早期的訊號都表明，高峰會幾乎完全集中在展望未來的危害類型上。如果說從《布萊切利宣言》中得到了什麼啟示的話，那就是有必要處理近期問題，而且這與長期問題並沒有脫節。”

雖然此次高峰會可能在一定程度上成功地彌合了研究人​​員對近期和長期風險發出警告的分歧，但在許多行業與會者中，人工智慧研究的開源和閉源方法之間的意見分歧也是顯而易見的。主張對人工智慧研究進行更多限制的人說，高階人工智慧的危險太大，強大模型的原始碼不能隨意發布。

開源社群不同意這種觀點，他們認為，以獲利為目的的公司壟斷人工智慧研究很可能會導致不良後果，並認為開源模型可以加速安全研究。”開源的爭論感覺仍然很有挑戰性，我不認為這次峰會由於涉及一系列議題，真的能夠提供足夠的空間來深入細節，以尋求更大的共識，”與會代表、智庫長期復原力中心（Centre for Long-Term Resilience）人工智慧政策負責人傑斯-惠特爾斯通（Jess Whittlestone）告訴《時代》周刊。”在我參與的討論中，有相當多的人同意，我們需要超越開放/閉源的二元辯論，研究更細緻入微的解決方案，但對於這需要是什麼樣子以及什麼應該被優先考慮，仍然存在不同的觀點。”

在布萊切利公園（Bletchley Park）聚會的象徵意義不言而喻，在這裡，戰時的偉人們齊聚一堂，在面臨生存威脅時保護生命和自由。但是，如果這次峰會未能取得預期成果，那麼另一個歷史對比可能是更好的比喻。戰後，位於布萊切利的著名密碼破解機構演變成了英國的情報機構–GCHQ，該機構與美國國家安全局合作，在全球範圍內不分青紅皂白地實施大規模監控計劃–利用技術不是為了保護公民，而是有系統地侵犯他們的權利。

Signal公司總裁梅雷迪斯-惠特克（Meredith Whittaker）告訴《時代》周刊：”布萊切利的神話被歷屆政府用來為監控和加強技術控制辯護，暗示這些努力與英國在第二次世界大戰期間的反法西斯技術努力同出一源。因此，現任政府試圖接近美國強大的人工智慧產業，利用並延伸這一神話，希望過去的光輝能夠掩蓋現在的現實，也就不足為奇了。 “