英國首相蘇納克（Rishi Sunak）宣布計劃成立首個人工智慧安全研究所。今天早些時候，微軟、Google、OpenAI 和Anthropic 宣佈為前沿模型論壇提供1000 萬美元的基金，以確保安全、負責任地開發生成式人工智慧。

蘇納克於2023年5月會見了人工智慧產業的領導者，即OpenAI、Google和Anthropic，討論科技的保障措施。與唐寧街代表的會面為確保安全、負責任地發展人工通用智慧（AGI）的倡議做了準備。

蘇納克說：”在安全可靠的情況下，人工智慧有可能帶來變革和經濟成長。”

在這項進展之後，英國政府宣布將於11 月1 日和2 日舉行人工智慧安全高峰會。此次峰會將匯聚人工智慧公司、政府、民間團體和人工智慧領域的專家，目標是考慮人工智慧的風險，尤其是在發展前沿的風險討論如何透過國際協調行動降低風險。

此次峰會將重點放在前沿人工智慧（Frontier AI），這是一類能力極強的基礎模型，其性能與現有模型相當或更勝一籌。

就在峰會召開前一周，英國首相在倫敦的演講中宣布成立人工智慧安全研究所，這在世界上是第一次。根據蘇納克的說法，該研究所將”仔細評估和測試新型人工智慧，以便我們了解新模型的能力”。英國政府也就前沿人工智慧的風險以及人工智慧攻擊的規模和速度導致的網路安全漏洞發布了兩份討論文件。這兩份文件警告說，在未來，我們可能會看到由人工智慧進行和防禦的網路攻擊，而在每一個步驟中，人類的監督都會被最小化。