英國政府宣布將於今年秋季（秋季）舉辦首屆全球人工智能安全會議。在此次峰會上，主要國家、領先的科技公司和研究人員將齊聚一堂，討論安全措施，以評估和監測人工智能帶來的最重大風險。

“人工智能具有不可思議的潛力，可以讓我們的生活變得更美好，”英國首相Rishi Sunak 說。“但我們需要確保以安全可靠的方式開發和使用它。”

“縱觀歷史，我們一次又一次地發明了顛覆範式的新技術，並利用它們造福人類。 這是我們必須再次做的事情。沒有一個國家可以單獨做到這一點。 這需要全球的努力。 但憑藉我們豐富的專業知識和對開放、民主國際體系的承諾，英國將與我們的盟友站在一起，引領潮流。”

從日常生活到科幻小說，人工智能所帶來的潛在風險已經被多方面關注。目前人工智能最常見的危險是它會產生稱為幻覺的虛假信息。

OpenAI 正在研究其LLM 中的處理方法，驗證每個階段的邏輯以減少”胡說八道”的發生率，但該模型尚未部署用於廣泛使用。除了這個問題，人工智能還可以被惡意黑客用來生成可用於攻擊的惡意代碼。

雖然這不直接構成人工智能安全問題，但圍繞人工智能搶走工作的情況是政客們必須應對的另一件事。例如，上週報導說，一些公司已經開始用生成人工智能取代人類。

在本次峰會宣布之前，Rishi Sunak 的AI 顧問Matt Clifford 表示，如果不受監管，AI 可能會在短短兩年內變得非常強大，這顯然會讓人類難以控制。雖然終結者AI 場景現在感覺像是科幻小說，而且可能會持續兩年多，但政府最好在為時已晚之前調查潛在風險。