來自商界、政界和其他領域的100多位全球知名人士簽署了一封公開信，敦促全球領導人應對當前和未來的生存威脅，包括人工智慧、氣候變遷、疫情和核戰。週四發表的這封信來自南非前總統納爾遜-曼德拉成立的非政府組織”長老會”（The Elders）和非營利組織”生命未來研究所”（Future of Life Institute），後者旨在引導變革性技術造福生命，避免大規模風險。

這封信的簽署者包括億萬富翁維珍集團創始人理查德-布蘭森、前聯合國秘書長潘基文和查爾斯-奧本海默（羅伯特-奧本海默的孫子）。此外，多位前總統和總理、活動家、執行長、創始人和教授也在信上簽名。

“我們的世界正處於嚴重危險之中，”信的開頭這樣寫道。”我們面臨著一系列危及全人類的威脅。我們的領導人沒有以必要的智慧和緊迫感做出反應”。

信中舉例說明了當前的威脅包括氣候的變化、大流行病以及使用核武的戰爭。信中指出，更糟糕的情況可能會出現，尤其是我們還不知道與無人管理的人工智慧相關的新威脅會有多大。

“長遠型領導力意味著要表現出解決棘手問題的決心，而不僅僅是管理這些問題；要表現出基於科學證據和理性做出決策的智慧；要表現出傾聽所有受影響者聲音的謙遜” 。

信中呼籲各國政府就某些項目達成一致，如商定如何為從化石燃料向清潔能源過渡提供資金，重啟軍備控制談判以降低核戰風險，以及製定一項公平的大流行病條約。在人工智慧方面，我們的建議是建立必要的治理機制，使這項技術成為有益的力量，而不是失控的風險。

麻省理工學院宇宙學家馬克斯-泰格馬克（Max Tegmark）與Skype 聯合創始人雅安-塔林（Jaan Tallinn）共同成立了”未來生命研究所”（Future of Life Institute），他告訴CNBC，”長老會”及其組織並不認為人工智慧是”邪惡的”，但擔心如果它在錯誤的人手中迅速發展，可能會被用作破壞性工具。

未來生活研究所去年也發表了一封公開信，呼籲暫停先進人工智慧開發六個月。這封信有1100 人簽名，其中包括蘋果聯合創始人史蒂夫-沃茲尼亞克（Steve Wozniak）、埃隆-馬斯克（Elon Musk）和Pinterest 聯合創始人埃文-夏普（Evan Sharp ）。這封信並沒有達到預期效果；人工智慧公司不僅沒有放慢開發速度，許多公司實際上還加快了開發高階人工智慧的步伐。

將人工智慧與核戰相提並論並不新鮮。去年5 月，專家和執行長們就曾警告這項技術帶來的滅絕風險。甚至連ChatGPT 的創造者OpenAI 也說，比人類更聰明的人工智慧可能會導致人類滅絕。