人工智能獨角獸公司OpenAI首席執行官山姆·阿爾特曼(Sam 阿爾特曼)表示，快速發展的人工智能技術“可能會在很多方面出錯”。但他認為，利大於弊。不過，阿爾特曼接受采訪時談到了人們對人工智能快速發展的擔憂。近幾個月來，他還公開推動加強對人工智能的監管，並經常與世界各地的官員討論對人工智能的負責任管理。阿爾特曼稱：“我們使用的是危險的技術，可能會經常以危險的方式使用。”

儘管阿爾特曼稱之為指數級技術轉變的潛在危險，但談到了人工智能可能有益的幾個領域，包括醫學、科學和教育。他稱：“我認為終結貧困是件好事。但要實現這一目標，我們必須管理好風險。”

OpenAI的估值已超過270億美元，在風投支持的人工智能公司蓬勃發展的領域中處於領先地位。當被問及他是否會從OpenAI的成功中獲得經濟利益時，阿爾特曼說:“我有足夠的資金。”並強調他的動機不是經濟上的。他說:“擁有足夠的資金這個概念並不是一件容易讓別人理解的事情。”他補充說，想要成為有用的人，並致力於“重要的事情”是人類的天性。阿爾特曼表示:“我認為這將是人類必須通過技術實現的最重要的一步。我真的很在乎這一點。”

幫助阿爾特曼創辦OpenAI的埃隆·馬斯克對該組織及AI技術潛在的危害持批評態度。阿爾特曼對此表示，馬斯克“真的非常關心人工智能的安全”，他的批評“來自一個好的地方”。當被問及馬斯克和扎克伯格之間理論上的爭辯時，阿爾特曼開玩笑稱:“如果他和扎克伯格真的這樣做了，我會去看的。”

目前，OpenAI的產品——包括聊天機器人ChatGPT和圖像生成器Dall-E——讓觀眾眼花繚亂。它們還在風險資本投資者和企業家中引發了一場數十億美元的狂熱，他們競相投資幫助奠定新技術時代基礎的公司。

為了創造收入，OpenAI正在向公司提供應用程序編程接口，這些接口需要使用OpenAI的人工智能模型來創建自己的軟件。該公司還出售其聊天機器人的高級版本，名為ChatGPT Plus。OpenAI沒有公佈總銷售額的信息。此前，知情人士透露，微軟公司(MSFT.US)向該公司總計投資了130億美元。其中大部分將用於償還微軟使用其Azure云網絡訓練和運行OpenAI模型的費用。

快速發展的人工智能行業的速度和力量促使政府和監管機構試圖為其發展設置“護欄”。阿爾特曼是本週在舊金山會見拜登總統的人工智能專家之一。阿爾特曼一直在廣泛談論人工智能監管問題，包括在華盛頓，他告訴美國參議員，如果這項技術出了問題，它可能會出很大的問題。

包括微軟和Alphabet(GOOGL.US)旗下谷歌在內的主要人工智能公司已承諾參與對其係統的獨立公開評估。美國也在尋求更廣泛的監管推動。美國商務部今年早些時候表示，正在考慮制定規則，可能要求人工智能模型在發布之前經過認證程序。

上個月，阿爾特曼簽署了一份簡短的聲明，其中包括350多名高管和研究人員的支持，稱“減輕人工智能帶來的滅絕風險應該與其他社會規模的風險(如流行病和核戰爭)一起成為全球優先事項”。

儘管科技領袖發出了可怕的警告，但一些人工智能研究人員認為，人工智能還不夠先進，不足以證明人們擔心它會毀滅人類是合理的，而把注意力集中在世界末日的場景上，只會分散人們對算法偏見、種族主義和猖獗的虛假信息風險等問題的注意力。

阿爾特曼也表示，世界各地的立法者應該小心，不要“過度”監管人工智能，它應該局限於具有“與人類存在有關的風險”的系統。阿爾特曼表示，所有強大的技術都可能被用於危險的地方，人工智能也不例外。他說:“事情會出錯。”他提到了潛在的網絡安全風險等。阿爾特曼表示，世界可以通過全球監管來管理這些風險，但監管應該只針對“這些強大的風險級別系統”，而且“你不希望做得過火”。

阿爾特曼認為，開發和改進人工智能係統的好處是如此巨大，世界不應該試圖阻止這些技術的發展，他提到了有益於教育系統和醫療保健的潛力。阿爾特曼提到：“在這一點上，考慮到人們看到的經濟利益和潛力，沒有公司能阻止它。”但阿爾特曼指出，全球監管“可以幫助使其安全——這是一個比停止更好的答案”。阿爾特曼稱：“我也不認為阻止它會起作用。”

OpenAI去年發布的ChatGPT和Dall-E都激勵了初創公司將人工智能融入金融服務、消費品、醫療保健和娛樂等廣泛領域。彭分析師曼迪普·辛格(Mandeep Singh)估計，到2032年，生成式人工智能市場將增長42%，達到1.3萬億美元。