OpenAI承認o1推理模型將增加製造生物武器風險
OpenAI承認,其最新AI推理模型o1「顯著」增加了AI被濫用於製造生物武器的風險。 OpenAI的系統卡是一種解釋AI如何運作的工具。該工具表示,新模型對化學武器、生物武器、放射性武器和核武(CBRN)相關問題的風險為“中等”,這是OpenAI有史以來給出的最高風險。
OpenAI表示,這意味著該模型「顯著提高了」專家製造生物武器的能力。
專家稱,如果具備更先進功能的AI軟體落在危險分子手中,這會帶來更高的濫用風險。例如,o1模型就具備了逐步推理能力。
OpenAI首席技術長米拉·穆拉蒂(Mira Murati)向英國《金融時報》表示,由於o1模型具備了先進功能,該公司在向公眾推出它時特別「謹慎」。她補充說,這個模型已經被所謂的「紅隊」(各科學領域的專家)測試過。穆拉蒂表示,o1模型在整體安全指標的表現遠遠優於先前的模型。