Anthropic的最新旗艦AI的訓練成本相比以往並不高昂
Anthropic公司的最新旗艦人工智慧模型Claude 3.7 Sonnet使用不到10^26 FLOPs的運算能力進行訓練,花費了”數千萬美元”。這是華頓商學院教授伊森-莫利克(Ethan Mollick)的說法,他在周一的一篇X 貼文中轉述了他從Anthropic 公關部收到的澄清。
“Anthropic 聯繫了我,告訴我Sonnet 3.7 不會被視為10^26 FLOP 模型,成本也不會達到數千萬美元,”他寫道,”儘管未來的模型會更大。”

假設Claude 3.7 Sonnet 的訓練成本確實只有”數千萬美元”,這還不包括相關費用,那麼這表明發布最先進模型的成本正在變得相對低廉。 Anthropic 執行長 Dario Amodei)在最近的一篇文章中透露,2024 年秋季發布的Sonnet 的前身Claude 3.5,同樣花費了數千萬美元進行訓練。
這些費用總額與2023 年頂級模型的培訓價格相比毫不遜色。據OpenAI執行長山姆-阿爾特曼(Sam Altman)稱,為了開發GPT-4模型,OpenAI花費了1億多美元。 同時,根據史丹佛大學的一項研究估計,Google為訓練其Gemini Ultra 模型花費了近2 億美元。
儘管如此,阿莫迪預計未來的人工智慧模型將花費數十億美元。 當然,培訓成本並不包括安全測試和基礎研究等工作。 此外,隨著人工智慧產業開始採用”推理”模型來解決複雜問題,運行模型的計算成本可能會繼續上升。