微軟在研究預覽計畫中首次推出全新生成式AI模型Phi-4
微軟發布了其生成式人工智慧模型Phi 家族的最新成員。該模型被稱為Phi-4,微軟稱它在多個領域都比前一代模型有所改進,尤其是數學問題的解決,這部分歸功於訓練資料品質的提高。
截至本週四晚間,Phi-4 的可用性非常有限:只能在微軟最近推出的Azure AI Foundry開發平台上使用,而且只能根據微軟的研究授權協議用於研究目的。
這是微軟最新的小型語言模型,大小為140 億個參數,其競爭對手包括GPT-4o mini、Gemini 2.0 Flash 和Claude 3.5 Haiku 等其他小型模型。 這些人工智慧模型通常運行速度更快、成本更低,但在過去幾年中,小型語言模型的效能逐漸提高。
在這種情況下,微軟將Phi-4 效能的飛躍歸功於使用了”高品質的合成資料集”、高品質的人類生成內容資料集以及一些未說明的後期訓練改進。
如今,許多人工智慧實驗室都在更密切地關注合成資料和後期訓練方面的創新。 Scale AI 執行長亞歷山大-王(Alexandr Wang)在周四的一條推文中表示:「我們已經到了訓練前資料牆的邊緣,」這證實了過去幾週有關該主題的多篇報道。
值得注意的是,Phi-4 是Sébastien Bubeck 離職後推出的第一個Phi 系列模型。 Bubeck 先前是微軟的人工智慧副總裁,也是該公司Phi 模型開發的關鍵人物,他於今年10 月離開微軟並加入OpenAI。