零一萬物新模式盲測國產首超GPT-4o 一次訓練成本超2000萬
日前李開復的零一萬物公司,正式對外發布了新旗艦模型Yi-Lightning。在盲測名單LMSYS中,Yi-Lightning位列第六,僅次於OpenAI的GPT-4o、o1系列,Google的Gemini 1.5 pro系列,與馬斯克xAI旗下Grok-2打平。
值得一提的是,這次盲測中Lightning超過了今年5月版的ChatGPT-4o-2024-05-13,這也是國產大模型首次在這項評測中超越GPT-4o。
這項成就在李開復看來,證明了零一萬物的預訓練能力落後於OpenAI五個月的時間。
前不久有消息稱,國內大模型頭部企業中有幾家放棄預訓練、轉向推理端,對此李開復表示,不會放棄預訓練,但這是個技術活,需要懂芯片、推理、模型、算法。
李開復稱,目前國內頭六家大模型企業融資額度都是夠的,一次預訓練成本約三、四百萬美元,這個規模頭部企業付得起。
據了解,這次Yi-Lightning預訓練零一萬物用了2000張GPU,訓練了一個半月,花費了三百多萬美元,但成本約為Grok的1%-2%。