Grok 3也「跳票」 10萬台GPU最強算力也搞不定「新一代AI大模型」?
AI產業巨頭紛紛延後新一代模型發布,AI技術發展進入瓶頸期了嗎?去年夏天,馬斯克曾在社群平台X上發文稱,xAI的下一代AI模型Grok 3將在10萬張H100 GPU上訓練,將於2024年底推出,「將會是非常特別的」。然而,如今已經到了2025年,Grok 3仍未面世,也沒有即將發布的跡象。
值得注意的是,除了xAI外,其他AI公司也出現類似情況:
Anthropic取消了原定於2024年底發布的Claude 3.5 Opus模型;Google和OpenAI的旗艦模型開發也遇到了挫折。
分析師表示,xAI團隊規模較小也可能是導致Grok 3延遲發布的原因之一。
但更重要的是,AI公司纷纷推迟发布可能反映出当前AI缩放定律(scaling law)的局限性——此前,通过使用海量计算能力和更大的数据集训练模型,可以显著提升AI模型的性能;但是近期,每一代模型的性能提升幅度开始缩小,这促使科技巨头们纷纷开始寻求替代技术。
馬斯克本人也在一次採訪中暗示了這一點:當被問及Grok 3是否會達到業界領先水平時,馬斯克回答說:“希望如此,這是我們的目標,但我們可能會失敗。”