全球最強GPU訂單曝光:微軟一年買爆近50萬塊xAI曬首批GB200提前過年
2024年英偉達GPU全球最大買家,竟是微軟?購買總量將近50萬塊,超所有競爭對手近兩倍。 xAI已開心曬出首批出貨的GB200 NVL72,喜滋滋的像是提早過年了。囤的GPU越多,模型就會越好嗎?來不及解釋了,趕緊上車,車門焊死!誰是今年英偉達GPU的最大買家?就在剛剛,答案曝光──TOP 1竟是微軟。今天,這張對比圖在網路上被轉瘋了。
根據各公司公開揭露的資本支出、伺服器出貨量和供應鏈情報,Omdia估計了大致金額
根據技術顧問公司Omdia的分析師估計,微軟今年購買了48.5萬塊英偉達Hopper晶片,位列全球GPU買家的TOP 1。
這使微軟遠遠領先英偉達的第二大美國客戶——購買了22.4萬塊Hopper晶片的Meta。
在Meta之後的,就是xAI、亞馬遜(19.6萬塊)和Google(16.9萬塊)。
而且,Hopper的下一代GPU Blackwell馬上就要來了,英偉達還能大賺一波。
總之,隨著全球大科技公司瘋狂囤GPU,爭相組裝越來越大的GPU集群,英偉達的市值今年已飆升至3兆美元。
這不,xAI已經開心地曬出了首批發貨的英偉達GB200 NVL72,Colossus這個世界上最大的超算集群,會變成更大的龐然巨物。
感覺xAI都要笑出聲來了:“xAI的Colossus提前過聖誕囉”
可以看到,11月18日,戴爾創辦人兼CEO Michael Dell就表示:世界上第一個英偉達GB200 NVL72伺服器機架現已出貨。 AI火箭要起飛了!
不過,只要有最好的晶片,就一定能建造最好的AI基礎設施呢?其實未必。
微軟Azure全球基礎架構資深總監Alistair Speirs表示,除此之外,還需要搭配適當的儲存元件、基礎架構、軟體層、主機管理階層、錯誤修正功能,以及建置完整系統所需的各項元件。
例如坐擁全球最強超算的Grok——雖然有不少測試指出它的表現十分出色,但依然經常被網友潑冷水說:擁有世界上數量最多的GPU,並不意味著你的模型就更好。
但來不及解釋了,全世界的GPU購買潮已經到了最高峰,所有巨頭心裡想的只有一句話──快上車!
微軟,全球最大英偉達GPU買家
過去兩年裡,英偉達最先進的GPU一直供不應求,而在CEO納德拉的指示下,微軟可謂是卯足了全力!
從Omdia的數據可以看出,微軟今年買了將近50萬塊GPU,數量是競爭對手的2倍之多。同時,也坐穩了投資金額榜一的位置。
為了擴大資料中心基礎設施,微軟已向OpenAI投資130億美元。這些設施既用於經營Copilot等自身的AI服務,也會透過Azure租給客戶。
OpenAI最新的o1模型,就是用微軟的Azure雲端基礎設施訓練的。聯手的這兩方,正在和強勢回歸的Google、Anthropic、xAI等公司,激烈爭奪下一代運算技術的製高點。
ChatGPT的成功,讓英偉達連夜加緊擴大Hopper晶片的生產。
而相較於2023年購入的同代英偉達AI處理器,微軟這次訂購的數量增加了兩倍以上。
根據微軟Azure全球基礎設施高級總監Alistair Speirs的說法,如今高品質的資料中心基礎設施,已經變成了極其複雜的「資本密集型專案」。
這需要多年規劃。因此,準確預測成長需求並保持適當的緩衝餘裕至關重要。
的確,現在英偉達GPU已經成為矽谷最熱門的硬通貨,引發了前所未有的AI投資大暴增。
根據Omdia預計,2024年伺服器支出中,約有43%投向了英偉達。
其中,資料中心基礎設施的前十大買家(現包括新晉的xAI和CoreWeave在內),佔了全球運算能力投資的60%。
而全球科技公司在伺服器上的支出,將達到2,290億美元這一驚人數字──微軟為310億美元,亞馬遜為260億美元。
Omdia雲端運算和資料中心研究主管Vlad Galabov表示:“英偉達GPU在伺服器資本支出中佔據了極高份額,已接近峰值水平。”
異軍突起,挑戰英偉達霸主
不過,英偉達也不能笑得太早。
雖然目前它仍主導著AI晶片市場,但它的老對手AMD也一直在對這塊市場虎視眈眈。
目前,AMD已取得了突破性進展。根據Omdia統計,Meta今年購買了17.3萬塊AMD MI300晶片,微軟也購入了9.6萬塊。
更值得注意的是,各大科技巨頭紛紛極速佈局自研AI晶片,降低對英偉達的依賴程度。
身為先驅者,Google潛心研發十年TPU;Meta在去年首次推出第一代訓推加速器晶片。
他們分別部署了約150塊自研晶片。
另有,全球最大雲端運算服務巨頭亞馬遜,在AI晶片領域的動作引人注目。
目前,亞馬遜自研的Trainium和Inferentia晶片,今年已經部署約130萬塊。
幾週前,他們官方宣布將使用數十萬塊最新Trainium晶片搭建超算集群,主要是向投資了80億美金的Anthropic提供算力支持,用來訓練下一代模型。
相較之下,微軟在AI加速器研發方面,仍處於起步階段。 ,總共部署了20萬塊Maia晶片。
在這之中,針對GoogleTPU晶片的需求,成長最快。甚至,強勁到足以撼動英偉達GPU的主導市場地位。
在Broadcom第三季業績報告中,提供了一些重要的線索。
作為Google、Meta等多家科技巨頭的供應商,Broadcom為他們提供了半導體解決方案,其內部數據揭示了一些鮮為人知的採購趨勢和資訊。
例如,Google購買了多少塊客製化處理器等等。
Broadcom CEO陳福陽多次上調了半導體收入,並將今年目標設定在120億美金。
基於此,GoogleTPU帶來的營收預計在60億-90億美元之間,具體還得取決於運算設備和網路設備的配比。
Omdia首席分析師Alexander Harrowell指出,「儘管運算設備和網路設備的具體比例存在一些不確定性,但即使以較低的60億美元估計,TPU出貨量的成長速度也足以首次從英偉達手中搶佔市場份額」。
他繼續說,「Google雲端業務在總收入中佔比持續成長,獲利也在不斷提升」。
這背後,很可能就是TPU加速實例和基於TPU的AI產品在發揮作用。
除了Google,Broadcom也正在為Meta、位元組這三個主要客戶開發客製化AI晶片(ASIC)。並且,它還與與另外兩個客戶合作開發下一代AIXPU。
從這點可以看出,許多雲端服務供應商青睞ASIC,而非英偉達GPU,主要是因為前者在成本效益上更具優勢,能夠以更高性價比優化內部工作負載。
摩根士丹利估計,在雲端服務供應商推動下,客製化AI晶片市場規模將從2024年的1,200億美元,成長到2027年的3,000億美元,成長速度將超過GPU市場。
TPU、客製化晶片的崛起,讓激烈的AI晶片市場的競爭格局正發生深刻變化。