英偉達計劃提高2024年H100 產量至少兩倍需先克服產能瓶頸
據台媒報導,知情人士透露,英偉達一季內透過資料中心運算GPU 賺取超過100 億美元,計劃明年產能至少拉高兩倍,若成功達成目標,可能會帶來難以置信的營收。據報導,英偉達H100 芯片需求量非常大,三名知情人士表示,英偉達打算將GH100 產量增加至少兩倍,明年H100 出貨量150 萬至200 萬顆,較今年50 萬顆大幅增加。
英偉達CUDA 架構專為AI 和HPC 工作負載訂製,因此有數百種應用程式只能在英偉達運算GPU 運行。雖然亞馬遜和Google 都有訂製AI 處理器,AI 訓練和推理用,但仍必須購買大量英偉達GPU。
然而,想增加英偉達H100、GH200 Grace Hopper 及基礎產品供應並不容易,英偉達想增加GH100 產能,必須先擺脫幾個瓶頸。
首先,GH100 很難大量生產。雖然現在產品產量已相當高,但仍需從台積電取得大量4N 晶圓供應,才能讓GH100 產量提高兩倍以上。若要製造200萬顆芯片,需3.1萬片晶圓,台積電5納米晶圓總產能每月約15 萬片,且產能還須由英偉達、 AMD 、蘋果等共享。
再來,GH100 依賴HBM2E 或HBM3 記憶體,並使用台積電CoWoS 封裝,英偉達也需確保供應正常,台積電也在努力滿足CoWoS 封裝需求;第三,基於H100 設備使用HBM2E、HBM3 或HBM3E 存儲器,英偉達必須從美光、三星和SK 海力士等公司購入足夠HBM 存儲器。
最後是英偉達H100 顯卡或SXM 模組必須安裝在某個地方,英偉達必須確保合作夥伴的AI 服務器也有兩到三倍輸出。如果英偉達能滿足全部H100 GPU 需求,明年營收會相當可觀。