AI晶片供應問題有所緩解一些公司已開始轉售英偉達H100 GPU
越來越多的證據表明,英偉達H100 AI處理器的供應緊張局面有所緩解。不但交貨時間從8~11個月大幅縮短至3-4個月,之前購買了大量H100 GPU的公司現在甚至開始轉售這些處理器。據報道,一些公司正在轉售其H100 GPU或減少訂單,原因是它們的稀缺性降低,以及維護未使用庫存的成本較高。這與前一年相比發生了重大轉變,當時獲得英偉達的Hopper GPU是一項重大挑戰。
該報告也稱,儘管晶片可用性提高,交貨期顯著縮短,但仍供不應求,尤其是對於那些培訓自家大語言模型的公司,如OpenAI。
AI處理器短缺的緩解,在一定程度上是由於AWS等雲端服務供應商讓租用英偉達H100 GPU變得更容易。這導致了對AI晶片的需求和等待時間的減少。
儘管H100的可用性總體上有所改善,但對於開發自家大語言模型的公司,仍在為供應緊張而苦苦掙扎。這主要是因為它們需要數萬甚至數十萬個GPU,一些公司在獲得所需的處理器或容量方面面臨數月的延誤。為此,英偉達H100和其他處理器的價格並沒有下降,繼續享受高利潤率。
英偉達AI處理器可用性的提高也導致了買家行為的轉變。一些公司在購買或租賃時變得更加重視價格和選擇性,並專注於其業務的經濟可行性。
此外,再加上替代方案在效能和軟體支援方面的不斷完善,如AMD或AWS的處理器,市場可能會迎來更平衡的局面。
但不管怎樣,當前AI晶片的需求依然強勁。隨著大語言模型變得更大,對運算效能的需求也越來越高,這也促使OpenAI CEO山姆·奧特曼(Sam Altman)正試圖籌集大量資金,以建造更多的晶圓廠來生產AI處理器。