研究機構預估:部署Sora需要72萬片英偉達加速卡價值216億美元
市場研究機構Factorial Funds發布了一份報告,其中詳細分析了OpenAI部署的文字轉視訊模型Sora所需的硬體資源。報告指出,在高峰時期,Sora模型預計需要高達72萬片英偉達H100 AI加速卡來支援其強大的運算需求。
考慮到每片英偉達H100 AI加速卡的成本約為3萬美元,這一數字意味著僅僅是加速卡的成本就高達驚人的216億美元(約合人民幣1561億元)。
而這只是冰山一角,因為除了加速卡,訓練Sora還需要投入大量的其他硬體成本,包括高效能伺服器、穩定的電力供應等。
Factorial Funds也預估,訓練Sora一個月需要使用的英偉達H100 AI加速卡數量在4200到10500片之間。產生1分鐘的影片也需要進行長達12分鐘的渲染,這進一步凸顯了Sora模型在運算和資料處理上的龐大需求。
同時,我們也不能忽視AI技術對於能源的巨大消耗。先前曾通報指出,ChatGPT為了回應用戶請求,每天消耗的電力可能超過50萬千瓦時,幾乎是美國普通家庭平均用電量的1.7萬多倍。考慮到電力成本,這相當於每天需要支付高達53萬元的電費,一年下來光是電費就要花費近2億元。
英偉達CEO黃仁勳在公開演講中指出,AI未來發展與光電和儲能緊密相連。特斯拉CEO馬斯克也提出類似看法,AI在兩年內年將由“缺矽”變為“缺電”,而這可能阻礙AI的發展。