消息稱字節跳動2023年向英偉達訂購大量GPU 總價超10億美元
今年春節後,擁有云計算業務的中國各互聯網大公司都向英偉達下了大單,其中字節今年向英偉達訂購了超過10 億美元的GPU,還有另一家大公司的訂單也至少超過10 億元人民幣。
一位接近英偉達的人士稱,字節跳動目前已經到貨和沒到貨的A100 與H800 加速卡總計有10 萬塊。其中H800 今年3 月才開始投產。據晚點透露,僅字節跳動一家公司今年的訂單可能已接近英偉達去年在中國銷售的商用GPU 總和。
一名字節人士透露,字節在2020 年6 月GPT-3 發布後曾藉助V100 計算卡訓練過一個數十億參數的生成式語言大模型,但由於參數規模有限,這個模型生成能力一般,字節當時看不到它的商業化可能性故不了了之。
另一位阿里雲人士表示阿里也曾在2018-2019 年積極採購GPU,當時阿里的採購量至少達到上萬塊規模,包括V100 和T4 計算卡,其中約十分之一送到了達摩院用作AI 技術研發,這也用在了2021 年發布的萬億參數大模型M6 中。
消息人士提到,字節、阿里等大公司主要是和英偉達直接談採購,因為代理商和二手市場難以滿足其龐大需求,而英偉達會按目錄價,根據採購規模給出一定的折扣。