亞馬遜自研AI晶片「破局」:減少對英偉達的依賴
根據《金融時報》報道,亞馬遜準備推出其最新的AI晶片,這家科技巨頭希望從其數十億美元的半導體投資中獲得回報,並減少對市場領導者英偉達的依賴。目前,亞馬遜計劃將2024年約750億美元的總支出中的大部分資金用於技術基礎設施的建設。
亞馬遜AI晶片專案已啟動
亞馬遜雲端運算部門的高層正斥巨資購買並客製化晶片,希望提高旗下數十個資料中心運作的效率,最終降低自身以及亞馬遜網路服務客戶的成本。該專案由晶片新創公司Annapurna Labs牽頭,該公司2015年由亞馬遜以3.5億美元收購。預計Annapurna的最新成果將於下個月在亞馬遜「Trainium 2」上市時展示。
Trainium 2是亞馬遜AI晶片系列(訓練最大模型)的一部分。 Trainium 2已經在由Anthropic、德國電信等公司進行測試。亞馬遜和Annapurna的目標是與英偉達競爭。亞馬遜運算和網路服務副總裁戴夫·布朗(Dave Brown) 表示,希望成為運行英偉達的最佳場所。但同時,開發可取代英偉達的晶片是有益的。
亞馬遜斥巨資支持AI基礎建設
業務開發資深總監Gadi Hutt手持Tranium晶片
「當涉及到機器學習和人工智慧時,雲端運算的價格往往會高得多,」布朗說。 “當你節省1000美元的40%時,它不會真正影響你的選擇。但當你節省數千萬美元的40%時,它就會影響你的選擇。”
目前亞馬遜預計2024年的資本支出約為750億美元,其中大部分用於技術基礎建設。在該公司最新的財報電話會議上,執行長安迪·賈西(Andy Jassy) 表示,他預計該公司將在2025年投入更多資金。包括微軟和Google在內的最大雲端供應商都在大舉投資AI,而且這種勢頭幾乎沒有減弱的跡象。亞馬遜、微軟和Meta都是英偉達的大客戶,但它們也在設計自己的資料中心晶片,以期在AI浪潮中分一杯羹。 Futurum Group的紐曼指出:“從OpenAI到蘋果,每個人都在尋求打造自己的晶片”,因為他們尋求“更低的生產成本、更高的利潤率、更大的可用性和更多的控制力”,因為他們尋求“更低的生產成本、更高的利潤率、更大的可用性和更多的控制力” 。
亞馬遜的AI基礎設施需要從頭開始建立一切,從矽片到它們所安裝的伺服器機架,所有這些都由亞馬遜的專有軟體和架構支撐。 「像我們這樣大規模地做這件事很難。沒有多少公司能做到。」Annapurna的工程總監Sinno表示。
亞馬遜的AI晶片藍圖
在開始為亞馬遜建造名為Nitro的安全晶片之後,Annapurna已經開發了幾代基於Arm的Graviton中央處理器,它們以更低的功耗取代了由英特爾或亞馬遜提供的傳統伺服器主力產品。 TechInsights分析師G Dan Hutcheson表示:「對亞馬遜來說,最大的優勢在於他們的晶片能耗更低,資料中心或許能更節能,從而降低成本。」他說,如果將英偉達的圖形處理單元比作功能強大的通用工具(就汽車而言,就像旅行車或旅行轎車),那麼亞馬遜就可以針對特定任務和服務優化其晶片,就像緊湊型轎車或掀背車一樣。
至於亞馬遜晶片與英偉達晶片的原始性能,亞馬遜可避免進行直接比較,也不會將其晶片提交給獨立的性能基準測試。
晶片諮詢公司的晶片顧問帕特里克·穆爾黑德(Patrick Moorhead)表示「人們欣賞英偉達帶來的所有創新,但沒有人願意看到英偉達佔據90%的市場份額,」他補充道。 “這種情況不會持續太久。”