Google版圖滲入AI晶片領域「OpenAI勁敵」官宣使用其最新TPU
有著「OpenAI勁敵」之稱的人工智慧新創公司Anthropic即將成為首批使用Google新一代TPU晶片的公司之一,在最近達成雲端運算服務協議後,此舉進一步加深雙方的合作關係。兩家公司當地時間週三表示,Anthropic將部署GoogleCloud TPU v5e晶片,為其名為Claude的大語言模型(LLM)提供硬體支援。
ChatGPT最強競品Claude,以及類似ChatGPT的生成式AI應用程式通常使用大量資料來訓練人工智慧介面,讓它們回答問題並產生基於人類邏輯的對話文本,而生成式AI成功運行的背後離不開最核心基礎設施-AI晶片的支撐,目前這一領域幾乎被英偉達GPU所壟斷。美國銀行和花旗統計數據顯示,英偉達在AI晶片領域佔有率達到驚人的90%。
谷歌TPU-為AI而生
但是,Google正在將「GoogleTPU」這用於Google內部伺服器的AI專用晶片推向全球各大科技公司。目前,Google正在大規模使用TPU晶片來支援旗下應用產品,例如聊天機器人巴德以及Google雲端平台。目前,Google高達90%以上的人工智慧訓練工作都在使用這些晶片,TPU晶片體系支撐了包括搜尋引擎在內的Google主要業務。
谷歌雲端平台執行長Thomas Kurian表示,最新的TPU晶片正成為Google雲端的最大賣點之一。除了Anthropic,其他在人工智慧領域備受矚目的新創公司,如Hugging Face和AssemblyAI也在大規模使用GoogleTPU晶片。
從技術層面來看,與英偉達A100/H100等通用型GPU 相比,GoogleTPU設計初衷正是專注於深度學習領域,特別是全面加速神經網路訓練與推理效率。英偉達的A100和H100,它們屬於廣義的通用型GPU,而不僅限於深度學習和人工智慧領域。這些GPU具有通用運算能力,適用於多種運算工作負載,包括但不限於:高效能運算(HPC)、深度學習以及大規模資料分析。
與英偉達通用型GPU相比,GoogleTPU採用低精度運算,在幾乎不影響深度學習處理效果的前提下大幅降低了功耗、加快運算速度,尤其對於中型LLM設計者來說完全夠用,因此他們可能不需要依賴高性能的英偉達A100/H100。同時,TPU 使用了脈動陣列等設計來最佳化矩陣乘法與卷積運算。谷歌TPU追求專注於AI訓練和推理,因此精簡化部分設計架構,這也是TPU功耗、記憶體頻寬和FLOPS都明顯低於英偉達H100的部分原因。
谷歌新一代TPU晶片-Cloud TPU v5e專為提供大中型訓練與推理所需的成本效益與效能而設計。TPU v5e Pods能夠平衡性能、靈活性和效率,允許多達256個晶片互連,聚合頻寬超過400 Tb/s和100 petaOps的INT8性能,使對應的平台能夠靈活支援一系列推理和訓練要求。
與Cloud TPU v4相比,TPU v5e可為大語言模型和生成式AI模型提供每美元花費中高達2倍的訓練效能和2.5倍的推理效能。Cloud TPU v5e的成本不到TPU v4的一半,但可以讓更多企業訓練和部署更大、更複雜的AI模型。整體來看,與TPU v4相比,TPU v5e每美元的效能提高了2.7倍。
科技巨擘開啟「AI代理人競爭」:微軟扶持OpenAI Google與亞馬遜選中Anthropic
隨著建立更大規模人工智慧模型的競爭趨勢升溫,Google等科技巨頭正與該領域前沿的新創公司建立密切的合作關係。知情人士透露,Anthropic最近同意在未來四年向Google旗下的Google雲端服務花費逾30億美元。
谷歌方面,除了提供新一代TPU,科技巨頭先前已承諾向這家新創公司投資20億美元,據知情人士透露,在最新一輪融資中,Alphabet旗下谷歌向Anthropic投資約5億美元,並承諾未來再投資約15億美元,這筆投資是在今年稍早谷歌向Anthropic投入5.5億美元的基礎上所進行。
Anthropic自2021年成立以來一直使用Google雲端服務。兩家公司表示,作為新協議的一部分,Anthropic將更多地使用基於谷歌雲端平台的基礎設施和安全功能。
「我們對TPU的效率感到非常興奮。」Anthropic執行長Dario Amodei表示。“這些已經開始顯示出我們能夠獲得的收益。”
谷歌雲端服務領域的競爭對手-亞馬遜,同樣是Anthropic的支持者。亞馬遜曾在一份文件中表示,它已經以可轉換票據的形式向Anthropic投資了12.5億美元,並有能力以第二筆票據的形式再投資27.5億美元,這一選擇權將於明年第一季度到期。亞馬遜也與Anthropic達成協議,後者將使用AWS的雲端服務和自研晶片。谷歌和亞馬遜與Anthropic協議的債務結構則未被媒體知悉。
亞馬遜還表示,Anthropic計畫「在AWS上運行其大部分工作負載」。Anthropic執行長Amodei則強調,Anthropic正在採取「多雲」的方式,這意味著它不會與任何一家雲端服務供應商進行獨家性質的合作。
谷歌雲端平台執行長Thomas Kurian表示,他並不為Anthropic與AWS的合作感到困擾。他表示:“大公司總是希望選擇多雲體系——這有助於他們使用每種雲端服務的最佳功能。”“我們已經習慣了與其他雲端供應商競爭和合作。”
提到OpenAI 的競爭對手,Anthropic 往往被認為是最具潛力的對手。Anthropic由曾負責OpenAI風靡全球的ChatGPT研發工程的研究副總裁Dario Amodei所創立,Amodei帶著OpenAI另外5名負責GPT模型研發的員工一起出走,5名員工中的Tom Brown曾領導GPT-3模型的整個開發過程。
OpenAI和Anthropic都在用他們獨家研發的前沿生成式人工智慧技術來建構聊天機器人。相較於ChatGPT,Anthropic所研發的聊天機器人Claude特別強調功能全面且回答更具責任性的生成式人工智慧,以及大幅減少AI技術中的偏見和歧視問題。
在一些AI業內人士看來,這一切看似是OpenAI 與Anthropic 的競爭,實則OpenAI 背後的最大股東微軟與Anthropic 重要支持力量谷歌和亞馬遜之間的「雲端運算戰爭「以及聚焦未來技術的」生成式AI大戰”。這三大科技巨頭試圖借助這些在AI領域有重大影響力的新創公司來進一步擴大雲端服務市場規模,以及期望自身第一時間能夠捕捉最前沿的AI技術。