Google公佈下一代TPU晶片「Trillium」 效能可望提升4.7 倍
在Google I/O 開發者大會上,Google週二發布了下一代張量處理單元(TPU)人工智慧晶片。第六代晶片被稱為”Trillium”,將於今年稍後推出。 “Google就是為這一刻而生的。”Google首席執行官桑達爾-皮查伊(Sundar Pichai)在發布會前的新聞發布會上說:”十多年來,我們一直是GPU 的先驅。”
![D4F454D7-798F-43F3-A8EB-4DA57B8CCC1B.jpg](https://i0.wp.com/static.cnbetacdn.com/article/2024/0515/0be19338261d064.jpg?w=640&ssl=1)
宣布下一代TPU 是I/O 大會的傳統,儘管這些晶片要到今年晚些時候才能推出。不過,皮查伊表示,新一代TPU 到貨後,每塊晶片的運算效能將比第五代提升4.7 倍。
在某種程度上,Google是透過擴大晶片的矩陣乘法單元(MXU)和提高整體時脈速度來實現這一目標的。此外,Google還將Trillium 晶片的記憶體頻寬提高了一倍。
更重要的是,Trillium 採用了第三代SparseCore,Google將其描述為”處理高級排名和推薦工作負載中常見的超大嵌入的專用加速器”,該公司認為,這將使Trillium TPU 能夠更快地訓練模型,並以更低的延遲為模型提供服務。
皮查伊也將新晶片描述為Google迄今為止”最節能”的TPU,這一點在人工智慧晶片需求持續倍增的情況下尤為重要。他說:”在過去六年中,行業對ML 運算的需求增長了100 萬倍,大約每年增長10 倍。如果不投資降低這些晶片的功耗需求,這種情況將難以為繼。Google承諾,新的TPU 比第五代晶片節能67%。
Google的TPU 最近往往有多種變體。到目前為止,Google還沒有提供有關新晶片的更多細節,也沒有說明在Google雲端中使用這些晶片的成本。
今年早些時候,Google也宣布將成為首批提供英偉達(NVIDIA)下一代Blackwell 處理器的雲端運算供應商。不過,這仍然意味著開發人員要等到2025 年初才能使用這些晶片。
皮查伊說:”我們將繼續投資基礎設施,為我們的人工智慧進步提供動力,我們將繼續開闢新天地。”