黃氏刀法眼花繚亂NVIDIA官方確認7nm安培首發割了一刀
近日,NVIDIA正式揭曉了全新一代GPU架構“安培”(Ampere),其龐大的規模、精妙的架構令人驚嘆,同時不出意外、一如既往,首發核心又被割了一刀。首先需要注意的是,不同於此前首發帕斯卡架構的Tesla P100、伏特架構的Tesla V100,這次的新計算卡被簡單地叫做“A100”,並沒有冠以Tesla的品牌序列,具體原因不詳,可能是想用於更廣泛領域。
與此同時,新的核心則被叫做“A100 Tensor Core GPU”,突出張量核心的關鍵作用,而核心代號按慣例延續為GA100。
GA100設計了8組GPC(GPU處理集群),每一組GPC裡又分為8組TPC(紋理處理集群),而每組又分為兩組SM(流式多處理器),然後每組SM包含64個FP32 CUDA核心(流處理器)。
這樣一來,一顆完整的GA100芯片就一共有128組SM、8196個流處理器,而這種分組結構和以往的NVIDIA GPU架構是一致的。
同時,每一組SM裡還有4個第三代Tensor核心,整顆芯片內共計512個,外部則搭配六顆HBM2顯存,每顆8GB,12個512-bit控制器,總位寬6144- bit。
另外,二級緩存從6MB猛增至40MB,每組SM單元的共享內存從最多96KB增至16 4K B、寄存器容量還是256KB,但整顆芯片寄存器達到27MB。
GA100芯片採用台積電第一代7nm(N7)工藝製造,核心面積達826平方毫米,相比上代12nm GV100僅增大了11平方毫米(0.13%),但晶體管數量從211億個猛增至542億個,多了接近1.6倍,同時功耗控制在400W(增加33%),可見新架構和新工藝的威力。
如此龐大的核心在量產初期顯然會受制於良品率問題,所以實際使用的A100核心未達成完整規格,但和以往簡單屏蔽整組計算單元不同,這次砍得略有些複雜。
GPC單元屏蔽了整整一組,但剩餘的也並未全部開啟,其中兩組GPC也各自屏蔽了一個TPC(兩組SM),導致總的SM單元為108個、流處理器為6912個、Tensor核心為432個。
核心加速頻率1410MHz,比前兩代其實都低了,但整體性能在飛躍。
顯存也沒有逃過刀法,只開啟了五組HBM2,所以總容量為40GB,總位寬為5120-bit,頻率1215MHz,帶寬1555GB/s,比上代增加73%。
具體到每個SM單元,其中的Tensor核心數量雖然從8個減少到4個,但每一個每時鐘週期都支持多達256個FP16FP FMA操作,合計就是1024個,相比伏特、圖靈架構翻了一番。
新的Tensor核心還支持對所有數據類型加速,包括FP16、BF16、TF32、FP64、INT8、INT4、Binary。
更精細的專業細節這裡就不展開了,你們也沒啥興趣。
三代架構首發核心規模對比