AMD發布全新架構計算卡Instinct MI100:AI性能暴漲7倍
在遊戲領域,基於RDNA 2架構的Radeon RX 6000系列顯卡已經開始閃亮登場。在高性能計算領域,基於CDNA全新架構的新一代計算卡Instinct MI100也終於登台了!AMD Radeon Instinct系列計算卡已經發展了多款型號,但是在此之前,AMD GPU一直都是一套架構打天下,遊戲、計算不分家,自然不利於不同方向的深度優化。
今年3月份,AMD宣布了首個專門針對數據中心高性能計算而設計的CDNA架構,從此與RDNA遊戲架構分道揚鑣。二者雖然還有一些共通點,但在設計、優化上已經涇渭分明,在各自領域的性能、能效也更高。
而在產品命名方面,AMD計算卡也放棄了Radeon字樣,不再稱呼Radeon Instinct,而是簡單地叫做Instinct。
AMD Instinct可以說是專為HPC高性能計算而生的,志在推動超級計算機進入百億億次計算時代(ExaScale)。
回顧歷史,21世紀的前10個年頭屬於萬億次計算時代(TeraScale),完全依賴CPU運算;最近10個年頭屬於千萬億次計算時代(PetaScale),GPU加速運算展露鋒芒。
不過近兩年,傳統的GPU加速計算也已經初顯疲態,性能增強曲線也緩了下來,必須實現全新的突破。
CDNA架構和MI100加速卡就是這樣的突破性產品,也是AMD開拓新未來的新旗艦。
AMD Instinct MI100是其迄今為止性能最高的HPC GPU,FP64雙精度浮點性能首次突破10TFlops(也就是每秒1億億次),並在架構設計上專門加入了Matrix Core(矩陣核心),用於加速HPC、AI運算,號稱在混合精度和FP16半精度的AI負載上,性能提升接近7倍。
另外,新卡的外觀設計也令人眼前一亮,更有質感的拉絲外殼,深灰色調,非常沉穩大氣。
它集成多達120個計算單元、7680個流處理器,搭配32GB HBM2,帶寬高達1.23TB/s,同時支持PCIe 4.0,集成Infinity Fabric x16高速互聯通道,峰值帶寬達276GB/s(相當於PCIe 4.0 x16的大約4倍),而整卡功耗控制在300W。
計算性能方面,FMA64/FP64雙精度為11.5TFlops(每秒1.15億億次),FMA32/FP32單精度為23.1TFlops(每秒2.31億億次),FP32 Matrix單精度矩陣計算為46.1TFlops(每秒4.61億億次),FP16 Matrix半精度矩陣計算為184.6TFlops(每秒18.46億億次),Bfloat16浮點為92.3TFlops(每秒9.23億億次)。
這些數字是什麼概念呢?
就拿11.5TFlops的雙精度性能來說,2000年排名世界第一的超級計算機ASCI White,這個指標也不過12.3TFlops,但卻是付出了600萬瓦的功耗、106噸的身材才獲得的, Instinct MI100卻只要300瓦、1.16千克。
換言之,如今的一塊卡,就相當於20年前的一個大規模計算集群!
AMD上代計算卡Instinct MI50採用的還是Vega 20核心,60個計算單元,3840個流處理器,32GB HBM2顯存帶寬1TB/s,Infinity Fabric總線帶寬92GB/s,功耗300W。
Instinct MI100的核心規模翻了一番,顯存帶寬提升了超過20%,Infinity Fabric帶寬提升了整整2倍,但是功耗卻完全沒變(工藝應當也還是7nm),新架構的能效可見一斑。
新卡的性能更是不可同日而語,FP64雙精度、FP32單精度性能均提升74%,FP32矩陣性能提升接近2.5倍,AI負載性能更是幾乎7倍的飛躍。
在美國能源部旗下的橡樹嶺國家實驗室,AMD MI100計算卡已經在支撐多項百億億次科研項目,涉及NAMD分子動力學模擬、CHOLLA星系形成研究、PIConGPU激光放射癌症療法、GESTS流體動力學等等諸多前沿科技。
AMD Instinct MI100計算卡還有一個絕佳搭檔,那就是AMD自家的霄龍數據中心處理器,慧與、戴爾、超威、技嘉等多家行業巨頭都有提供這種雙A方案。
當然了,只有硬件,是做不成高性能計算的,AMD同時一直在推進一站式軟件解決方案ROCm。
從2016年初入江湖的1.x版本,2018年奠定基礎的2.0版本,到2019年專注於機器學習的3.0版本,再到如今最新的4.0版本,AMD ROCm已經打造成了一整套針對機器學習、高性能計算的百億億次級開發方案,規劃中的各項功能特性也基本都已經實現。
軟件優化的力量無疑是巨大的,可以充分釋放硬件潛力,比如說上代MI50,搭配ROCm 3.0的話性能相比於搭配ROCm 2.0可以提升3-4倍,而最新的MI100、ROCm 4.0聯合,更是可以輕鬆帶來5-8倍的性能提升。
AMD ROCm生態的進步速度非常快,已經有眾多領域的頭部廠商採納和支持,而且它沿襲了AMD一貫的原則,那就是完全開源開放,非常方便代碼遷移,比如說HACC(宇宙學)只用了一個下午,SPECFEM3D(地震學)半天就搞定,CHOLLA(天體物理學)花了幾天,QUDA(量子物理學)也不過21天。