AMD Zen5 EPYC初露鋒芒128核完勝競品256核
AMD日前首次預覽了Zen5架構的下一代Turin EPYC處理器,單顆最多128核心,官方也特意強調了其強大的AI性能。根據AMD的說法,兩顆Turin EPYC 128核心對比兩顆Intel至強鉑金8592+ 64核心,也就是256核心對128性能分別核心,可以在Llama2 70億參數大模型應用中完勝,摘要、對話、翻譯性能分別領先約3.9倍、5.4倍、2.5倍。
對於這樣的對比,Intel方面自然是不服,特意撰文稱對手刻意壓低了自己產品的性能,並給出了不一樣的數據。
Intel首先表示,Emerald Rapids五代至強憑藉AMX AI加速引擎,以及更多核心、更大緩存、更快內存,可以提供出色的AI性能,目前市面上沒有敵手。
在硬體之上,Intel始終承諾推進AI開放軟體,針對整個AI生態進行廣泛優化,例如大語言模型推理深度優化之後的延遲相比PyTorch預設值降低了5倍。
Intel指出,AMD對比中的至強鉑金8592+成績採用了未優化的軟體和測試方式,性能偏低,例如對話部分的實際成績能達到AMD宣稱的接近5.5倍,從而可以領先Turin EPYC。
Intel也進一步強調,AI的應用不只是大模型,例如在INT8整數類型上的各種深度學習推理上,四代和五代至強就都有著最優秀的性能,比如圖像分類、自然語言處理等等,性能都可以完勝AMD現有的旗艦產品EPYC 9754。
AMD Zen5架構的第五代EPYC風雨欲來之際,Intel已經發布了首次採用能效核的至強6 Sierra Forest,後續還會推出採用性能核的至強6 Granite Ridge。
又一場大戰就要開始了!就AI而言你看好哪邊呢?