NVIDIA 已經開始在基準測試中推廣ARM架構。 一台採用 ARM 架構配備了 A100 GPU 的伺服器在性能上接近於 x86 CPU ，不過 x86 仍然具備更高的峰值性能。 不過 ARM 在低功耗 / 高效率方面超過 x86。

伺服器是高性能計算的絕對前沿，因此這是 x86 通常統治的領域，儘管 NVIDIA 很想改變這種說法。 我們看到，基於ARM的 A100 伺服器實際上設法在小眾的 3d-Unet 工作負載中擊敗了 x86，而更常見的如 ResNet 50 仍然由 x86 主導。

ARM 公司 HPC 和工具的高級主管 David Lecomber 表示：”ARM 作為 MLCommons 的創始成員，致力於創建標準和基準的過程，以更好地應對挑戰並激發加速計算行業的創新。 最新的推斷結果表明，由基於ARM的CPU和NVIDIA GPU驅動的ARM系統已經準備好在資料中心處理廣泛的AI工作負載」。

NVIDIA 在指出 A100 GPU 在 MLPERF 基準測試中比 CPU 快 104 倍。 NVIDIA 表示：「推理是指計算機運行人工智慧軟體識別物體或進行預測時的情況。 這是一個使用深度學習模型來過濾數據的過程，找到人類無法捕捉的結果。 MLPerf的推理基準是基於當今最流行的人工智慧工作負載和場景，涵蓋計算機視覺、醫學成像、自然語言處理、推薦系統、強化學習等”。

從主流的圖像分類 ResNet-50 基準到自然語言處理都進行了測試，A100 GPU 在所有的測試中都取得了最高的地位。