亞馬遜推出新一代AWS P4 GPU實例
亞馬遜雲服務(AWS)今日推出了基於GPU的新P4實例,此時距離該公司的首套GPU集群實例上線已有十年。具體說來是,P4實例採用了英特爾Cascade Lake處理器+ 8路Nvidia 100 TensorFlow Core GPU的方案。AWS承諾新實例提供的深度學習性能是前一代的2.5倍,模型訓練的性價比也有60%的優勢。
(來自:Amazon)
目前AWS P4 GPU 實例僅提供了一種選項(p4d.12xlarge),8 路@ Nvidia GPU 通過NVLink 接口實現通信連接,此外也提供了對GPUDirect 接口的支持。
憑藉320GB的高帶寬GPU顯存和400 Gbps網絡,再加上96個CPU核心、1.1 TB系統內存、以及8TB SSD存儲,這套平台的性能也是相當驚人。
按需使用的話,AWS P4 GPU 實例的價格為32.77 美元/ 小時。如果長期使用,那年費平均下來< 20 美元/ 小時(三年平均11.57 美元/ 小時)。
Announcing the New Amazon EC2 P4d Instances(via)
在極端情況下,用戶最高可選將4000+ GPU 組合到一個EC2 UltraCluster 集群中。但考慮到實際運算的成本,也只有少數企業客戶能夠承擔得起,比如參與早期測試的豐田研究院、GE Healthcare 和Aon 。