NVIDIA開始向亞馬遜AWS雲提供T4 GPU
NVIDIA今天在GTC大會上宣布,在未來幾週內,AWS將推出基於NVIDIA T4 Tensor Core GPU的全新G4實例。T4基於NVIDIA的圖靈架構,專門針對運行AI模型進行了優化。T4將向EC2計算服務和Kubernetes的Amazon Elastic容器服務提供支持。
“NVIDIA和AWS長期合作,幫助客戶在雲中運行計算密集型AI工作負載,並創建令人難以置信的新AI解決方案,”AWS計算服務副總裁Matt Garman在今天的公告中表示。“通過我們新的基於T4的G4實例,我們可以讓客戶更輕鬆,更經濟地加速他們的機器學習推理和圖形密集型應用程序。”
T4也是AWS上第一款支持NVIDIA光線跟踪技術的GPU,雖然這並不是此次主推的也無重點,但創意專業人士可以使用這些GPU來實現項目的實時光線跟踪技術。
NVIDIA和AWS都希望人員能夠使用T4將AI模型投入生產,但需要注意的是,T4還沒有針對訓練這些模型進行優化,但這一過程已經在進行中。事實上,隨著新的Cuda-X AI庫的到來,NVIDIA現在已經可以為想要使用其GPU實現深度學習,機器學習和數據分析的開發人員提供端到端的平台。
值得注意的是,幾個月前谷歌也在Google Cloud上推出了面向NVIDIA的T4 GPU支持,單目前處於測試階段。