黃仁勳:搜索、社交媒體和電商是T4最大終端客戶
11月21日上午消息，NVIDIA GTC(GPU Technology Conference)今日在中國蘇州舉辦，NVIDIA創始人兼CEO黃仁勳在發布會上宣布NVIDIA Turing T4雲GPU繼續加速，科技企業們正在推出基於全新NVIDIAT4 GPU的新產品和服務。
T4 GPU
搜索、社交媒體和在線購物等互聯網公司是T4的早期使用者,也是最大的終端客戶群。中國首批開始使用T4的企業包括百度、、京東以及科大訊飛。計算機製造商也將推出一系列基於T4的服務器 ,如浪潮、聯想、華為、曙光、浪潮商用機器和新華三等。此外,谷歌云宣布穀歌云平台客戶可以使用T4。
NVIDIA T4 GPU服務器
T4基於NVIDIA Turing TM架構,採用多精度Turing Tensor Core和RT Core,與容器化軟件堆棧相結合,性能得到很大提升。可滿足公共雲和企業雲環境的需求,提高吞吐量、利用率和用戶並發性,幫助客戶高效應對用戶及數據爆炸式增長的問題。
T4可支持4種不同精度等級的各類AI工作負載,FP32精度能夠提供8.1 TFLOPS,FP16精度能夠提供65 TFLOPS,INT8精度能夠提供130 TOPS,INT4精度能夠提供260 TOPS。針對AI推理工作負載,配備2個T4 GPU的單個服務器最多可取代54台CPU服務器。針對AI訓練,配備2個T4的單個服務器可取代9台雙套接字CPU服務器。