Nvidia推出首款面向邊緣設備的AI平台
Nvidia公司週一早些時候推出了新的Nvidia EGX平台,將人工智能引入網絡邊緣,該平台能夠實時感知,理解和處理數據,而無需先將數據發送到雲端或數據中心。將AI應用於智能手機,傳感器和工廠機器等邊緣設備是該技術不斷發展的下一步。最早的AI算法非常複雜,只能在雲數據中強大機器上處理,這意味著通過網絡發送大量信息。但這是不可取的,因為它需要大量帶寬並導致更高的延遲,這使得實時AI無法實現。
Nvidia公司真正想要的是在數據本身創建的地方執行AI,無論是在製造工廠,零售商店還是倉庫。新的NVIDIA EGX平台包括基於Jetson Nano處理器的輕型服務器,功耗幾瓦,每秒執行0.5萬億次操作,再到基於NVIDIA T4的邊緣服務器機架微型數據中心,每個服務器一秒可以執行1萬萬億次操作。芯片的節能功能對於AI非常重要,因為傳統硬件在運行此類任務時是一項巨大的耗電工作。
在媒體簡報中,Nvidia企業和邊緣計算高級主管Justin Boitano表示,對NGX等平台的需求將會很大,因為世界上將有大約1500億台機器傳感器和物聯網設備。到2025年,許多這些傳感器將被用於智能城市等計劃,並將抽出需要現場處理的數據,原因包括需要更低的延遲,實時響應,數據主權規則或隱私問題。
合作夥伴關係也很重要, Nvidia正在整合NVIDIA Edge Stack軟件,以使其與現代軟件應用程序兼容。Nvidia正在與至少13家不同的服務器製造商合作銷售EGX平台,包括思科系統公司,戴爾EMC,惠普企業公司和聯想集團控股有限公司等大牌製造商。