英偉達發布全球最小邊緣AI超級計算機Jetson家族讓初創公司面臨更大壓力
英偉達宣布推出全球尺寸最小的邊緣AI超級計算機Jetson Xavier NX,主要面向機器人和邊緣嵌入式計算設備。這款新品擁有比信用卡還小的外形,節能型Jetson Xavier NX模塊在運行AI工作負載時,可提供最高21 TOPS的服務器級性能,售價399美元,即將在2020年3月開始出貨。英偉達推出更具競爭力的邊緣AI芯片產品,讓AI初創公司們面臨更大的競爭壓力。
(題圖via AnandTech)
英偉達邊緣AI芯片已經有四個系列
今天發布的Jetson Xavier NX最大的亮點在於,與Jetson Nano尺寸相同(70X45mm)的情況下,能夠在功耗10W的模式下提供最高14TOPS,在功耗15W模式下最高21 TOPS的性能。另外,Jetson Xavier NX能夠並行運行多個神經網絡,也能同時處理來自多個高分辨率傳感器的數據。
Jetson Xavier NX模塊具體的規格如下:
GPU:配備384個NVIDIA CUDA core和48 個Tensor core的NVIDIA Volta,外加2個NVDLA
CPU:6-core Carmel Arm 64位CPU, 6MB L2 + 4MB L3
視頻:2x 4K 30編碼和2x 4K60解碼
攝像頭:最多6個CSI攝像頭(通過虛擬通道最多36個),12路(3×4或6×2) MIPI CSI-2
內存:8GB 128位LPDDR4x;51.2GB/秒
連接:千兆以太網
OS支持:基於Ubuntu的Linux
模塊尺寸:70x45mm
Jetson Xavier NX面向的是對性能需求高,但受到尺寸、重量、功耗以及預算限制的嵌入式邊緣計算設備,比如小型商用機器人、無人機、智能高分辨率傳感器(用於工廠物流和生產線)、光學檢測、網絡錄像機,便攜式醫療設備以及其他工業物聯網(IoT)系統。
為了滿足這些場景,除了硬件外,軟件支持也非常重要。英偉達表示,對於已經開始打造嵌入式計算機的公司,Jetson Xavier NX與所有Jetson系列產品一樣都可以在相同的CUDA-X AI軟件架構上運行。同時,作為NVIDIA軟件架構方法的一部分,Jetson Xavier NX由NVIDIA JetPack SDK提供支持。
NVIDIA JetPack SDK是一個完整的AI軟件堆棧,可以運行複雜的AI網絡,並用於深度學習的加速庫以及計算機視覺、計算機圖形、多媒體等。
Jetson Xavier NX的上一款產品是在今年3月的GTC發布,英偉達創始人兼CEO 黃仁勳宣布推出售價僅99美元的Jetson Nano。根據官方的說法,借助CUDA-X,Jetson Nano可以提供472 GFLOPS的AI性能,功率低至5W。這款售價不高,能夠運行所有AI模型的邊緣計算平台發布後獲得了極大的關注。
Jetson Nano的上一款產品在去年發布。去年九月的日本GTC,黃仁勳公佈了AGX陣容,包括Drive Xavier和新推出的Drive Peg ASUS,還有Jetson AGX Xavier。Jetson AGX Xavier的大規模計算性能可以處理機器人至關重要的測距、定位、測繪、視覺和感知以及路徑規劃。
Jetson家族更早的產品Jetson TX2在2017年推出,提供兩種運行模態:一種是MAX Q,這種模態下能效比能達到最高,是TX1的2倍,功耗在7.5W以下;另一種是MAX P,性能可以做到最高,能效比同樣可以做到前一代的2倍,功耗則在15W以下。
雖然推出的時間不同,但他們都具有一個區別於其他邊緣SoC的特點,並行運行多個神經網絡。
邊緣端實力增強,初創公司面臨更大生存壓力
英偉達在雲端AI芯片市場獲益頗豐,其中非常重要的原因就是擅長並行計算的GPU能夠在在數據中心的各種模型中訓練時體現出性能優勢。雖然憑藉雲端AI芯片成為了眾多AI芯片初創公司想要超越的目標,但英偉達也有自己的困擾。首先,為AI優化和設計的高性能GPU價格昂貴,讓不少開發者望而卻步。
其次,隨著AI算法的逐步成熟,雲端AI訓練芯片市場的增速將會放緩,英偉達想要保持業績的增長以及在AI市場的領導力,就需要向邊緣AI市場拓展,同時,用雲端加邊緣一體化的解決方案吸引更多客戶。
從面向終端和邊緣設備的Jetson系列芯片的佈局來看,英偉達早已明白自己該怎麼做。如今,Jetson系列芯片算力從0.5TFlops到32TOPS,應用覆蓋小型嵌入式設備、智能汽車、工業設備等多種應用。今天高性能小尺寸Jetson Xavier NX發布,讓Jetson家族能夠提供性能和功耗更加多樣的邊緣芯片,這背後就是為了滿足AIoT市場多樣化的市場需求。
不過,更應該看到的是,英偉達如今不僅能夠提供雲端和終端AI芯片硬件,其成功背後還有強大的軟件生態的支撐。據雷鋒網(公眾號:雷鋒網)了解,Jetson系列已經吸引了40萬的開發者,擁有了3000用戶。
這對於AI芯片的初創公司而言顯然不是一個好消息,由於雲端AI芯片更加依賴生態,芯片的設計難度也更大,所以大部分AI芯片的初創公司都選擇在邊緣端市場,並且大都主要提供AI加速器。AI芯片初創公司們希望憑藉獨特的架構設計以及領先的性能指標的芯片獲得市場的認可。
然而,開發者在進行AI算法遷移的時候往往需要使用AI芯片公司提供的編譯器等工具,這不僅會增加軟件開發者的使用門檻,還可能達不到預期的效果。因此,初創公司的AI芯片大部分都沒有得到非常有價值的應用。
這就意味著,AI芯片初創公司們在產品設完成並流片之後,如何找到合適的市場以及模式進行商業化變得非常關鍵,特別是在資本寒冬以及AI芯片進入落地戰的當下。
顯然,AI芯片初創公司們面臨著更加嚴峻的生存挑戰,一方面,無論是英偉達還是英特爾,他們在雲端和邊緣端都已經有競爭力很強的產品,在邊緣端,憑藉軟件生態以及渠道的優勢,巨頭們的芯片更容易獲得客戶,甚至連擅長軟件的Google都推出了面向邊緣市場的Google Edge TPU。另一方面,AI芯片初創公司想要推出有競爭力的產品就必須不斷迭代和投入,這就需要資金的持續支持,但融資環境以及更加激烈的市場競爭又增加了融資的難度。
正如雷鋒網在今年3月份的文章中指出的,AI芯片的戰火已經蔓延至邊緣端,Jetson Xavier NX的推出不僅是英偉達邊緣端AI芯片佈局的完善和實力的進一步增強,更是邊緣端芯片市場競爭更加激烈的標誌。
AI芯片市場更加激烈的競爭有助於推動AI的向前發展,但對於實力較弱的AI芯片初創公司而言,隨著芯片巨頭們更有競爭力產品的推出,以及像英偉達這樣的公司更願意稱自己為系統公司,而非單純的芯片公司,這讓AI芯片初創公司面臨著更加嚴峻的生存挑戰。