Arm中國正在考慮將其”週易”NPU驅動程式上傳到Linux核心中
Arm 中國正在考慮透過最近創建的加速器”accel”子系統將其”週易”NPU 驅動程式上傳到Linux 核心中。中國Arm公司的神經處理單元(NPU)驅動程式目前擁有開源核心和用戶空間堆疊。
三年前,百度的一位工程師曾關注過用於Linux 核心的周易AI 加速器驅動程序,但這只是一個開源的核心驅動程序,當時還缺乏一個開源的用戶空間軟體堆疊。從那時起,Arm China 就開始著手開發這個完全開放的使用者/核心驅動程式堆疊。全志R329 等一些SoC 中就採用了Arm China 的NPU。
今天,Arm China 的一位工程師宣布,希望將他們的NPU 驅動程式上游化到加速器子系統中。目前,至少開放的用戶模式驅動程式和核心驅動程式是透過Arm China在GitHub 上的Compass NPU 驅動程式開發的。
這個開源AI 加速器驅動程式堆疊依賴透過Arm China 的NN 圖編譯器將TensorFlow Lite 和ONNX 模型轉換為可執行程式庫。然後,應用程式將該可執行檔載入到使用者模式驅動程式中,二進位檔案提交給核心驅動程序,核心驅動程式再調度到支援的SoC 上的NPU 硬體。
透過阿里速賣通和類似通路可以買到一些支援Arm China NPU 的開發板。
到目前為止,郵件清單只是闡述了大家的興趣,並找出了將Arm China NPU 驅動程式上傳到主線Linux 核心的要求。這仍然需要上游DRM/accel 維護者審查程式碼,確保其符合適當的介面等,因此前方的路還很長,但至少很高興看到Arm China 現在有了一個完全開源的Linux NPU 驅動程式堆疊。