在近日的資訊化百人會上，中國工程院院士、清華大學電腦系教授鄭緯民表示，國產AI晶片的核心問題在於生態系統不夠完善。他認為，儘管國產AI晶片在硬體效能上取得了顯著進展，但由於軟體生態系統的不成熟，導致用戶使用體驗不佳。

鄭緯民強調，算力是大模型產業的主要開銷，佔了大模型訓練成本的70%以及推理成本的95%。

他指出，如果國產AI晶片生態系統得到改善，即使只能達到國外晶片60%的效能，用戶也會願意使用。

他進一步闡釋了生態系統的重要性，認為如果原本在英偉達平台上開發的人工智慧軟體能夠輕鬆移植到國產系統上，這就意味著生態系統是良好的。

反之，如果移植過程困難重重，耗時長達一年或兩年，那么生態系統就是不成熟的。

為了改善國產AI晶片的生態系統，鄭緯民提出了需要做好的“十個軟體”，包括程式框架、並行加速、通訊庫、算子庫、AI編譯器、程式語言、調度器、記憶體分配系統、容錯系統和儲存系統。

他相信，只要這些方面都優化，即使硬體效能不是頂尖，使用者也會因為良好的使用體驗而選擇使用國產AI晶片。