阿里巴巴發布含光800芯片全球最高AI推理性能
在今天開始的雲棲大會上,阿里巴巴對外發布第一顆自研芯片,達摩院院長張建鋒在杭州雲棲大會現場展示了含光800。在業界標準的ResNet-50測試中,含光800推理性能達到78563 IPS,比目前業界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。
目前,含光800已應用在阿里巴巴內部核心業務中,在杭州城市大腦中實時處理杭州主城區交通視頻需要40顆傳統GPU,延時為300ms,而使用含光800僅需4顆,延時降至150ms。
在杭州城市大腦的業務測試中,1顆含光800的算力相當於10顆GPU。在硬件層面含光800採用自研芯片架構,通過推理加速等技術有效解決芯片性能瓶頸問題;軟件層面集成了達摩院先進算法,針對CNN及視覺類算法深度優化計算、存儲密度,可實現大網絡模型在一顆NPU上完成計算。
含光800已開始應用在阿里巴巴內部核心業務中。根據云棲大會的現場演示,在城市大腦中實時處理杭州主城區交通視頻,需要40顆傳統GPU,延時為300ms,使用含光800僅需4顆,延時降至150ms。拍立淘商品庫每天新增10億商品圖片,使用傳統GPU算力識別需要1小時,使用含光800後可縮減至5分鐘。
含光800將通過阿里雲對外輸出AI算力。基於含光800的AI 雲服務當天正式上線,相比傳統GPU算力,性價比提升100%。
過去半年,平頭哥先後發布玄鐵910、無劍SoC平台。隨著含光800的發布,平頭哥端雲一體全棧產品系列初步成型,涵蓋處理器IP、一站式芯片設計平台和AI芯片,實現了芯片設計鏈路的覆蓋。
阿里雲智能總裁、阿里巴巴首席技術官張建鋒表示:“數字經濟時代,芯片,平頭哥、達摩院、阿里云三位一體,實現三大技術效應的最大化,為企業提供普惠算力和普惠AI,萬里長征第一步”。