微軟發表自研處理器Azure Cobalt/Maia 為其人工智慧服務提供算力
微軟在其年度Ignite大會上發布了兩款針對人工智慧工作負載的客製化晶片。Microsoft Azure Maia AI加速器用於人工智慧任務和生成式人工智慧,而Microsoft Azure Cobalt則是一款ARM處理器,用於微軟雲端上的通用運算工作負載。
該專案的理念是定制”從晶片到服務的一切”,以滿足現代人工智慧的需求。除了創建內部晶片,微軟還確保其他一切都針對人工智慧工作負載進行了最佳化,例如軟體、伺服器機架和冷卻系統。
微軟正在建立支援人工智慧創新的基礎設施,我們正在重新規劃資料中心的各個方面,以滿足客戶的需求。就營運規模而言,優化和整合基礎設施堆疊的每一層以最大限度地提高效能、實現供應鏈多樣化並為客戶提供基礎設施選擇,這非常重要。
微軟表示,Azur Maia AI加速器專為Azure硬體堆疊設計,實現了”硬體的絕對最大利用率”。至於Azure Cobalt,它是一款面向雲端原生產品的高能源效率ARM晶片,在資料中心具有最佳化的每瓦效能比。
為了在現有資料中心基礎設施中容納新晶片,微軟重新設計了伺服器機架(新處理器需要更寬的電路板),並實施了液體冷卻解決方案。該公司將於明年初向資料中心推出新的人工智慧處理器,最初將為Microsoft Copilot和Azure OpenAI Service提供算力。
微軟Azure Cobalt和Maia資料中心晶片
除了推出人工智慧專用晶片,微軟也正在擴大與其他製造商的合作,為客戶提供更多選擇。微軟推出了由英偉達(NVIDIA)H100 Tensor Core GPU驅動的新虛擬機器預覽版。此外,這家軟體巨頭還計劃採用英偉達H200 Tensor Core 和AMD 的MI300X。這些新增產品將為中高端訓練和生成式人工智慧帶來效能、可靠性和效率。