Windows Copilot AI 最終將在GeForce RTX GPU 上運行
微軟、英特爾、AMD 和高通最近提出了推出”AI PC”的計劃,利用神經處理單元NPU 實現板載生成式人工智慧,主要是透過微軟的Copilot 人工智慧助理。不過,人工智慧產業的領導者英偉達(NVIDIA)認為其RTX 圖形晶片更適合這項任務。在該公司發布的公告中,確認了微軟和NVIDIA 正在合作,使Copilot 能夠利用RTX 硬體。
開發人員在創建利用生成式人工智慧(Generative AI)的Windows 應用程式時,很快就會獲得透過Windows Copilot Runtime 運行GPU 加速的小語言模型的API。微軟與英偉達的合作將允許Copilot 和相關的生成式人工智慧應用在NPU 和RTX GPU 上運行,這有可能為更多PC 帶來本地處理的人工智慧工作負載。
人工智慧PC 可以說是今年Computex 的核心,英特爾、AMD 和高通(Qualcomm)即將推出的處理器的展示更是其中的亮點。英特爾的Lunar Lake、AMD 的Strix Point 和高通的Snapdragon X 等新晶片陣容的主要賣點之一,就是它們的NPU 如何在不完全依賴雲端伺服器的情況下處理生成式AI 應用。 NPU 是微軟和英特爾定義的新AI PC 規格的核心。預計蘋果也將在下週的WWDC 上提出類似的計畫。
可以預見的是,英偉達更希望其GPU 成為客戶端人工智慧的流行平台。在最近的一次內部展示中,該公司聲稱入門級和中階RTX 4000 顯示卡處理人工智慧的速度比CPU 設計公司最新推出的NPU 快好幾倍。 NVIDIA 的最大優勢在於,雖然競爭對手尚未推出新的AI PC 或說服客戶購買,但RTX GPU 已經安裝在全球數百萬台PC系統中。
不過,”RTX AI PC”的應用範圍目前僅限於電玩遊戲中的DLSS、串流音訊增強和NVIDIA 聊天機器人等功能。讓Copilot 能夠利用這種硬體可能會擴大使用案例的範圍,並將微軟的全套AI 助理帶到更多的PC 上。 NVIDIA 最近也發布了一款基於AI 的遊戲助手,與微軟先前透露的Copilot 助手類似。