人工智慧個人電腦（即配備必要硬體和軟體、可在本地運行生成式人工智慧任務的個人電腦）的出貨量預計今年將達到近5,000 萬台，但在短短幾年內就會膨脹到這個數字的三倍以上。

直到最近，在本地機器上運行人工智慧任務還需要使用CPU、GPU 或兩者的組合。這種方式並不理想，原因有以下幾點：CPU 和GPU 並未針對人工智慧任務進行最佳化，因此使用它們會影響系統的整體效能，並加速電池的耗盡。

神經處理單元（NPU）目前已開始進入消費性設備，專門用於盡可能有效率地處理人工智慧工作負載。 IDC概述了以下三類支援NPU 的人工智慧個人電腦：

• 支援硬體的人工智慧PC包括一個NPU，其性能小於每秒40 太運算（TOPS），通常可使應用程式中的特定人工智慧功能在本地運行。目前，高通、蘋果、AMD 公司和英特爾公司都在推出此類晶片。
• 下一代人工智慧PC包括一個具有40-60 TOPS 性能的NPU 和一個人工智慧優先的作業系統（OS），可在作業系統和應用程式中實現持久和普遍的人工智慧功能。高通公司、AMD 公司和英特爾公司預計都將為這一類別推出未來的晶片，交付時間可能從2024 年開始。微軟預計也將推出Windows 11 的重大更新（和更新的系統規格），以利用這些高TOPS NPU。
• 高級AI PC是指NPU 性能大於60 TOPS 的PC。雖然目前還沒有晶片供應商發布此類產品，但IDC 預計它們將在未來幾年內出現。 IDC 的這項預測不包括高階AI PC，但它們將被納入未來的更新中。

IDC 預計，在下一代人工智慧個人電腦接棒之前，支援硬體的人工智慧個人電腦的出貨量將在未來兩年內大幅成長。該研究公司認為，到2027年，下一代人工智慧個人電腦的出貨量將是支援硬體的人工智慧個人電腦的兩倍。這些系統中的許多將出售給商業客戶，但消費者也應該有很多期待，包括新的數位內容創建工具和人工智慧增強型PC遊戲。

將人工智慧工作負載從雲端帶到客戶端有三個主要的技術原因：消除當前人工智慧工作負載必須透過網路往返雲端的過程，從而提高效能；將資料保留在設備上而不是移動中，從而提高隱私性和安全性；限制對昂貴的雲端資源的訪問，從而降低成本。