IBM 開發了一種新的光學技術，可以以光速訓練AI 模型，同時節省大量能源。該公司表示，透過將其突破性技術應用於資料中心，訓練AI 模型時節省的能源相當於5000 個美國家庭的年度能源使用量。

該公司解釋說，雖然資料中心透過光纖電纜與外部相連，但在內部，他們仍在使用銅線。這些電線連接GPU 加速器，這些加速器在等待其他設備的數據時會花費大量時間處於空閒狀態，同時消耗能源並推高成本。

IBM 高級副總裁兼研究總監Dario Gil 在評論這項發展時表示：

「由於生成AI 需要更多的能源和處理能力，資料中心必須不斷發展——而同封裝光學元件可以使這些資料中心面向未來。有了這一突破，未來的晶片將像光纖電纜將資料傳入和傳出資料中心一樣進行通信，開啟一個更快、更可持續的通信新時代，可以處理未來的AI 工作負載。

IBM 在一份技术论文中概述了其新的共封装光学器件 (CPO) 原型。通过显著增加数据中心的带宽，可以最大限度地减少 GPU 停机时间，从而加速 AI 处理。

IBM 解釋說，大型語言模型(LLM) 的訓練時間可以從三個月縮短到三週。同時，提高能源效率將減少能源使用量並降低與訓練LLM 相關的成本。