英特爾展示首次全面融合的Optical I/O Chiplet
AI領域又重大突破?媒體稱,英特爾推出首款OCI晶片組,能提高AI基礎設施的資料傳輸速率,並減少延遲和功耗,這對需要高速資料傳輸的AI基建和應用至關重要。美東時間6月26日,在2024年的光纖通訊會議(OFC)上,英特爾的整合式光子解決方案(IPS)小組展示了業界最先進的、也是首次完全整合的光運算互連(OCI)晶片組,該晶片組與英特爾CPU共同封裝並運行即時數據。
英特爾的OCI晶片組透過在資料中心和高效能運算(HPC) 應用的新興AI基礎設施中實現共同封裝的光輸入/輸出(I/O),代表了高頻寬互連的一次飛躍。英特爾稱,我們在融合光電科技到高速資料傳輸方面實現一個革命性的里程碑。
功能方面,這款首款OCI晶片支援64個獨立通道,每個通道能夠以32千兆位元/秒(Gbps)的速率傳輸數據,並在長達100米的光纖上高效傳輸數據,有望滿足AI基礎設施對更高頻寬、更低功耗和更長傳輸距離日益增長的需求。它增強了叢集中CPU與GPU之間的連接,並支援創新的運算架構,如一致性記憶體擴展和資源解耦。
隨著AI技術的快速發展,自動駕駛、進階資料分析和虛擬助理等應用在全球日益普及,對運算資源的需求急劇增加。特別是大型語言模型如GPT,以及生成式AI技術的快速發展,大大推動了AI技術的應用。然而,這些先進的AI模型需要處理和產生的資料量龐大,對運算資源和資料傳輸提出了極高的要求。
隨著機器學習模型的規模不斷擴大,它們在AI加速工作中的作用也變得越來越複雜,需要極高的運算能力和資料處理能力才能有效運作。這種對高效能運算平台的需求正在推動輸入/輸出(I/O)頻寬的指數級成長和資料傳輸距離的延伸。
為了因應這項挑戰,資料中心正在朝向更大的處理單元集群,如CPU、GPU和IPU的使用,以及更有效率的資源利用架構,如xPU解耦和記憶體池化方向發展。這些技術的實施將提高處理效率,降低系統延遲,並優化資源配置,從而支援更廣泛的AI運算和應用。
儘管傳統的電子I/O系統在傳輸大量資料時表現出高頻寬密度和低功耗的優點,但其最大的弱點是傳輸距離短,通常僅限於一公尺內。這嚴重限制了資料中心內部的設備佈局,使得元件之間的連接受到嚴格的空間限制。
為了突破這個限制,資料中心和早期AI群集開始採用可插拔光學模組技術,這種技術能夠提供比電子I/O更長的傳輸距離。然而,隨著AI應用對資源的不斷增加,光學模組在成本和能耗方面的壓力也隨之增加。
為了因應這些挑戰,新一代光學I/O技術應運而生。這種技術將光學I/O與處理器(如CPU、GPU或IPU等,統稱為xPU)共封裝,不僅大幅提高了頻寬,還優化了晶片內部的光和電訊號傳輸,顯著降低了能量消耗,也大幅減少了資料傳輸過程中的延遲,對於需要快速回應的AI應用至關重要。
更令人興奮的是,這項技術支援的傳輸距離遠超以往,為資料中心的設計提供了更大的靈活性,使得系統能夠適應更廣泛的擴展需求。光學I/O技術的推廣不僅解決了資料傳輸的痛點,也為AI和機器學習的未來發展鋪平了道路。
打個比方,傳統的電子I/O連接,類似舊式馬車,在短距離傳輸中效率較高,但面對大量資料的長距離傳輸需求時,卻顯得力不從心。而英特爾的OCI晶片等光學I/O技術,如同現代的汽車和卡車,不僅能在更長的距離上傳輸更多的數據,而且保持數據的完整性,大大超越了傳統電子I/O的性能。
隨著AI和ML模型需求的不斷擴大,光學I/O憑藉其卓越的傳輸能力和高效能能源利用,成為推動未來AI技術發展的關鍵力量。就像汽車和卡車滿足了現代社會對快速、大規模物流的需求一樣,光學I/O使得數據能夠更快、更有效率地在更長的距離上傳輸,這對於擴展AI基礎設施至關重要。
英特爾在矽光子學領域處於領導地位
憑藉超過25年的深厚研究基礎,英特爾實驗室在整合光子學領域取得了開創性的成就。英特爾不僅是首家成功開發並大規模生產矽光子連接產品的企業,更是以其卓越的產品可靠性,贏得了全球主要雲端服務供應商的信賴。
英特爾的核心競爭力在於其獨特的混合雷射晶圓上技術和直接整合工藝,這些技術不僅提高了產品的可靠性,還降低了成本。這種獨特的方法使得英特爾能夠在保持高效率的同時,提供卓越的性能。到目前為止,英特爾的強大生產平台已經出貨超過800萬片積體電路晶片,這些晶片整合了超過3,200萬個晶片級雷射。其雷射的故障率極低(故障率小於0.1),此指標在業界廣泛認可,顯示故障率極低。
這些晶片被封裝在可插拔的收發器模組中,並在大型資料中心網路中部署,服務多家大型雲端服務供應商,用於100Gbps、200Gbps和400Gbps的應用。目前,英特爾也正在開發下一代200Gbps每通道的晶片,以支援即將到來的800Gbps和1.6Tbps的應用。
在製造流程上,英特爾引進了全新的矽光子製造製程節點,這項製程不僅提升了設備性能,還實現了更高的整合度和更佳的耦合效率,同時顯著降低了成本。英特爾在晶片雷射和SOA性能、成本控制以及能效優化方面不斷取得突破,晶片面積減少了超過40%,能耗降低了超過15%,進一步鞏固了其在矽光子技術領域的領先地位。
英特爾目前的OCI晶片模組尚處於原型階段。展望未來,英特爾正在與特定客戶合作,將OCI與他們的系統級晶片(SoCs)一起封裝,開發一種創新的光學輸入/輸出解決方案。