清華團隊發表中國AI光晶片「太極」 號稱受《週易》啟發
隨著各類大模型和深度神經網路湧現,如何製造出滿足人工智慧發展、兼具大算力和高能效的下一代AI晶片已成為國際前沿熱點。根據微信公眾號「清華大學」12日消息,清華大學電子工程系方璐副教授課題組、自動化系戴瓊海院士課題組摒棄傳統電子深度計算範式,另闢蹊徑首創分散式廣度智能光運算架構,研發全球首款大規模干涉衍射異構整合晶片太極(Taichi),實現160 TOPS/W的通用智慧計算。
這項研究成果於北京時間4月12日凌晨以《大規模光晶片「太極」賦能160 TOPS/W通用人工智慧》為題發表在最新一期的《科學》(Science)上。
方璐、戴瓊海為論文的通訊作者,電子工程系博士生徐智昊、博士後週天貺(清華大學水木學者)為論文第一作者。
「掙脫」算力瓶頸的中國光計算睿智嘗試
作為人工智慧的三駕馬車之一,算力是訓練AI模型、推理任務的關鍵。倘若把大模型當作是做一道精緻的菜餚,算力就好比一套稱手的烹飪工具。
世人皆知巧婦難為無米之炊,但再好的廚子,沒有一口好鍋、一把好刀,面對鮮美的食材也只能望而興嘆。
光計算,顧名思義是將計算載體從電變為光,利用光在晶片中的傳播進行計算,以其超高的並行度和速度,被認為是未來顛覆性計算架構的最有力競爭方案之一。
光晶片具備高速高平行運算優勢,被寄予希望用來支撐大模型等先進人工智慧應用。
智慧光運算作為新興運算模態,在後摩爾時代展現出有望超越矽基電子運算的潛力。然而其計算任務局限於簡單的字元分類、基本的影像處理等。其痛點是光的運算優勢被困在了不適合的電架構中,運算規模受限,無法支撐亟需高算力與高能效的複雜大模型智慧運算。
行勝於言,直面科研領域痛點問題,幫助光計算「掙脫」算力瓶頸,另闢蹊徑,「從0到1」重新設計適合光運算的新架構,是這個清華團隊邁出的關鍵一步。
光電智慧科技交叉創新團隊部分成員合照(左三為戴瓊海院士、右二為方璐副教授)
從「無極」而至「太極」的雙向奔赴
從構思到實驗,開闢新賽道、做第一個吃螃蟹的人往往都伴隨著巨大的困難與壓力。
每一個研究成果的背後,都凝縮了團隊每一位成員的心血,是歷經無數失敗與徹夜難眠後,結出的那顆最耀眼的結晶。但方璐卻將這次科研歷程比擬為一場浪漫的「雙向奔赴」:從演算法架構上自頂向下探索,在硬體晶片設計上自底向上推演。
相異於電子神經網路依賴網路深度以實現複雜的運算與功能,「太極」光晶片架構源自光運算獨特的’全連接’與’高並行’屬性,化深度運算為分散式廣度運算,為實現規模易擴展、計算高並行、系統強魯棒的通用智慧光計算探索了新路徑。
根據論文第一作者、電子系博士生徐智昊介紹,在「太極」架構中,自頂向下的編碼拆分-解碼重構機制,將複雜智能任務化繁為簡,拆分為多通道高並行的子任務,建構的分佈式’大感受野’淺層光網絡對子任務分而治之,突破物理模擬器件多層深度級聯的固有計算誤差。
化「深」為「廣」:分散式廣度光運算架構
團隊以周易典籍’易有太極,是生兩儀’為啟發,建立干涉-衍射聯合傳播模型,融合衍射光計算大規模並行優勢與乾涉光計算靈活重構特性,將衍射編解碼與乾涉特徵計算進行部分/整體重構複用,以時序復用突破通量瓶頸,自底向上支撐分散式廣度光運算架構,為片上大規模通用智慧光運算探索了新路徑。
通俗來講,干涉-繞射的組合方式彷彿就是在拼樂高玩具。樂高積木可以透過一個模組瀏海與另一個模組凸起的契合來完成兩個組件的拼接。在科學研究團隊眼中,一旦把乾涉、繞射變成基礎模組,進行重構複用,可以憑藉豐富的想像力搭建出變化無窮的造型。
兩儀一元:干涉-衍射融合計算晶片
根據論文報導:「太極」光晶片具備879 T MACS/mm²的面積效率與160 TOPS/W的能量效率,首次賦能光運算實現自然場景千類物件辨識、跨模態內容生成等人工智慧複雜任務。
「太極」光晶片可望為大模型訓練推理、通用人工智慧、自主智慧無人系統提供算力支撐。
複雜智能任務實驗結果展示
方璐表示,「之所以將光晶片命名為’太極’,也是希望可以在如今大模型通用人工智慧蓬勃發展的時代,以光子之道,為高效能運算探索新靈感、新架構、新路徑。 」
學科交叉融合,探索無限可能
「太極」光晶片的誕生是多學科交叉碰撞、探索無限的過程。
從一個初步設想到打破常規思維、確立科研思路,從理論計算到架構創新,再到模擬試驗、現場實測……每一個重大突破性研究,都涉及不同學科高度交叉融合,催生出“0到1”的成果。
北京資訊科學與技術國家研究中心的光電智慧技術交叉創新團隊由來自電子系、自動化系、積體電路學院、軟體學院的領域學者和專門研究人員組成。
在這裡,「理學思維融合工科實踐,交叉領域實踐原始創新」的理念一以貫之,團隊始終致力於為中國成為世界科學中心和創新高地貢獻出清華力量。
和團隊的對話中,「初心」和「堅持」兩個詞語,被多人反覆提及。恰如團隊成員所言,“科學研究是一個厚積薄發的過程,不是一蹴而就的,就像在黑暗中來回摸索,可能會經歷反复失敗,但一定要堅持自己的初心。”
一次次「推翻重來」「背水一戰」的底氣背後,是什麼支撐著團隊的堅持求索?
答案是:良好的學術環境和有組織科研的全方位保障。
2021年4月19日,習近平總書記在清華大學考察時強調,重大原始創新成果往往萌發於深厚的基礎研究,產生於學科交叉領域,大學在這兩方面具有天然優勢。要保持對基礎研究的持續投入,鼓勵自由探索,敢於質疑現有理論,勇於開拓新的方向。
「當時,我有幸參與向總書記報告團隊的科研進展,在現場聆聽總書記的囑託。」三年過去,方璐和許多清華人一樣,是親歷者、實踐者,更是答卷人。
方璐認為,這次突破性科研成果的成功取得,是清華大學深入推動有組織科研的生動實踐。
該主題受到科技部2030「新一代人工智慧」重大計畫、國家自然科學基金委傑青計畫、基礎科學中心項目,清華大學-之江實驗室聯合研究中心支持。
在合作者中,有來自各個學科、不同背景的成員。他們集思廣益,多學科、多角度地探索更多解決途徑。
跨界交叉、深度融合,創新的火花在學科碰撞中不斷迸發,為科學研究團隊厚植基礎、勇攀高峰提供了新動能。