先進的硬體設備將人工智慧能耗降低1000倍
明尼蘇達大學雙城分校的工程研究人員開發出先進的硬體設備,可將人工智慧(AI)運算應用中的能耗降低至少1000 倍。這項研究發表在《自然》雜誌出版的同行評審科學雜誌《npj 非常規計算》上。研究人員擁有該設備所用技術的多項專利。
隨著人工智慧應用需求的不斷增長,研究人員一直在研究如何在保持高效能和低成本的同時,創建更節能的流程。通常,機器或人工智慧流程在邏輯(系統內處理資訊的地方)和記憶體(儲存資料的地方)之間傳輸數據,需要消耗大量的電力和能源。
明尼蘇達大學科學與工程學院的研究小組展示了一種新模式,在這種模式下,資料永遠不會離開內存,這種模式被稱為計算隨機存取記憶體(CRAM)。
明尼蘇達大學電機與計算機工程系博士後研究員、論文第一作者呂楊說:”這項工作是CRAM 的首次實驗演示,數據可以完全在內存陣列內處理,而無需離開計算機存儲信息的網格。”
客製化的硬體設備計畫幫助人工智慧提高能源效率。來源:明尼蘇達大學雙城分校
國際能源機構(IEA)發布了一份全球能源使用預測預測,人工智慧的能源消耗可能翻一番,從2022 年的460 太瓦時(TWh)增至2026 年的1,000 太瓦時(TWh)。這大致相當於日本全國的耗電量。
據新論文的作者稱,基於CRAM 的機器學習推理加速器估計可實現1000 次的改進。另一個例子顯示,與傳統方法相比,可節省2500 和1700 倍的能源。
“這項研究已經有20多年的歷史了。”論文的資深作者、明尼蘇達大學麥克奈特特聘教授兼電機與計算機工程系羅伯特-F-哈特曼講座教授王建平說:”20年前,我們最初提出的將儲存單元直接用於計算的概念被認為是瘋狂的。
“自2003年以來,我們的學生團隊不斷發展壯大,明尼蘇達大學也建立了一支真正跨學科的教師團隊,從物理學、材料科學與工程、計算機科學與工程,到建模和基準測試,再到硬體創建,我們都取得了積極的成果,現在我們已經證明,這種技術是可行的,並已準備好將其應用到技術中。
磁性隧道結(MTJs) 是一種奈米結構裝置,用於改進硬碟、感測器和其他微電子系統,包括磁性隨機存取記憶體(MRAM),MRAM 已用於微控制器和智慧手錶等嵌入式系統。
CRAM 體系結構實現了真正的記憶體運算,打破了傳統馮諾依曼體系結構中作為瓶頸的計算與記憶體之間的壁壘,傳統馮諾依曼體系結構是儲存程式電腦的理論設計,幾乎是所有現代計算機的基礎。
“作為一種能效極高的基於數位的記憶體運算基板,CRAM 非常靈活,可以在記憶體陣列的任何位置進行運算。因此,我們可以重新配置CRAM,使其最符合各種人工智慧演算法的效能需求, “計算架構專家、論文共同作者、明尼蘇達大學電機與電腦工程系副教授Ulya Karpuzcu 說。 “與當今人工智慧系統的傳統建構模組相比,它更加節能。”
CRAM 直接在記憶體單元內執行運算,有效利用了陣列結構,無需進行緩慢且耗能的資料傳輸。最高效的短期隨機存取記憶體(RAM)設備使用四到五個電晶體來編碼一個1 或0,而MTJ(一種自旋電子設備)只需很少的能量就能實現相同的功能,速度更快,而且能適應惡劣的環境。自旋電子裝置利用電子的自旋而不是電荷來儲存數據,為傳統的電晶體晶片提供了更有效率的替代方案。
目前,該團隊已計劃與包括明尼蘇達州在內的半導體行業領導者合作,提供大規模的演示和生產硬件,以推進人工智慧功能。
編譯自/ ScitechDaily