超高效能機器學習電晶體可望將AI能耗降低99%
人工智慧機器學習需要耗費大量的運算能力和能源,因此通常在資料中心支撐的雲端完成。但一種新型微晶體管的能源效率比現有技術高出100 倍,可望為行動和穿戴式裝置帶來新的智慧水準。美國西北大學的研究人員在《自然-電子學》雜誌上發表了一篇論文,介紹了他們的新型奈米電子設備。它旨在執行分類任務,即分析大量資料並嘗試標註重要比特,這是許多機器學習系統的支柱。 該研究的資深作者、西北大學的馬克-C-赫薩姆(Mark C. Hersam)說:”如今,大多數感測器都是先收集數據,然後發送到雲端,由耗能的伺服器進行分析,最後再將結果發回給用戶。這種方法成本高得驚人,耗能巨大,還增加了時間延遲。我們的設備非常節能,可以直接部署在可穿戴電子設備中,進行即時檢測和數據處理,從而更迅速地介入健康緊急情況。” 現有的電晶體通常由矽製成,而這些新型電晶體則由二維二硫化鉬片和一維碳奈米管製成。這種電晶體的結構使其能夠快速調整和即時重新配置,因此可用於資料處理鏈中的多個步驟,而傳統電晶體只能執行每個步驟中的一個步驟。赫薩姆解釋說:”將兩種不同的材料整合到一個裝置中,使我們能夠利用外加電壓對電流進行強調製,從而實現動態可重構性。單一裝置具有高度可調性,使我們能夠以較小的佔地面積和較低的能耗執行複雜的分類演算法。”在測試中,研究人員對這些微小的”混合內核異質結晶體管”進行了訓練,以分析公開的心電圖資料集,並標記六種不同類型的心跳:正常、房性早搏、室性早搏、起搏、左束支傳導阻滯和右束支傳導阻滯。結果在10000 個心電圖樣本中,研究人員只用了兩個微型晶體管就能以95% 的準確率對異常心跳進行正確分類,而目前的機器學習方法需要100 多個傳統晶體管,它們使用的能量僅為傳統方法的1%。這意味著什麼?一旦這項技術投入生產–目前還不知道是什麼時候–小型、輕巧、電池供電的行動裝置將獲得在其自身感測器資料上運行機器學習人工智慧的智慧。這意味著它們將比不得不將大塊資料發送到雲端進行分析的裝置更快地找到結果,同時也意味著它們收集的個人資料將保持本地、私密和安全。目前還不清楚這種設備是否只適用於便攜式設備,或者是否能處理視訊數據,也不清楚這項工作是否能滲透到大型機器學習和人工智慧設備中。例如,耗電量降低100 倍將是大型模型訓練的一大進步。隨著全球企業急於訓練超大型語言模型和多模態人工智慧,能源消耗和相關排放都在激增。即使在2021 年,Google全部能源預算的10-15% 都花在了人工智慧上,可以肯定的是,這一比例已經大幅成長。如果一家公司生產的晶片能與英偉達(NVIDIA)的頂級人工智慧卡性能相當,而能耗僅為英偉達的1%,那麼這家公司可能會做得很好。這似乎不太可能;該團隊在其新聞稿中堅持談論行動裝置。不過,電腦智慧化又向前邁進了一步,可能會開啟另一波更智慧型裝置的浪潮。變革的步伐仍在不斷加快。這項研究發表在《自然-電子學》(Nature Electronics)雜誌。