新的人工神經元設備可以使用極少能量運行神經網絡計算
加州大學聖地亞哥分校的研究人員開發了一種新的人工神經元裝置,訓練神經網絡來執行任務,如識別圖像或為自動駕駛汽車導航,有一天可能需要更少的計算能力和硬件。該設備可以使用比現有基於CMOS的硬件少100到1000倍的能量和麵積來運行神經網絡計算。
研究人員在最近發表於《自然-納米技術》的一篇論文中報告了他們的工作。神經網絡是一系列相連的人工神經元層,其中一個層的輸出為下一個層提供輸入。產生該輸入是通過應用一種被稱為非線性激活函數的數學計算來完成的。這是運行神經網絡的一個關鍵部分。但應用這個函數需要大量的計算能力和電路,因為它涉及到在兩個獨立單元–存儲器和外部處理器之間來回傳輸數據。
現在,加州大學聖地亞哥分校的研究人員已經開發了一個單一的納米級人工神經元設備,以一種非常節省面積和能源的方式在硬件中實現這些計算。由Kuzum和她的博士生Sangheon Oh領導的這項新研究是與加州大學聖地亞哥分校物理學教授Ivan Schuller領導的能源部能源前沿研究中心合作進行的,該中心專注於開發高能效人工神經網絡的硬件實現。
該設備實現了神經網絡訓練中最常用的激活函數之一,稱為整流線性單元。這個函數的特別之處在於,它需要能夠經歷電阻逐漸變化的硬件才能發揮作用,它可以逐漸從絕緣狀態切換到導電狀態,並且在一點點熱量的幫助下完成。這種開關就是所謂的莫特轉變。它發生在一個納米級的二氧化釩薄層中。這層上面是一個由鈦和金製成的納米線加熱器。當電流流經納米線時,二氧化釩層慢慢加熱,導致緩慢、可控的從絕緣到導電的轉換。
這種設備結構非常有趣和創新,通常情況下,處於莫特過渡期的材料會經歷一個從絕緣到導電的突然轉換,因為電流直接流過材料。在這種情況下,研究人員將電流流經材料頂部的納米線,以加熱它並誘發一個非常漸進的電阻變化。為了實現這個裝置,研究人員首先製造了這些所謂的激活(或神經元)裝置的陣列,以及一個突觸裝置陣列。然後,他們將這兩個陣列集成到一個定制的印刷電路板上,並將它們連接在一起,創建一個硬件版的神經網絡。
研究人員使用該網絡來處理圖像,比如加州大學聖地亞哥分校蓋瑟圖書館的照片。該網絡進行了一種叫做邊緣檢測的圖像處理,它可以識別圖像中物體的輪廓或邊緣。這項實驗表明,集成的硬件系統可以進行卷積操作,這對許多類型的深度神經網絡來說是必不可少的。
研究人員說,該技術可以進一步擴大規模,以完成更複雜的任務,如自動駕駛汽車的面部和物體識別。