一位最近出院的心髒病患者正在使用智能手錶來幫助監測他的心電圖信號。這款智能手錶看起來非常安全，但處理該健康信息的神經網絡使用的是私人數據，這些數據仍有可能被惡意代理通過側信道攻擊竊取。

邊信道攻擊試圖通過間接利用一個系統或其硬件來收集秘密信息。在一種類型的邊信道攻擊中，精明的黑客可以在神經網絡運行時監測設備的功耗波動以提取從設備中“洩漏”出來的受保護信息。

“在電影中，當人們想打開上鎖的保險箱時，他們會聽鎖轉動時的咔噠聲。這表明，可能向這個方向轉動鎖會幫助他們進一步進行。這就是旁門左道攻擊，”麻省理工學院電子工程和計算機科學系(EECS)的研究生、一篇解決這一問題的論文的第一作者Saurav Maji說道：“它只是利用非預期的信息並利用它來預測設備內部正在發生的事情。”

目前能防止某些邊信道攻擊的方法是出了名得耗電，因此它們對於像智能手錶這樣依賴低功耗計算的物聯網(IoT)設備往往是不可行的。

現在，Maji和他的合作者已經建立了一個集成電路芯片，它可以抵禦電源邊信道攻擊，同時使用的能量遠遠低於常見的安全技術。該芯片比拇指甲還小，可以被整合到智能手錶、智能手機或平板電腦中以對傳感器數值進行安全機器學習計算。

“這個項目的目標是建立一個在邊緣進行機器學習的集成電路，這樣它仍是低功耗的，但可以防止這些邊信道攻擊，這樣我們就不會失去這些模型的隱私，”麻省理工學院工程學院院長、Vannevar Bush電氣工程和計算機科學教授、該論文的第一作者Anantha Chandrakasan表示，“人們沒有過多關注這些機器學習算法的安全性，而這個提議的硬件正在有效地解決這一空間。”

據悉，這項論文的共同作者包括Utsav Banerjee–他曾是EECS的研究生，現是印度科學研究所電子系統工程系的助理教授、Samuel Fuller–麻省理工學院的訪問科學家和Analog Devices的傑出研究科學家。這項研究將在國際固態電路會議上發表。

隨機計算

該團隊開發的芯片是基於一種被稱為閾值計算的特殊類型的計算。與其讓神經網絡對實際數據進行操作，不如先將數據分成獨特的隨機成分。網絡在累積最終結果之前以隨機順序對這些隨機成分進行單獨操作。

Maji稱，使用這種方法，設備的信息洩露每次都是隨機的，所以它不會洩露任何實際的側信道信息。但這種方法在計算上更加昂貴，因為神經網絡現在必須運行更多的操作且還需要更多的內存來存儲雜亂的信息。

因此，研究人員通過使用一個函數來減少神經網絡處理數據所需的乘法量來優化這一過程從而削減了所需的計算能力。他們還通過對模型的參數進行加密來保護中性網絡本身。通過在加密前將參數分組，他們提供了更多的安全性，與此同時還減少了芯片上所需的內存量。

“通過使用這種特殊的功能，我們可以在進行這種操作的同時跳過一些影響較小的步驟，這使我們可以減少開銷。我們可以減少成本，但在神經網絡的準確性方面，它也伴隨著其他的成本。因此，我們必須對我們選擇的算法和架構進行明智的選擇，”Maji說道。

現有的安全計算方法如同態加密提供了強大的安全保證，但它們在面積和功率方面產生了巨大的開銷，這限制了它們在許多應用中的使用。研究人員提出的方法–旨在提供相同類型的安全–能實現三個數量級的低能耗。通過精簡芯片架構，研究人員還能在矽芯片上使用比類似安全硬件更少的空間，這是在個人大小設備上實施芯片時的一個重要因素。

“安全問題”

雖然提供了針對電源邊信道攻擊的重要安全性，但研究人員的芯片需要比不安全的基線實現多4.5倍的功率和0.6倍的矽面積。

“我們正處於安全問題的關鍵時刻。我們必須願意用一定量的能源消耗來換取更安全的計算。這不是一份免費的午餐，”Chandrakasan說道，“未來的研究可以集中在如何減少開銷的數量以使這種計算更加安全。”

他們將他們的芯片跟一個沒有安全硬件的默認實現進行了比較。在默認實現中，他們能在從設備上收集約1000個功率波形後恢復隱藏的信息。有了新硬件，即使在收集了200萬個波形之後，他們仍無法恢復這些數據。

他們還使用生物醫學信號數據測試了他們的芯片以確保它能在現實世界的實施中發揮作用。Maji解釋稱，該芯片非常靈活，可以被編程為用戶想要分析的任何信號。

魯汶大學電氣工程系計算機安全和工業密碼學研究小組的教授Ingrid Verbauwhede說道：“安全為物聯網節點的設計增加了一個新的維度，在性能、功率和能耗的設計之上。這個ASIC（特定應用集成電路）很好地證明了安全設計，在這種情況下，通過添加屏蔽方案不需要被視為一個昂貴的附加裝置。研究人員們認為，通過選擇屏蔽友好的計算單元並在設計過程中整合安全性，甚至包括隨機性發生器，–一個安全的神經網絡加速器在物聯網背景下是可行的。”她沒有參與這項研究。

在未來，研究人員希望將他們的方法應用於電磁邊信道攻擊。這些攻擊更難防禦，因為黑客不需要物理設備來收集隱藏信息。