麻省理工學院的神經網絡知道自己什麼時候可以被信任
深度學習神經網絡是一種人工智能係統,正在被用於越來越重要的決策,例如從自動駕駛到診斷醫療條件等各種任務。這種類型的網絡擅長識別大型和復雜數據集中的模式,以幫助決策。一個很大的挑戰是確定神經網絡的判斷是否正確。麻省理工學院和哈佛大學的研究人員開發了一種快速的方法,讓神經網絡在數據中提供預測資深對其答案的信心水平。
該項目的研究人員認為,他們的系統可以拯救生命,因為深度學習已經部署在現實世界中。
目前,神經網絡的不確定性來自於計算成本往往很高,而且對於瞬間的決策來說速度太慢。研究人員設計的方法被稱為”深度證據回歸”,加快了這一過程,可能會帶來更安全的結果。該項目的研究人員表示,我們需要有能力擁有高性能的模型,並了解何時不能信任模型的結果。
深度學習已經在各種任務中表現出令人印象深刻的性能。在某些情況下,它已經能夠超越人類的準確性。這些網絡擅長在99%的時間內找到正確的答案,但在生命攸關的情況下,任何錯誤都是不可接受的。研究人員設計了一種使用神經網絡的單次運行來估計不確定性的方法。該網絡設計了一個增加的輸出產生一個決定和一個新的概率分佈捕捉支持其決定的證據。這些分佈被稱為證據分佈,直接捕獲模型對其預測的信心。
研究人員使用一個具有挑戰性的計算機視覺任務來測試他們的系統。他們訓練神經網絡分析雙目彩色圖像,並估計每個像素的距離值,這是一個自主駕駛車輛可能執行的任務,結果顯示新網絡的性能與之前最先進的模型相當,並增加了估計其不確定性的能力。