Hugging Face稱偵測到對其人工智慧模型託管平台的”未經授權存取”
週五下午晚些時候,人工智慧新創公司Hugging Face表示,其安全團隊在本週早些時候檢測到對Spaces的”未經授權訪問”,Spaces是Hugging Face用於創建、共享和託管人工智能模型和資源的平台。
Hugging Face 在一篇部落格文章中說,這次入侵與Spaces 秘密有關,即作為解鎖帳戶、工具和開發環境等受保護資源的密鑰的私人資訊。
作為預防措施,Hugging Face 已撤銷了這些機密中的一些令牌(令牌用於驗證身分)。令牌被撤銷的使用者已經收到了電子郵件通知,並建議所有使用者”刷新任何金鑰或令牌”,並考慮改用細粒度存取令牌,Hugging Face 聲稱這種令牌更安全。
目前還不清楚有多少用戶或應用程式受到潛在漏洞的影響。
「我們正在與外部網路安全取證專家合作,調查這一問題,並審查我們的安全政策和程序。我們也向執法機構和資料保護機構報告了這一事件,」Hugging Face 在貼文中寫道。 “我們對此次事件可能造成的干擾深表遺憾,並理解它可能給您帶來的不便。我們承諾將以此為契機,加強我們整個基礎設施的安全性”。
Hugging Face 的發言人在一封電子郵件聲明中說:”在過去幾個月裡,我們看到網路攻擊的數量明顯增加,這可能是因為我們的使用量大幅增長,人工智慧正成為主流。技術上很難知道有多少Spaces機密被洩漏了。
Hugging Face 是最大的人工智慧和資料科學專案合作平台之一,擁有超過一百萬個模型、資料集和人工智慧驅動的應用程序,在其安全實踐方面面臨越來越多的審查。
今年4 月,雲端安全公司Wiz 的研究人員發現了一個漏洞(已被修復),攻擊者可以在Hugging Face 託管應用程式的建置時間內執行任意程式碼,從而檢查機器上的網路連線。今年早些時候,安全公司JFrog發現有證據表明,上傳到Hugging Face的程式碼在終端用戶機器上暗中安裝了後門和其他類型的惡意軟體。安全新創公司HiddenLayer 發現,Hugging Face 表面上更安全的序列化格式Safetensors 有可能被濫用來創建破壞性的人工智慧模型。
Hugging Face最近表示,它將與Wiz 合作,使用該公司的漏洞掃描和雲端環境配置工具,”目標是提高我們平台和整個AI/ML 生態系統的安全性」。