微軟新AI工具“Recall”深陷負評風暴最差命運就是“Recall”
「Recall」透過每隔幾秒鐘截取一次活動視窗的螢幕截圖來運作,在預設情況下記錄使用者在Windows中的所有操作並不進行內容審核,這意味著它將捕捉所有螢幕內容,包括銀行帳戶密碼、機密文件等。
2024年5月21日,微軟發布全新的“Copilot+PC”,這類AI PC 透過與高通的最新晶片合作,實現了一個稱為“Recall”的功能。借助這個人工智慧工具,用戶可以搜尋和回憶在PC上看到或做過的任何事情。
過去幾天,微軟「Recall」 功能確實引發了大量關注,但整體來說還是負面居多。
許多人認為這會帶來巨大的隱私風險,並可能引發新一輪為了竊取資料而進行的網路攻擊。
科技媒體The Register認為,Windows「Recall」 給人的感覺是沒有經過深思熟慮就制定出來了。
該媒體直接在標題中表明態度,指出「讓Windows Recall 記憶用戶所做的每一件事情,是一場隱私噩夢」。
微軟對「Recall」寄予厚望
人工智慧時代的PC 有什麼與眾不同?微軟的答案是Copilot+ PC,而Copilot+ PC中的主要AI功能之一就是「Recall」。
微軟表示,「Recall是讓Copilot+ PC與眾不同的關鍵部分。」 從中我們也可以看出,微軟對這個新AI工具或功能寄予厚望。
「Recall」透過每隔幾秒鐘截取一次活動視窗的螢幕截圖來運作,預設會記錄使用者在Windows中的所有操作,最長可達三個月。
這些快照將由裝置上的神經處理單元(NPU)和人工智慧模型進行分析,從截圖中提取資料。資料將保存在語義索引中,允許Windows使用者瀏覽快照記錄或使用自然語言查詢進行搜尋。
微軟承認該功能不會進行內容審核,這意味著它會捕捉到它看到的任何東西,包括密碼管理器中的密碼或您銀行網站上的帳戶號碼。或者,如果使用者在Word中撰寫機密協議,也會產生該內容的截圖。
「Recall」 的推出,對於用戶尋找文件或查詢重要的操作肯定很方便,也能大幅提升辦公效率。
有X平台網友就被「Recall」功能吸引,直接花更多錢下單買了更強大的AI PC 電腦。
但目前看這類網友還是少數。
在X 平台上,對於“Recall”功能顯而易見的好處,許多人選擇了“忽視”,更多人談論的焦點轉移到了資料安全和隱私等主題之上。
微軟向用戶承諾,Recall索引在裝置上保持本地和私密狀態。使用者可以暫停、停止或刪除捕獲的內容,也可以選擇排除特定的應用程式或網站。
但很多人還是選擇了「不信任」。
各方抨擊微軟“Recall”
“Recall”功能發布之後,喜歡用Windows 電腦的特斯拉CEO馬斯克第一時間就發表了觀點,“這簡直就是《黑鏡》裡的情節。一定要關閉這個’功能’。”
《黑鏡》是英國電視台製作的科幻電視劇,第一季曾經描繪過這樣一個場景:借助一項全光譜記憶技術,人們可以對眼睛所見的一切進行錄像,並且隨時能夠回放,備份最長可儲存30年。
「Recall」 功能利用快照記錄使用者在PC 上的一舉一動,因此馬斯克的比喻也很貼切。當然,他的言下之意是對這項「功能」的擔憂。
網路安全專家Kevin Beaumont,有時以批評微軟而聞名,也表達了對這一功能如何引發巨大攻擊的擔憂,將其比作“內置在Windows中的鍵盤記錄器。”
他在一篇新部落格文章中表示,「換句話說,如果惡意威脅行為者獲得系統存取權限,他們已經竊取了本地儲存的重要資料庫。他們可以簡單地擴展這一點,竊取Copilot的Recall功能記錄的資訊.”
X 平台上也有使用者批評「Recall」 功能是個壞主意。 “過去這被稱作間諜軟體,所以發生了什麼?”
Mozilla 首席產品長Steve Teixeira也出來表態:「Mozilla 對Windows Recall 感到擔憂。從瀏覽器的角度來看,有些資料應該保存,有些則不應該。Recall 不僅儲存瀏覽器歷史記錄,還儲存使用者在瀏覽器中輸入的數據,並且對存儲內容的控制非常粗略。
更有網友對微軟提出了靈魂拷問:真正的問題是,微軟是否會從AI Recall中本地獲取關於你和你的活動的洞察,並將這些洞察發送到雲端。他們可以對所有AI Recall用戶這樣做,同時讓他們的螢幕截圖留在他們的電腦上:-)
人工智慧專家加里·馬庫斯(Gary Marcus)則很直接:“去他…… 的。我不想讓我的電腦監視我所做的一切。繼續用我的Mac,謝謝。”
先行者Rewind 已經開始推新架構
很多人還沒有用「Recall」 功能,但卻已經開始對它「敬而遠之」。
雖然預料到了會有批評聲,但這麼多批評的聲湧過來,可能也是微軟不曾預料到的。
事實上,在微軟「Recall」之前,一款針對Mac 和iPhone 的基於GPT-4 大模型的應用程式Rewind已經上線一年多了,Windows版本目前還在開發中。
Rewind可以記錄使用者所做的一切,監聽所有會議,並讓你可以透過聊天機器人回憶起任何事情。
Rewind上線後,同樣引發了許多對於資料隱私和安全的質疑,但還是獲得了大量用戶。
本質上,「Recall」和Rewind 的功能一樣。
不過Rewind是一款第三方應用程序,而Recall 是微軟Windows 官方工具,可以和Windows 11 系統深度整合。
Rewind由Dan Siroker 於2020 年3 月成立,目前已完成兩輪共2,790 萬美元融資,估值約3.5 億美元,其投資人與投資機構包括OpenAI CEO Sam Altman、a16z 等等。
因此在微軟「Recall」發布之後,很多人也不斷在X 平台上@ Rewind AI(現在更名Limitless AI)創始人兼CEO Dan Siroker,讓他談談看法。
「這是一款與我們在一年半前推出的Rewind產品驚人相似的產品。」Dan Siroker 說,「當我們開始研發Rewind時,我們知道我們正在做的事情要么是個好主意,要么是個壞主意。我們肯定看到了這一點。
他說,模仿產品的外觀和功能很容易,困難的是模仿產品的學習過程。 “在過去的一半年裡,我們從用戶的反饋中學到了很多。”
Dan Siroker 表示,在許多方面,Rewind 和Recall 採用的方法有其限制。因此在一個月前,他帶領團隊將Rewind升級成為了一款名為Limitless的新產品,並且構建了一種名為Confidential Cloud的新型基礎架構,該架構在設計中就注重隱私保護,所有數據都加密存在這個「機密雲」之中。
根據Rewind官方解釋,用戶的一切資料都在Limitless Confidential Cloud中加密並儲存。 “Confidential Cloud的保護意味著,你的雇主、我們作為軟體提供商以及政務部門,在沒有你許可的情況下無法解密你的數據,即使有傳票要求這樣做。”
可以理解為,Rewind在本地儲存資料之外,開始提供了一個使用雲端的選擇,只不過是一種加密的雲端。
這個雲端服務剛上線不久,但Dan Siroker 說,“人們似乎真的很喜歡這樣對待資料的方式。”
值得注意的是,Rewind是第三方工具,願意使用的人才去下載,這本身就實現了使用者群體的篩選。
但是微軟「Recall」功能是Windows 11系統功能的一部分,並且它預設為開啟。這種方式帶來的使用者影響,明顯會比Rewind大很多。
今天微軟「Recall」功能面臨許多輿論上的批評聲,但普通用戶對待它的真正態度,還需要內建這種功能的PC設備大規模出貨之後,我們才可以知曉。
等待它的是多數人選擇使用,還是關閉?
但最差的結果應該就是「Recall召回」吧。