AI智能體遍布整個網絡，未來如何防止被騙？如何保護隱私？ OpenAI微軟MIT等25個機構聯手提出“人格憑證”，可以證明自己是真人，還不用透露任何個人資訊。最近半個月，全網竟被一個OpenAI的「AI爆料人」愚弄了。聽到「草莓哥」@iruletheworldmo帳號，想必大家都很熟悉，而且時不時就會刷到他的爆料貼文。

直到這週三，所有人沒有等來他預測的GPT-4o large模型，反被AI新創MultiOn創始人揭穿了身份——

「草莓哥」就是一個AI智能體。

一時間，全網許多平台發起禁止「草莓哥」的相關轉帖。

Reddit子板塊r/singularity中，已置頂禁止全員提及相關內容

甚至有的人直接「封鎖」了@iruletheworldmo。

真正的OpenAI爆料人Jimmy Apples也曾對AI智能體說的話信以為真

隨後，這個AI智能體也發起了線上投票——我是否通過圖靈測試，沒想到竟有一半多的人給了肯定的答案。

而這僅僅是一個AI。

小札曾說，「未來每個人都將擁有一個AI助理，很快就會有數十億AI智能體代表我們上網」。

如果未來某天真的實現了，人們將如何一眼辨別某個社群媒體帳號，是不是機器人？如何證明自己「真人」身份，而不用提交任何個人資訊？

來自OpenAI、微軟、MIT、UCB等25個機構的學者們共同提出了一種驗證技術－「人格憑證」（Personhodd Credentials， PHC）。

PHC可以在保護用戶隱私的同時，在網路上證明“你是你”，是一個真實存在的人類而非AI。

微軟首席科學家幕僚長表示，「在保持隱私的同時，在網路上建立人類身份，是AI時代的決定性挑戰之一」。

另一位網友表示，這項研究出現得很及時，簡直發人深省。

為什麼這麼說？

30億人資料洩露，隱私保護無解？

除了開篇「草莓哥」的案例，最近，近30億人資料洩露，席捲了整個美國，堪稱史上最大資料事件事件之一。

這其中，涵蓋了詳細的居民個人訊息，例如姓名、電子郵件、地址、電話、社保號碼、郵件地址。

更恐怖的是，地址資料可以追溯到30年前，就連去世20多年的親屬訊息，都能被挖出。

因此，一直以來，匿名是許多注重隱私的人們，採取保護自己的措施。

但有時，一些重要的驗證，不得不將自己的個人資料交出去。

目前，越來越強大的AI不斷湧現，不法分子欺詐、傳播虛假訊息的手段更加隱蔽，隨便就能擴展到更大的傳播規模。

而且，AI門檻、成本的降低，取得更容易。

隨著AI生圖/影片/聲音越來越逼真，例如在約會App上，你如何確定對方就是真人？

目前存在的解決方案，例如驗證碼，顯然不夠用，

這也意味著，傳統的人機驗證方式，正在走向失敗。

畢竟，AI在影像辨識等領域的進步，這種方法變得越來越不可靠。

而現在，極需要找到一種平衡，既能有效防止AI欺騙，又不會過度犧牲用戶的隱私和網路的包容性。

這也是，OpenAI、微軟等機構的研究人員，希望透過研究最終在實際應用中，看到的效果。

證明你是人，而非AI

正如研究員Steven Adler所述，隱私保護工具「人格憑證」（PHC），可以證明你是一個人，但不會揭示「你是哪個人」。

具體來說，「人格憑證」由兩個AI無法偽造的元素所支持：

「現實世界的驗證」與「安全的加密技術」。

也就是，無論AI變得多好，都無法逃脫這兩點。

總之，PHC就是一種數位憑證，可以讓使用者向線上服務證明，自己是真人並非AI，而且還不用揭露任何個人資訊。

這種憑證，可由一種可信機構，例如政府去頒發。

而且根據作者的定義，PHC可以是本地的或全球的系統，不一定是基於生物辨識技術。

AI智能體充斥全網，防騙最新策略

論文的兩位合著者Nouran Soliman和Tobin South是MIT的兩名在讀研究生，他們最近在MIT News的採訪中簡要介紹了這項技術，討論了其必要性、風險，以及如何以安全、公平的方式應用PHC。

「人格憑證」的必要性

雖然一提到AI，許多公眾討論的話題都是ChatGPT這樣的聊天機器人，但人工智慧的能力顯然不只如此。

網路上的AI參與表現出兩種特性：不可區分且可擴展，這促使AI驅動的欺騙行為持續增長。

AI可以在社群網路上建立帳戶、發布虛假內容、偽裝成人類，或透過演算法大規模放大某些內容，甚至進行大規模攻擊，這釋放了許多風險。

這會改變我們瀏覽社群媒體的體驗，區分複雜的AI和人類也變得越來越困難，類似於未經同意的「數位替身」問題。

「人格憑證」則提供了一個潛在的解決方案，例如用於過濾網路內容、決定接收資訊的信任程度。

什麼是人格憑證？如何確保安全性？

如同先前所述，「人格憑證」可以證明你是人類，但無需透露任何有關你身分的資訊。

作者表示，無論AI有多先進，都無法做到兩件人類能做到的事——獲得離線的現實世界中的證件，以及偽造或破解先進的加密系統。

因此，「人格憑證」結合了這兩個想法——透過密碼學實現的安全性，以及人類仍然擁有AI所不具備的一些能力，從而真正有力地證明你是人類。

要獲得“人格憑證”，使用者需要與政府發生關係，例如稅號或駕駛證，而且必須有線下參與的成分。

透過隱私技術，使用者可以證明這一事實，而無需共享任何有關身份的敏感資訊。

「人格憑證」的實作會比較容易，它所依賴的基礎設施和安全技術已經存在了數十年，例如使用郵箱帳戶等識別碼登入線上服務。 PHC可以作為這些現有方法的補充。

但是，使用者使用「人格憑證」應該是一種可選項而非必選項，服務提供者可以讓人們選擇是否使用。

作為可選項就意味著，我們還無法做到讓使用者只與真實的、經過驗證的人類進行線上互動，完全排除AI在網路上的參與。

但在網購或交易協商這類的場景中，想要確保另一方是人類實體，「人格憑證」就可以派上用場。

有哪些風險？如何降低這些風險？

其中一項風險來自於如何實施。如果一個特定實體是「人格憑證」唯一的發行人，或者係統的設計方式是將所有權力賦予一個實體，這可能會引起一部分人對於權力過於集中的擔憂。

如果你處在一個很艱難或危險的社會政治環境中，被要求去某個線下地點才能獲得人格憑證，這會比較可怕，而且阻礙了人們在線上分享資訊。

一個可能的解決方案，是設定多個「人格憑證」的發行方。

我們的論文試圖鼓勵政府、政策制定者、領導者和研究人員投入更多資源，研究不同的實施方向，並探索這項技術可能對社區產生的更廣泛影響，確保能製定正確的政策和規則。

AI的發展速度非常快，遠快於政府適應的速度。因此，政府和大公司現在就應該開始考慮調整數位系統，以便準備好證明某個用戶是人類，同時做到保護隱私和安全，這樣我們才能為AI更先進的未來做好準備。

技術介紹

「人格憑證」這項技術究竟如何實現？這篇63頁的論文能夠給出我們非常詳盡的答案。

論文網址：https://arxiv.org/pdf/2408.07892

首先，「人格憑證」以數位方式儲存在持有者的裝置中。為了確保可信度和隱私，PHC系統需要滿足兩個前提：

– 每個人只能持有一份“人格憑證”，需要定期重新驗證，以防被盜用

– 持有PHC的使用者與與服務提供者進行匿名互動。即使PHC發行商和服務供應商串通，也無法追蹤用戶的數位活動，更無法將用戶在各平台上的活動連結在一起。

PHC系統的註冊與使用流程如圖3所示：

用戶提出請求後，只需向發行方提供最少量的必要資訊。發行方負責驗證是否為人類，並確定使用者之前沒有在此註冊PHC。此外，發行方有撤回或恢復PHC的權利。

用戶在使用第三方數位服務時，可以提供PHC並經過“零知識證明”，即可完成身份驗證。

除了PHC之外，服務提供者不能取得其他額外資訊。每次證明僅限於特定應用程序，因此不同平台無法透過PHC連結到同一個用戶。

論文提出，為PHC系統設計多個發行方是較理想的實施方案。使用者可以從多個發行者中任意選擇來註冊PHC，但每個發行者只能取得一份證書，在減少大規模欺騙行為的同時保證使用者隱私。

這種PHC系統有3方面的預期優勢：

– 減少「傀儡」使用者的影響，實現真實人類的在網路上大規模的真實輸入和參與

– 緩解機器人攻擊

– 讓AI助手真正成為值得信賴用戶的代表，而非被惡意用戶操縱

同時，要讓PHC以公平、安全的方式在現實生活中實施，還必須面對以下4個面向的挑戰：

公平獲取

頻繁的PHC驗證可能導致使用過程中的摩擦和挫折感，影響對技術不熟悉的用戶，尤其是老年人的使用。還需要確保沒有PHC的用戶依舊可以使用數位服務。

自由表達

使用者可能會擔心PHC將他們的數位活動與線下真實身分相關聯，從而降低在網路上表達真實觀點的意願。

權力檢查

PHC生態系統面臨的一項重大挑戰是權力集中於少數機構，尤其是PHC發行者和大型服務供應商，他們有關PHC使用的決策將產生重大影響。

抵禦攻擊和錯誤的穩健性

與任何數位系統一樣，PHC系統容易受到多方面的攻擊和利用，例如憑證發行者、服務提供者和惡意使用者。可以考慮使用網路安全領域先前的最佳措施，例如DoS防禦，以及阻止攻擊者存取敏感記錄。

論文的最後，作者提出了下一步應該採取的措施。

首先，適應現有的數位網路體系，為人工智慧的影響做好準備。

更具體地說，我們要重新思考，AI將如何改變網路和通訊。

其次，優先考慮將「人格憑證」作為亟需解決的方案。

最後一張圖，總結了這篇論文的所有要點。

值得一提的是，為了防止網路平台以「實名制」為由過度收集訊息，公共安全部和網信辦最近推出了「網路身分證」。

只需要一部有NFC功能的手機，進行身分證辨識和人臉辨識並關聯手機號碼之後，就能得到一張虛擬的「網路身分證」。

上面的「網號」由字母和數字組成，不含明文的身份信息，可以直接用於淘寶、微信等app的實名認證，不需要再輸入姓名、身份證號等信息。

在保護個人隱私方面，大家覺得有什麼更好的解決方案？