OpenAI ChatGPT因”幻覺”問題在歐盟又遭一起隱私投訴
OpenAI 在歐盟又遭遇了一起隱私投訴。這起投訴是由非營利隱私權組織noyb代表個人投訴者提出的,主要針對其人工智慧聊天機器人ChatGPT 無法糾正其產生的關於個人的錯誤訊息。
GenAI工具傾向於產生明顯錯誤的訊息,這一點已經有據可查。但這也使該技術與歐盟的《一般資料保護規範》(GDPR)相衝突,後者規定如何處理地區用戶的個人資料。
對GDPR 合規失敗的罰款最高可達全球年營業額的4%。對於像OpenAI 這樣資源豐富的巨頭來說,更重要的是:資料保護監管機構可以下令改變資訊處理方式,因此GDPR 的實施可能會重塑生成式人工智慧工具在歐盟的運作方式。
早在2023 年,義大利資料保護機構的早期介入曾短暫迫使ChatGPT 在當地關閉,此後,OpenAI 被迫做出了一些改變。
現在,noyb 代表一位不具名的投訴人(被描述為”公眾人物”)向奧地利資料保護機構提交了針對ChatGPT 的最新GDPR 投訴,投訴人發現人工智慧聊天機器人為他們產生了錯誤的出生日期。
根據GDPR 的規定,歐盟國家的人們對自己的資訊享有一系列權利,包括要求更正錯誤資料的權利。它說,該公司拒絕了投訴人糾正錯誤出生日期的請求,並回應說,從技術上講,這是不可能糾正的。
相反,它提出過濾或屏蔽某些提示的數據,例如投訴人的姓名。
OpenAI 的隱私權政策規定,如果使用者發現人工智慧聊天機器人產生了”與事實不符的資訊”,可以透過privacy.openai.com或發送電子郵件至dsar@openai.com提交”更正請求」。不過,該條款也提出了警告:”鑑於我們模型工作的技術複雜性,我們可能無法在每種情況下糾正不準確資訊”。
在這種情況下,OpenAI 建議使用者填寫一份網頁表格,要求它從ChatGPT 的輸出中完全刪除他們的個人資訊。
這家人工智慧巨頭面臨的問題是,GDPR 規定的權利並不是自選的。歐洲人有權要求更正。他們也有權要求刪除自己的資料。但是,正如noyb 所指出的,OpenAI 無法選擇這些權利中的哪一項。
noyb 認為,OpenAI 無法說明其產生的個人資料來自何處,也無法說明聊天機器人儲存了哪些關於人的資料。
這一點很重要,因為法規同樣賦予了個人透過提出所謂的主體存取請求(SAR)來獲取此類資訊的權利。根據noyb 的說法,OpenAI 沒有對投訴人的SAR 做出充分回應,沒有披露任何有關所處理資料、資料來源或接收者的資訊。
noyb 資料保護律師Maartje de Graaf 在聲明中對此投訴發表了評論:”編造虛假信息本身就很成問題。但如果涉及到有關個人的虛假信息,後果可能會很嚴重。很明顯,公司目前無法讓ChatGPT 等聊天機器人在處理個人資料時遵守歐盟法律。
該公司表示,它正在要求奧地利資料保護局調查有關OpenAI 資料處理的投訴,並敦促其處以罰款,以確保未來的合規性。但該公司補充說”很有可能”透過歐盟合作來處理此案。
OpenAI 在波蘭也面臨類似的投訴。去年9 月, 在一位隱私和安全研究人員投訴後,當地資料保護機構對ChatGPT 展開了調查。該投訴還指責這家人工智慧巨頭未能遵守法規的透明度要求。
同時,義大利資料保護機構仍在對ChatGPT 進行公開調查。今年1 月,該機構發布了一份決定草案,稱其認為OpenAI 在多個方面違反了GDPR,包括聊天機器人傾向於提供與人類相關的錯誤訊息。調查結果還涉及其他關鍵問題,如處理的合法性。
義大利當局給了OpenAI 一個月的時間對調查結果做出回應。最終決定仍未做出。現在,隨著又一起針對其聊天機器人的GDPR 投訴,OpenAI 在不同成員國面臨一連串GDPR 強制執行的風險也隨之上升。
去年秋天,該公司在都柏林開設了一個地區辦事處,此舉似乎是為了降低監管風險,因為愛爾蘭資料保護委員會將負責處理隱私投訴,而GDPR 中的一項機制旨在簡化對跨境投訴的監督,將投訴轉交給公司”主要設立地”所在的單一成員國當局。