iOS中的家長控制功能被發現會Safari中審查含有”asian”的URL
iOS在Screen Time中攔截網站的方式出現了一個令人尷尬的問題,有報導稱這項內容限制措施將攔截域名中含有”亞洲人(asian)”一詞的網站。在iOS中可以設置的Screen Time規則提供了許多方法來限制iPhone或iPad的使用方式,目的是控制年輕用戶如何享受設備。雖然用心良苦,但該系統的部分內容似乎政治不正確,需要蘋果公司注意。
週四,iOS開發者Steven Shen在推特上聲稱,Screen Time內容限制部分下的”限製成人網站”選項給任何試圖通過Safari訪問URL中包含”亞洲人”一詞的網站的人帶來了問題。
雖然內容過濾器不允許訪問使用該詞的URL,但《獨立報》報導稱,同樣的阻止不會發生在其他術語上,如訪問帶有”black”、”white”、”Arab”、”Korean “或”French”的地址時都不存在這種問題。
有觀點認為,該詞之所以被包含在內,是因為它被作為成人網站的內容類別,但實在過於簡單粗暴。例如,雖然”schoolgirl”在測試中不會觸發屏蔽,但”amateur”、”mature”、”teen”等其他類似詞彙卻如期激活了它。
Steven Shen表示,他在2019年12月向蘋果公司提交了一份報告,但問題並沒有得到解決。雖然蘋果並沒有透露它如何決定要過濾的詞語,但沈表示這”不太可能”是一個有意的決定,可能是人工智能的結果。
部署內容過濾系統通常會遭遇”斯肯索普問題”,多年來,自動系統因術語使用而阻止訪問無辜的內容,是許多問題的根源。
這並不是蘋果的內容過濾系統唯一一次出現紕漏。在iOS 12中引入的家長控制功能就曾出現過磨合問題,隨後有報導稱兒童能夠看到暴力和色情內容,同時屏蔽了性教育和性侵犯熱線的相關資源。
這不僅僅局限於文字過濾。2014年,蘋果的iTunes Radio就曾允許帶有露骨語言的歌曲流傳給那些被默認屏蔽的用戶,儘管有電台褻瀆內容過濾功能。