四部門印發!算法推薦管理規定今日施行誘導沉迷、大數據“殺熟”迎終極審判?
由國家網信辦等四部門聯合發布的《互聯網信息服務算法推薦管理規定》(下稱《規定》),今日起正式施行。據《規定》,算法提供者不得設置誘導用戶沉迷、過度消費等違法或違背倫理道德的算法模型。不得根據消費者的偏好、交易習慣等特徵,利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。如違反相關規定,算法推薦服務提供者或被處以罰款等,必要時追究刑責。
近年來,算法應用在給政治、經濟、社會發展注入新動能的同時,算法歧視、“大數據殺熟”、誘導沉迷等算法不合理應用導致的問題,也在深刻地影響著正常的傳播秩序、市場秩序和社會秩序,給維護意識形態安全、社會公平公正和網民合法權益帶來挑戰。
互聯網信息服務算法推薦管理規定正式執行,意味著此前飽受爭議的算法誘導沉迷和大數據“殺熟”,迎來了終極審判?
避免被算法所“困” 劍指誘導沉迷與大數據“殺熟”
通過抓取用戶日常的使用數據,分析得出人們的行為、習慣和喜好,算法推薦技術能夠高效地洞察用戶需求,進而精準化地提供信息、娛樂、消費等各類服務。然而,在提供便利的同時,近年來誘導沉迷、大數據殺熟以及流量造假等不合理現象的頻頻出現,也正在給人們的生活帶來新的煩惱。
此前,浙江紹興胡女士通過某商旅平台訂購酒店,結賬時發現通過平台支付房費比該酒店實際房價高出近一倍,而她是該商旅平台的高級會員,本該享受8.5折優惠。胡女士懷疑商旅平台存在“大數據殺熟”的行為,於是將該商旅平台告上法庭,最終勝訴並獲得退一賠三補償,互聯網行業正式迎來“大數據殺熟”第一案。
然而在胡女士勝訴的背後,還有無數的消費者深陷“大數據殺熟”以及算法誘導沉迷中,長期無法自知自拔。據此前北京市消費者協會發布大數據“殺熟”調查結果,56.92%的被調查者表示有過被大數據“殺熟”經歷。88.32%的被調查者認為大數據“殺熟”現象普遍或很普遍,但是想進行維權則非常困難。
另有北京大學互聯網發展研究中心發布《中國大安全感知報告(2021)》顯示,有七成受訪者感到算法能獲取自己的喜好、興趣從而“算計”自己,近五成受訪者表示,在算法束縛下想要逃離網絡、遠離手機。在算法洞察消費者需求的背後,越來越多的消費者卻開始想要擺脫算法束縛。
據《規定》指出,算法推薦服務提供者向消費者銷售商品或者提供服務的,應當保護消費者公平交易的權利,不得根據消費者的偏好、交易習慣等特徵,利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。另有規定指出,算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等,不得設置誘導用戶沉迷、過度消費等算法模型。
即已施行的互聯網信息服務算法推薦管理規定,對大數據“殺熟”及誘導沉迷等算法違法違規行為進行了系統的界定與說明,並進一步指出——如違反相關規定,算法推薦服務提供者或被處以罰款等,必要時追究刑責。
專家:有利於互聯網健康有序發展
自2021年以來,隨著各類數據安全以及個人信息保護管理條例的推出,國內對於互聯網企業及算法平台等機構組織的監管管控,正變得越來越為嚴格。
2021年8月21日,《個人信息保護法》正式發布,同年11月1日正式施行。而在此之前,《數據安全法》於2020年6月發布,隨後在2021年9月1日正式施行。如今,在《數據安全法》以及《個人信息保護法》等上位法基礎上,此次《規定》再度將算法監管納入網絡綜合治理體系。
對此,中國信息通信研究院互聯網法律研究中心主任方禹進一步評價指出,“《規定》的出台是深入推進互聯網信息服務算法綜合治理的需要。這對於明確算法推薦服務提供者主體責任,著力提升防範化解算法推薦安全風險的能力,進一步促進算法相關行業健康有序發展,具有重要意義。”
另有無錫數字經濟研究院執行院長吳琦發言指出,《規定》的出台有利於推動算法推薦服務公正公平、規範透明,促進算法推薦服務向上向善和健康發展,維護國家安全和社會公共利益以及用戶的合法權益。
此外,《規定》還對,勞動者合法權益避免被算法所“困”,嚴防刷量控評影響輿論,不得利用算法推薦服務誘導未成年人沉迷網絡,應當保障老年人依法享有權益等方面做出了具體規範。對不同網絡消費群體網絡銷售、生活服務、社交娛樂、信息資訊、金融服務、雲計算應用等服務領域,均起到了重要的規範引領。
在經歷了多年的數據裸奔後,隨著算法推薦管理規定正式施行,此前層出不窮的網絡大數據“殺熟”及網絡誘導等行為,再一次迎來了法律的規範引領。(周文猛)