國家網信辦發出通知，牽頭開展“清朗·2022年算法綜合治理”專項行動，至今年年底，將重點檢查具有較強輿論屬性或社會動員能力的大型網站、平台及產品。通知中將“積極開展算法備案算法備案”作為主要目標之一。

數字經濟時代，算法的應用大大提升了數據處理的效率，但同時也出現了利用算法模型進行大數據殺熟、算法歧視、誘導沉迷、“將外賣員困在系統中”、影響輿論等有損市場秩序、不利於維護社會主義核心價值觀等不合理使用算法的負面事件。

為有效應對算法不合法或不合理使用導致的諸多問題，2022年3月1日，《互聯網信息服務算法推薦管理規定》（以下簡稱“《算法推薦規定》”）正式生效，提出了“算法備案”的新方案。

本文將從介紹全球主要的算法透明度治理模式出發，展示不同國家和地區算法治理的側重點和基本要求，並重點介紹我國算法備案製度的具體要求，同時從比較法的角度，對未來我國算法治理的新方向做簡要分析。

一、算法透明度主要治理模式之概覽

1. 歐盟：重視大型網絡平台和人工智能係統的算法透明度

2022年初，歐盟通過了《數字服務法案》，在《通用數據保護條例》的基礎上，對網絡平台尤其是超大型網絡平台的算法透明度提出了新的要求。

一方面，網絡平台應在服務條款中說明推薦算法系統的主要參數，參數信息應以清晰明確的語言作出並以易於訪問的形式公開提供；另一方面，歐盟委員會依職權要求查閱企業的算法及數據庫時，企業應提供完整的算法和數據庫並對其作出明確的解釋。

針對人工智能係統的算法透明度問題，歐盟委員會2021年4月發布的歐洲議事和理事會《關於製定人工智能統一規則》（《人工智能法案》）的提案中，將不同應用場景的人工智能係統分成四種等級：不可接受的風險、高風險、有限風險和低風險，並為了保障高風險人工智能應用的算法透明度，進行了人工智能算法登記備案（Register）的製度安排。

根據該《規則》第51條和第60條的規定，歐盟建立獨立的高風險人工智能係統數據庫，高風險人工智能係統投放市場或投入使用之前，提供商或授權代表應在其中進行登記備案，並規定歐盟數據庫中包含的信息應可供公眾訪問。

2. 美國：強調對企業和政府機構不同的算法透明度要求

針對企業，主要關注商業消費領域的算法透明度。美國聯邦貿易委員會（FTC）在文件《在公司使用人工智能中以信任、公平和平等為目標》中強調，公司應用算法應使用透明框架和獨立標準，並在使用人工智能之前和之後應定期測試他們的算法，以確保它不會基於種族、性別等進行歧視。

而在政府應用算法方面，為促進公眾接受並信任政府在決策中使用人工智能和算法技術，美國對行政機構和國防、情報部門應用算法進行詳細規範。

例如，美國行政會議（AC）在《政府機構AI使用指南》中規定，應公開確定算法流程的目標及其背後的理由，促進對機構基於人工智能的決策制定的內部或外部審查。

美國國防部（DoD）在《情報部門人工智能倫理框架》中要求確保算法透明度和可解釋性，根據情報部門的情報透明度原則，在可行的範圍內使用可理解和可解釋的方法，以便用戶、監督者和公眾酌情了解人工智能如何以及為何產生其輸出。

3. 英國、新加坡：通過透明度報告和算法審計落實算法透明原則

2021年5月21日，英國發布《在線安全法草案》，針對政府公共機構使用人工智能算法系統推出了統一的算法透明度標準，同時，該草案第49條要求平台服務的提供者就其提供的每一項服務準備年度的透明度報告，並且報告中提供的信息必須完整、準確。

2020年1月21日，新加坡個人數據保護委員會（PDPC）發布第二版《模型人工智能治理框架》，確立人工智能算法“透明”和“以人為本”的指導原則。該框架在附錄部分對人工智能算法提出了審計要求，規定如果存在發現（Discover）模型中包含算法的實際操作的必要，則進行算法審計。

該框架要求算法審計必須在對該組織具有管轄權的監管機構（作為取證調查的一部分）的要求下進行，或者由人工智能技術提供商執行，以確保算法的透明度。

4. 中國：保障自動化決策及算法推薦服務中的算法透明度

回到我國的視閾，我國強調個人信息處理者自動化決策技術應用的算法透明度。立法上，《電子商務法》《個人信息保護法》都對自動化決策進行了規定。

如《個人信息保護法》第24條要求個人信息處理者保證決策透明度、保證公平公正、實現平等交易。該條還規定了在個人信息處理者作出對個人權益有重大影響的決定時，信息主體擁有的“知情權”與“拒絕權”。

此外，2021年9月，國家互聯網信息辦公室等九部委聯合發布《關於加強互聯網信息服務算法綜合治理的指導意見》（以下簡稱“《指導意見》”）的通知，要求利用三年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規範的算法安全綜合治理格局。

該綜合監管體系主要包括五個方面，分別是算法安全風險檢測、算法安全評估、科技倫理審查、算法備案管理和涉算法違法違規行為處置。

2021年年底，國家網信辦發布《算法推薦規定》，作為我國首部以算法推薦服務為規制對象的部門規章，該規定旨在規範通過算法技術向用戶提供信息的行為，保護用戶的知情權、選擇權、拒絕權、救濟權，強化保障未成年人、老年人、勞動者、消費者在互聯網時代的權益。

其中，算法備案製度作為我國算法透明度治理的新方案，同時也是算法綜合治理格局的重要一環，尤其值得關注。

二、我國算法備案需要關注的重點問題

《算法推薦規定》首先明確規定了算法治理領域全球公認的監管原則之一：算法透明，而算法備案製度則將算法透明原則落到實處。《算法推薦規定》對算法備案製度的義務主體、應備案的算法技術、算法備案的內容、算法備案的公示、算法動態備案都進行了明確的規定，並創新性地規定了違規備案的行政法責任。

1. 哪些主體需要履行算法備案義務？

《算法推薦規定》第24條規定，需要備案的主體是“具有輿論屬性或者社會動員能力的算法推薦服務提供者”。首先，備案義務主體限定在算法服務提供者，排除了算法研發者、設計者和算法最終使用者（用戶）。其次，備案義務主體須具有輿論屬性或者社會動員能力。

根據網信辦2018年11月發布的《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》，具有輿論屬性或社會動員能力的互聯網信息服務，包括下列情形：

開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網絡直播、信息分享、小程序等信息服務或者附設相應功能；

開辦提供公眾輿論表達渠道或者俱有發動社會公眾從事特定活動能力的其他互聯網信息服務。

具體而言，微信、微博、抖音、豆瓣等應用即屬於具有輿論屬性或者社會動員能力的算法推薦服務提供者。

2. 哪些算法推薦技術需要備案？

具體而言，《算法推薦規定》規範的主要“應用算法推薦技術”包括生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等信息服務。

生成合成類主要規範內容聚合、內容自動化生成及內容合成服務，包括利用深度學習、虛擬現實等技術，製作文本、圖像、音頻、視頻、虛擬場景等信息，如語音合成、AI換臉、視頻自動剪輯、元宇宙等。

個性化推送類主要規範基於用戶畫像而進行的內容、商品或服務的個性化推送服務，如短視頻、新聞、廣告、禮包等推薦服務。

排序精選類主要規範內容服務提供者的版面頁面管理，諸如首屏、熱搜、精選、榜單、彈窗等。

檢索過濾類主要規範搜索引擎、內容檢索、內容干預等服務或行為，如搜索引擎不良信息過濾、敏感字詞識別。

調度決策類主要規範工作調度服務，諸如外賣、網約車平台等。

3. 算法備案包括哪些內容？

《算法推薦規定》規定，備案義務主體應當在提供服務之日起10個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，履行備案手續。

根據互聯網信息服務算法備案系統的指示，企業填報信息主要包括三部分：算法主體信息、備案算法信息、產品及功能信息（見下圖）。其中應注意：在產品及功能信息填報中企業須完成三個步驟，一是添加產品信息，二是添加產品功能訪問路徑，三是添加路徑下的功能信息。

通過備案後，企業還可以根據業務變化進行變更備案信息或註銷備案。

4. 變更、終止算法服務是否需要備案？

算法推薦服務提供者的備案信息發生變更的，應當在變更之日起10個工作日內辦理變更手續。企業可通過備案系統修改主體信息、算法信息、產品及功能信息，但備案信息修改後，網信部門將重新對其進行審核。

算法推薦服務提供者終止服務的，應當在終止服務之日起20個工作日內辦理註銷備案手續，並作出妥善安排。

5. 如何盡到算法服務釋明義務？

一方面，《算法推荐规定》要求算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。另一方面，完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息。

關於算法推薦服務提供者對用戶的直接釋明義務，目前主要相關平台已作出回應。算法推薦服務釋明內容基本分為兩個方面：

一是個性化內容推薦；

二是個性化廣告推薦。

且大多數平台的公示內容都位於“設置”界面和與個人信息保護有關的界面。

抖音的公示內容較為詳細。對於個性化內容推薦，抖音在《“抖音”隱私政策》中第1.5條說明了個性化推薦的功能、提供個性化推薦服務的範圍、為了預測偏好收集的信息及機器計算、推薦模型的反饋與優化。

對於個性化廣告推薦，在“設置”-“了解與管理廣告推送”部分分別介紹了程序化廣告和個性化廣告，且用戶可以分別關閉這兩種不同的廣告。

微信就個性化內容推薦服務在《微信隱私保護指引》“我們收集、使用的信息”部分第1.34條說明微信將利用收集的信息“基於特徵標籤進行間接人群畫像並提供更加精準和個性化的服務和內容”。

同時，在“設置”-“隱私”-“個人信息與權限”中設有“個性化廣告管理”，並有“了解微信個性化廣告的工作原理”一節介紹廣告投放的流程，且用戶可以關閉個性化廣告。

豆瓣在“設置”-“個人信息保護”一覽設有專門的“個性化推薦與廣告”內容，其中較為詳細地介紹了算法推薦個性化內容以及算法推薦個性化廣告的基本機制和原理。同時，用戶可以選擇關閉個性化內容推薦設置和個性化廣告推薦設置。

微博則在公示內容上較為簡略。微博在“設置”-“隱私設置”-“個人信息與權限”中簡要說明了個性化廣告推薦技術，未明確提及算法，也未對個性化內容推薦算法作出釋明，僅允許用戶關閉個性化廣告推薦和個性化內容推薦。

此外，微博在《隱私政策》文件中提及用戶的“設備信息、IP地址、位置信息、個人主頁信息以及行為信息”將用於個性化內容推薦。

綜上可知，由於目前尚處《算法推薦規定》實施的初期，暫不存在統一的執行標準，算法公示內容的詳略程度主要由算法推薦服務提供者自行把握。對於算法推薦服務者履行算法備案公示義務的標準和監管尺度，筆者也將持續關注。

6. 違規備案將面臨哪些後果？

第一，算法應該備案而未備案的法律責任。在企業未履行備案義務時，網信部門和電信、公安、市場監管等有關部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停信息更新，並處1萬元以上10萬元以下罰款。

第二，算法備案瑕疵的法律責任。具有輿論屬性或者社會動員能力的算法推薦服務提供者通過隱瞞有關情況、提供虛假材料等不正當手段取得備案的，由國家和省、自治區、直轄市網信部門予以撤銷備案，給予警告、通報批評；情節嚴重的，責令暫停信息更新，並處1萬元以上10萬元以下罰款。

第三，算法備案後的法律責任。基於算法備案的法律性質，即使算法活動經過合法備案，在其造成損害時仍應對損害承擔法律責任。監管機構對義務人提交的材料予以備案，僅代表義務人的備案行為有效，不對算法活動本身產生任何影響。若備案人利用已備案的算法損害用戶權益或社會公共利益，仍須承擔相應的法律後果，備案這一程序性的事實行為不會豁免其法律責任。

三、完善算法備案製度之展望

如前文所述，目前全球規定算法備案相關製度的國家仍然較少，主要經濟體採取事前備案方式的只有歐盟和我國。事實上，歐盟《人工智能法案》中僅特別規定了高風險人工智能算法的備案義務，但對備案的內涵、程序和意義均缺少具體規定，例如在確定哪些AI算法需要履行備案手續時是否需要考慮其本身的技術性質、應用場景、處理數據的敏感程度以及體量等。

而我國的《算法推薦規定》則在《人工智能法案》的基礎上，改進並細化了算法備案的具體規則、法律後果，並使之與算法安全評估、算法檢查彼此勾連，形成了多維一體的算法監管框架。^[1]

然而，《算法推薦規定》的頒布和生效仍只是我國算法治理的起點，尚須不斷發展與完善。

首先，對於算法備案的義務主體，未來應當進一步擴大。目前《算法推薦規定》完全針對算法服務提供者即市場主體，但未來在公共政府治理中，同樣可能需要適用工具性和人工智能算法，政府等管理機構使用算法同樣需要受到規制。

因此，應當借鑒美國對私營產業領域和公共政府領域算法的區別規制，以及英國對政府使用人工智能算法透明度的要求，未來對政府使用算法同樣實施算法備案製度，以加強算法的透明性和公眾接受度。

其次，就算法備案的範圍而言，應當採取適應算法技術發展的分類分級方式。歐盟在高風險人工智能領域設定算法備案義務，我國要求備案的“算法”並不限於深度學習算法，而是拓展到生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等五類算法。

但隨著算法更新迭代，對於特定算法類型的分類分級將減弱算法透明度治理的有效性。未來，我國或許可以藉鑑《人工智能法案》的做法，促使其向“工具性算法”和“人工智能算法”的分類和更寬泛的風險分級轉變。^[2]

再次，放眼算法監管的全流程，應當細化相關規則，促進企業履行備案義務。在算法監管的全流程中，應當對算法初始備案和動態備案規則進行細化，從而平衡算法安全和算法發展。目前《算法推薦規定》僅粗略規定了變更、終止算法服務備案的流程，但在實踐中什麼時間、什麼情況下需要變更，仍有待釋明。

此外，《算法推薦規定》僅對企業施加了算法備案義務和責任，可探索對企業採取算法備案的激勵措施，促進企業積極備案、真實備案，保障算法備案製度的良性發展。