白宮提出圍繞人工智能的自願安全和透明規則
白宮今天上午公佈了他們之前所描述的”人工智能權利法案”,其目的是圍繞人工智能算法的部署方式以及其應用的護欄建立原則。在根據公眾、微軟和Palantir等公司以及人權和人工智能倫理團體的反饋意見擬定的五個要點中,該文件列出了安全、透明和隱私原則,科學和技術政策辦公室(OSTP)–起草了人工智能權利法案–認為這將帶來更好的結果,同時減輕現實生活中的有害後果。
擬議的法案規定,除了對生產中的系統進行持續監測外,人工智能係統必須通過測試和與利益相關者協商來證明其安全和有效並明確呼籲算法歧視,人工智能係統的設計應保護社區和個人免受有偏見的決策。議案強烈建議,如果用戶選擇退出與人工智能係統的互動,例如在系統故障的情況下,他們應該能夠選擇退出。
除此之外,白宮提出的藍圖認為,用戶應該控制他們的數據如何被使用–無論是在人工智能係統的決策還是開發中–並以通俗易懂的語言被告知自動系統何時被使用。
最近的歷史充滿了算法失控的例子。醫院用於通知病人治療的模型後來被發現是歧視性的,而旨在淘汰求職者的招聘工具被證明主要拒絕女性求職者而偏向於男性–這是由於系統訓練所依據的數據。然而,正如Axios和《連線》雜誌在報導今天的新聞發布會時指出的那樣,白宮意識到這些時已經遲了,越來越多的機構已經在人工智能監管問題上發表了意見,包括歐盟,甚至梵蒂岡。
雖然白宮試圖”以身作則”,讓聯邦機構與自己的行動和衍生政策保持一致,但私營公司並不受制於人工智能權利法案。
在發布《人工智能權利法案》的同時,白宮宣布,某些機構,包括美國衛生與公眾服務部和教育部將在未來幾個月內發布指導意見,尋求在特定環境下限制使用破壞性或危險的算法技術。但這些步驟與歐盟正在製定的法規相比還有所欠缺,後者禁止和限制某些被認為具有有害潛力的人工智能類別。
儘管如此,像艾倫人工智能研究所的聯合創始人奧倫-埃齊奧尼(Oren Etzioni)這樣的專家認為,白宮的指導方針將產生一些影響。他告訴《華爾街日報》:”如果實施得當,[一項]法案可以減少人工智能的濫用,同時支持人工智能在醫學、駕駛、企業生產力等方面的有益應用。”