白宮今天發布了規則草案，要求聯邦機構評估並持續監控醫療保健、執法和住房領域使用的演算法，以發現潛在的歧視或其他對人權的有害影響。一旦生效，這些規則可能會迫使美國政府改變依賴人工智慧的活動，例如聯邦調查局對人臉辨識技術的使用，該技術因沒有採取國會要求的措施來保護公民自由而受到批評。新規則將要求政府機構在2024年8月前對現有演算法進行評估，並停止使用任何不符合要求的演算法。

備忘錄中說：”如果好處沒有明顯超過風險，機構就不應該使用人工智能。但備忘錄草案為涉及國家安全的模型劃出了豁免範圍，並允許各機構在停止使用人工智能模型’會對關鍵機構的運作造成不可接受的阻礙’的情況下，有效地為自己頒發豁免。”

白宮管理和預算辦公室在總統拜登簽署行政命令兩天后發布了該規則草案，該行政命令相當於一項政府範圍內的計劃，旨在同時增加政府對人工智慧的使用，同時尋求防止該技術帶來的危害。需要確保人們免受人工智慧的危害是該行政令的一大主題，其中的規定包括對大型人工智慧模型和計算集群開發者的報告要求。

擬議的OMB 規則將增加對從私人公司購買的演算法進行測試和獨立評估，作為聯邦合約的一項要求。這些規則將要求政府機構評估和監控正在使用的演算法和未來購買的演算法，以確定其是否對隱私、民主、市場集中度和政府服務的獲取產生負面影響。

備忘錄草案要求由不直接參與系統開發的人員對演算法進行測試和評估，並鼓勵對人工智慧生成模型進行外部”紅隊”測試。它還指示聯邦機構的領導人探索如何在”不帶來過度風險”的情況下使用生成式人工智慧，如OpenAI 的ChatGPT。

拜登的人工智慧行政命令要求OMB 在未來五個月內向聯邦機構提供指導。該辦公室正在就政策草案徵求公眾意見，截止日期為12 月5 日。

OMB負責管理的副主任傑森-米勒（Jason Miller）說：「該框架為聯邦機構制定了一套具有約束力的要求，以便為人工智慧的使用提供保障，從而使我們能夠利用人工智慧帶來的好處，並使公眾能夠信任聯邦政府提供的服務。”

備忘錄草案強調了人工智慧的某些用途，在這些用途中，科技可能會損害權利或安全，包括醫療保健、住房和執法–在這些情況下，演算法過去都曾導致歧視或拒絕提供服務。

OMB 草案中提到的潛在安全風險的例子包括大壩等關鍵基礎設施的自動化和Cruise 機器人軸這樣的自動駕駛汽車，後者上週在加利福尼亞被關閉，聯邦和州監管機構正在對其進行調查，因為一名行人被一輛汽車撞倒，拖行了20 英尺。在備忘錄草案中，人工智慧可能侵犯公民權利的例子包括：預測性警務、可以阻止受保護言論的人工智慧、剽竊或情緒檢測軟體、租客篩選演算法，以及可以影響移民或兒童監護權的系統。

據OMB 稱，聯邦機構目前使用700 多種演算法，但聯邦機構提供的清單並不完整。米勒說，備忘錄草案要求聯邦機構更多地分享他們使用的演算法。他說：”我們的期望是，在未來幾週和幾個月內，我們將提高各機構識別和報告其使用案例的能力。”

美國副總統哈里斯（Kamala Harris）今天在美國駐倫敦大使館發表演說時提到了OMB 備忘錄和其他負責任的人工智慧倡議，她此行是為了參加本週在英國舉行的人工智慧安全峰會。她說，雖然人工智慧決策中的一些聲音關注的是災難性風險，例如人工智慧有朝一日可能在網路攻擊或製造生物武器中發揮作用，但偏見和錯誤訊息已經被人工智慧放大，每天都在影響著個人和社區。

即將出版的一本關於人工智慧採購政策的書的作者、非營利組織人工智慧與數位政策中心（Center for AI and Digital Policy）總裁梅爾-希科克（Merve Hickok）對OMB備忘錄要求各機構證明其使用人工智慧的合理性，並指定專人負責這項技術表示歡迎。密西根大學（University of Michigan）講師希科克（Hickok）說，這是一種潛在的有效方法，可以確保人工智慧不會被強加到每個政府計畫中。

但她擔心，提供豁免可能會破壞這些機制。她說：「如果我們開始看到各機構廣泛使用這種豁免權，特別是執法、國土安全和監控機構，我會很擔心。一旦他們獲得豁免，就可能是無限期的」。