微軟修改政策禁止美國警察部門使用企業人工智慧工具
微軟已經修改了其政策,禁止美國警察部門透過Azure OpenAI 服務使用生成式人工智慧,該服務是該公司圍繞OpenAI 技術推出的全面管理、以企業為重點的服務包。週三,Azure OpenAI 服務的服務條款中增加了禁止美國警察部門”或為”使用Azure OpenAI 服務的內容,包括與OpenAI 文字和語音分析模型的整合。
![](https://i0.wp.com/static.cnbetacdn.com/article/2024/0106/4a784063bfa0299.png?w=640&ssl=1)
另外一個新的要點涵蓋了”全球範圍內的任何執法部門”,並明確禁止在移動攝像頭上使用”實時人臉識別技術”,如車載攝像頭和儀錶盤攝像頭,以試圖在”不受控制的野外”環境中識別一個人。
在條款變更的一周前,為軍事和執法部門提供技術和武器產品的製造商Axon公司發布了一款新產品,該產品利用OpenAI的GPT-4生成文字模型對來自車載攝影機的音訊進行總結。批評者很快就指出了其中的潛在隱患,例如幻覺(即使是當今最好的生成式人工智慧模型也會編造事實)和從訓練資料中引入的種族偏見(鑑於有色人種被警察攔下的幾率遠高於白人同胞,這一點尤其令人擔憂)。
目前還不清楚Axon是否透過Azure OpenAI服務使用GPT-4,如果是,更新政策是否是為了回應Axon的產品發布。 OpenAI先前曾限制透過其API使用其模型進行臉部辨識。
不過,新條款還是為微軟留了迴旋餘地。
全面禁止使用Azure OpenAI服務僅涉及美國警方,而非國際警方。它也不包括在後台辦公室等受控環境中使用固定攝影機進行的臉部辨識(儘管條款禁止美國警方使用任何臉部辨識技術)。
這與微軟和親密合作夥伴OpenAI 最近在人工智慧執法和國防合約方面的做法不謀而合。
今年1月,彭博社(Bloomberg)的通報披露,OpenAI正在與五角大廈(Pentagon)就包括網路安全能力在內的多個項目展開合作–這與該新創公司早前禁止向軍方提供人工智慧的禁令有所不同。另根據《The Intercept》報道,微軟已提出使用OpenAI 的影像產生工具DALL-E,幫助國防部(DoD)建構執行軍事行動的軟體。
Azure OpenAI 服務今年2 月在微軟的Azure 政府產品中推出,為包括執法部門在內的政府機構增加了額外的合規性和管理功能。在一篇部落格文章中,微軟政府部門Microsoft Federal高級副總裁Candice Ling承諾,Azure OpenAI服務將向國防部”提交額外授權”,用於支援國防部任務的工作負載。
微軟和OpenAI 沒有立即回覆置評請求。