對人工智慧的擔憂通常圍繞著錯誤訊息或技術逃避人類控制的可能性等問題。然而，今天可以說更真正的擔憂是政府如何利用人工智慧以及他們對其缺陷的機構理解（或缺乏）。例如，英國政府似乎以可能被認為倉促且可能不安全的速度接受了這項技術。

根據《衛報》報道，多個英國政府機構已開始利用人工智慧，以顯著影響一般人的日常生活。該技術現在在各種程序中發揮作用，從逮捕和辦理結婚證書再到福利發放。

甚至在人工智慧成為廣泛討論的趨勢之前，警方使用臉部辨識系統就一直存在爭議。批評者長期以來一直警告其潛在的不準確性，尤其是在分析膚色較深的受試者時。這種不準確的情況在過去甚至導致了錯誤的拘留。儘管意識到這些缺點，倫敦大都會警察局仍然繼續使用臉部識別，並進行可能損害該技術的修改。

英國國家物理實驗室表示，系統在預設設定下通常會保持較低的錯誤率。然而，如果倫敦警察廳為了更快地識別嫌疑人而降低其敏感度就會導致更多的誤報。因此，系統對黑人的準確度會降低，與對白人的準確度相比，準確度低五倍。

此外，政府用於批准福利和結婚證書的基於人工智慧的工具已顯示出歧視來自某些國家的申請人的傾向。一名議員強調了近年來發生的許多福利被莫名其妙地暫停的情況，使個人處於被驅逐和極端貧困的邊緣。可疑的根本問題是工作和退休金部(DWP) 用於檢測福利詐欺的系統，該系統部分依賴人工智慧。

即使沒有大量證據表明存在欺詐行為，該工具也會不成比例地標記保加利亞國民。DWP 堅稱該系統不考慮國籍。然而，他們承認沒有完全掌握人工智慧的內部運作方式，了解到系統控制偏見的能力有限並且擔心壞人可能會操縱系統。

同樣，內政部也面臨人工智慧驅動工具的挑戰，該工具旨在識別假婚姻。雖然該系統簡化了結婚證書的審批流程，但內部評估發現了大量誤報，特別是來自希臘、阿爾巴尼亞、保加利亞和羅馬尼亞的申請人。

政府在人工智慧的部署中可能還有其他疏忽，但如果沒有相關部門的透明數據，很難找出它們。

對人工智慧限制的誤解已在其他政府和法律機構內部引發了嚴重事件。今年早些時候，一名美國律師試圖使用ChatGPT 來引用聯邦法院備案的案例，結果發現所有這些都是聊天機器人捏造的。這些案例越來越證明，人工智慧的真正風險可能更多地源於人類的濫用，而不是技術本身。