最近，內華達州將成為第一個使用人工智慧技術為失業救濟金上訴提供建議的州，這也是生成式人工智慧被用於人工智慧可能不應該被用於的用途的最新實例。由於這些系統容易出錯、出現偏見和幻覺，人們對此舉的擔憂是可以理解的。事實上，法院可能無法推翻基於人工智慧錯誤的裁決，這加劇了人們的擔憂。

根據Gizmodo報導，內華達州的Google生成式人工智慧系統將在未來幾個月內推出。它的功能將是分析失業上訴聽證會的記錄，並向做出最終裁決的人類提出建議。

內華達州就業、培訓和康復部（DETR）向Google支付了138.3838 萬美元的人工智慧技術費用，該技術使用的是Google雲端服務Vertex AI Studio。它將根據失業聽證上訴和裁決的記錄產生建議，並將這些資訊與先前的案例進行比較。

引入該系統是為了加快上訴程序。 DETR 的資訊科技管理員卡爾-斯坦菲爾德（Carl Stanfield）說，員工撰寫一份裁決書平均需要三個小時。在某些情況下，人工智慧系統將把時間縮短到五分鐘。這對內華達州尤其有幫助，該州因疫情期間失業申請人數增加而積壓了4 萬多份申訴。

當然，這樣做的不利之處在於，生成式人工智慧仍然會因為胡編亂造而臭名昭著。 DETR 表示，人工智慧提出的建議將由至少一名人工審核。如果該人同意，決定將被簽署。如果他們不同意，文件將被修改，該機構將對發生的事情進行調查。

DETR 主任克里斯托弗-斯韋爾（Christopher Sewell）說：”沒有人工智慧[書面決定]，就不會有人類互動和人類審查。”

Google表示將與內華達州合作，”發現並解決任何潛在的偏見”，並”幫助他們遵守聯邦和州的要求”。

人們擔心DETR 的員工會感到被迫匆忙審查AI 的建議，從而更快地清理積壓案件。這一點尤其令人擔憂，因為這可能會影響索賠人對案件提出上訴的能力。

內華達州法律服務公司的資深律師伊麗莎白-卡莫納表示：”在涉及事實問題的案件中，地方法院不能用自己的判斷代替上訴裁判的判斷。這意味著法院可能無法根據人工智慧的錯誤推翻人類的決定。

儘管有這些合理的顧慮，但如果有更多的州開始使用人工智慧來幫助做出重要決策，從而加快流程，請不要感到驚訝。