聯合健康保險因使用缺陷醫療保險關鍵模型拒保而被起訴
美國最大的醫療保險公司聯合健康保險公司（UnitedHealthcare）因聲稱其使用了有缺陷的人工智慧模式而遭到起訴。據說，該系統錯誤地拒絕為危重老年患者提供醫療保險，並且不同意醫生的判斷。
這起向美國明尼蘇達州地方法院提起的訴訟來自兩名現已去世的男子的家人，這兩名男子需要在急性病後機構接受長期照護。這些人的家屬在他們去世前被迫自掏腰包為他們的治療和護理支付了21 萬美元。
訴訟稱，UnitedHealth 一再錯誤地拒絕支付這兩位老人的醫療索賠，他們使用的是醫療保險優勢計劃（Medicare Advantage Plans）。訴訟還稱，此類事件至少從2020 年聯合健康保險公司收購急性期後護理管理公司Navihealth 開始就一直存在。
該訴訟是在Stat News 網站對Navihealth 開發的一種名為nH Predict 的人工智慧演算法的使用情況進行調查之後提起的。該演算法用於預測患者在急性損傷、疾病或事件後將在康復中心停留多長時間。急性病後護理包括療養院和復健中心。據報道，演算法透過檢查來自600 萬名患者的醫療病例資料庫，估算出患者的醫療需求和住院時間。
訴訟稱，該人工智慧系統的錯誤率高達90%，並推翻了醫生的急性期後護理意見。訴訟還稱，nH Predict 沒有考慮到患者的個人需求，如合併症（患有多種疾病）和在住院期間感染疾病。訴訟中另一個令人震驚的部分稱，雖然只有少數患者對基於nH Predict 估計值的承保拒絕提出上訴，但其中90% 以上的上訴都通過內部上訴程序或聯邦行政法官程序被推翻。
“根據醫療保險優勢計劃，住院三天的患者通常有權在療養院居住長達100 天，”訴訟援引Stat 的調查稱。”使用nH Predict AI 模型後，[UnitedHealthcare] 只用了一小部分時間就切斷了付款。患者在療養院的住院時間很少超過14 天，然後就會開始收到拒絕付款的通知”。
NaviHealth 的前員工告訴Stat，UnitedHealth 接手後，工作重心從幫助患者轉移到了保持利潤和盡可能縮短後期護理時間。該公司的播客引用了負責監管NaviHealth 的UnitedHealth 高管Patrick Conway 的一段話：”如果[人們]去了療養院，我們如何讓他們盡快出院？”
nH Predict 至今仍在使用。UnitedHealth 的子公司Optum Health 表示：”NaviHealth 預測工具不是用來確定承保範圍的。該工具被用作一種指南，幫助我們告知醫療服務提供者、家屬和其他護理人員，病人在醫療機構和回家後可能需要什麼樣的幫助和護理。承保決定基於CMS 承保標準和會員計劃的條款。這起訴訟毫無根據，我們將積極為自己辯護。”