Gartner:到2023年10%的工人會嘗試欺騙AI霸主
分析公司Gartner預測,到2023年,10%的工人將試圖欺騙雇主部署的人工智能(AI)系統,這些系統旨在追踪他們的行為和生產力。該公司表示,由于冠狀病毒推動了遠程工作的需求,雇主也在轉向人工智能,以確保工作在一天內完成。
然而,來自Gartner的Whit Andrews在對尋求部署這類技術的企業發出警告時說。
“正在考慮部署人工智能生產力監控工具的IT領導者應該在投資之前仔細研究這些工具的數據來源、用戶體驗設計和最初的使用案例。確定數據收集的目的和範圍是否支持員工做最好的工作。對於那些決定投資AI監控工作流程的人來說,通過根據一套關鍵的以人為本的設計原則進行測試,需要確保技術的實施是合乎道德的。”
不足為奇的是,使用跟踪技術來監控生產力並不怎麼受工人歡迎。Gartner的數據已經顯示,人們對追踪技術的恐懼在大流行之前似乎是不可避免的,而現在它們以更廣泛的規模出現,至少有”高比例”的工人不喜歡被追踪的想法。
該公司指出,網約車行業是一個例子,說明其他就業領域在轉向數字優先的過程中會發生什麼。該公司表示,人工智能可以被欺騙,產生虛假或混亂的數據,一些司機會同時為兩個不同的服務對象工作,以此來提高他們的收入。此外,Gartner還表示,工人會通過尋找沒有捕獲活動的指標或問責制不明確的地方來逃避AI系統的管理。