“演算法取中”監管:”閾值”最終應回到勞動力市場驗證
對演算法的監管,有了最新的嘗試。 7月26日,市場監管總局、國家網信辦等七部門聯合發佈《關於落實網路餐飲平臺責任 切實維護外賣送餐員權益的指導意見》(簡稱:指導意見),其中提到不得將”最嚴演算法”作為考核要求,通過”演算法取中”等方式,合理確定訂單數量、準時率、在線率等考核要素,適當放寬配送時限。
何謂「最嚴演算法? 如何做到「演算法取中」?
對此,澎湃新聞記者專訪了上海人工智慧研究院技術總監沈灝。
沈灝介紹,演算法指的是在大數據的支援下,通過不斷獲取最優解,提高整個系統的效率。 在很多場景下,演算法及其所代表的人工智慧技術,正成為人們的輔助工具,大幅提高了工作效率。 “近年來我們一直在強調人工智慧倫理,以人為本地把演算法作為勞動者的助手,而不是對手。”
但在外賣行業,演算法存在特殊性——演算法與勞動者緊密相關,它用純理性的結果,為勞動者訂立考核標準。 沈灝指出,本質上最嚴演算法和演演算法取中沒有特別嚴格的定義,”不斷刷新最優解作為新的衡量標準來使用,可理解為最嚴演算法。
去年人物雜誌《外賣騎手,困在系統裡》一文,引發了大眾對”最嚴演算法”的擔憂。 文章描述了支撐外賣系統運行的智能演算法,為”實現勞動價值的最大化和高效化”,不斷壓縮外賣騎手的送餐時間,繼而引發交通安全等系列問題。
在這一背景之下,如何讓演算法更具人性化,成為各方關注的焦點。 在沈灝看來,此次的指導意見,意義在於給出了明確的方向,”明確不得將最嚴演算法作為考核的要求,就像不能把奧運冠軍的水準作為普通人的考核標準。 ”
摒棄最嚴演算法作為考核要求后,指導意見提出了通過「演算法取中」等方式,合理確定考核要素。 沈灝指出,演算法取中是一個相對模糊的概念,很難定量,通常是設置一個適當的閾值來進行技術實現。
判定閾值設定是否合理,”(需要)接下去需要針對各個業務領域大量地調研,深入每個場景,最終制定一個相對有量化指標的實施方案,有理可據地去對企業的演算法做監管。 ”
“建立一套評價標準體系,有了標準之後,才可以比較定量地去處理演演算法和勞動者之間的關係。” 沈灝表示。
要求「演算法取中」在技術上實現的難度不大,更考驗的是”企業管理層如何平衡企業利潤和大眾預期。 ”
“企業的運行效率短期肯定會受一定影響。 因為演算法本身提供了非常理性的結論,企業按照演算法提供的結論去做,理論上可以達到最高的效率。 “沈灝說。” 但這只是一個純理性的結果,長此以往會引發更多的問題,從別的角度影響企業的運行效率。 但把時間軸拉長,更有戰略眼光、更有社會責任感的企業,能夠在勞動者的幸福感和企業運行效率之間找到平衡點,使之成為企業持續發展的勢能。 ”
在意見提出后,如何真正將「演算法取中」落實,首都經濟貿易大學勞動經濟學院副教授、中國新就業形態研究中心主任張成剛曾向澎湃新聞記者表示,政府可以成立專業機構,來做演算法的審查測試,更直接的辦法是對勞動力市場運行結果做監測。
作為技術領域的專家,沈灝也認同這一做法。 “它是傳統方式,也是很有效的方式。 因為對演算法本身來說,可能就是程式師調一個值的的問題,到底調50%還是調80%,數值對應的依據和結果分別都是什麼,最後還得回到勞動力市場,去印證50%或者80%是否合理。 ”
對演算法的監管,是數字經濟治理的重要一環。 《關於落實網路餐飲平臺責任 切實維護外賣送餐員權益的指導意見》出臺的一個背景是,2020年12月,中共中央印發了《法治社會建設實施綱要(2020-2025年)》。
在依法治理網路空間一節,實施綱要提出,制定完善對網路直播、自媒體、知識社區問答等新媒體業態和演算法推薦、深度偽造等新技術應用的規範管理辦法,以及加強對大數據、雲計算和人工智慧等新技術研發應用的規範引導。
不過,目前還有很多尚待進一步探討的問題,比如當監管部門對演算法提出要求,演算法如何接受審查,可以向誰公開,公開到什麼程度? 《指導意見》暫未做出進一步的披露。
“對於人工智慧企業來說,演算法作為主要的產品,如果全部放開,很容易被複製,不是一個能夠長期良性迴圈的模式。” 沈灝表示。