一起致命車禍，再度把自動駕駛汽車推上風口浪尖。 8月14日，一篇題為《我們的”萌劍客”走了》的訃告，引發了輿論關注。 訃告中稱，”上善若水投資管理公司創始人、意統天下餐飲管理公司創始人、美一好品牌管理公司創始人林文欽先生（昵稱”萌劍客”），駕駛蔚來ES8汽車啟用自動駕駛功能（NOP領航狀態）後，在沈海高速涵江段發生交通事故，不幸逝世，終年31歲”。

▲ 林文欽駕駛的蔚來ES8汽車，圖源：新京報

8月16日晚間，蔚來官方微博發佈聲明，證實了林文欽駕駛蔚來汽車與正在作業的工程車相撞身亡。 聲明稱，8月16日下午，蔚來總部技術團隊到達莆田，配合警方及司法鑒定機關進行下一步數據讀取作業。

目前，這起事故的調查結果仍在進行中。 如果最終調查證實，事故發生時，車輛確實處於自動駛駕功能開啟狀態，將是自動駕駛引發慘劇的最新案例。

在此之前的2021年1月，一台蔚來ES8在高速公路上開啟輔助駕駛功能時，先後撞上了一名男子和一台停靠在快車道上的五菱宏光。 2020 年 6 月，一輛特斯拉 Model 3 在臺灣的高速公路上徑直撞上一輛側翻的白色貨車，事發時特斯拉處於 Autopilot 自動駕駛狀態。 再往前追溯，中國首例”自動駕駛”致死車禍發生在2016 年1月，在京港澳高速河北邯鄲段，一輛特斯拉開啟 Autopilot 自動駕駛模式，直接撞上正在作業的道路清掃車，特斯拉司機因此身亡。

此類事件的頻頻發生，恰恰為當下智慧化程度不斷提升、自動化產品層出不窮的智慧社會敲響了警鐘。

技術失靈背後，是人的失范

其實，人工智慧並非人們想像的那麼智慧。

以自動駕駛為例，雖然有大量高科技硬體產品、先進演算法加持，但卻始終無法做到像人眼一樣識別判斷物體。 目前自動駕駛的感測器主要是攝像頭、雷射雷達、毫米波雷達，三者各有特點，但均會不同程度地受到外界光線、雨霧風沙、遮擋，甚至顏色等因素的干擾，從而出現出錯誤識別或者是無法識別物體的情況。

此外，演算法作為人工智慧的中樞，其平衡拿捏也是個難題，面對外界的海量數據，演算法如何識別出危險信號？ 識別得少了，可能會釀成未及時剎車，發生碰撞的慘劇;識別得多了，在高速公路上頻頻自動剎車也相當危險。

事實上，現階段的自動駕駛都不是嚴格意義上的”自動”駕駛，而是需要駕駛員投注精力的自動輔助駕駛。 業內有個著名的”Corner case”理論，也就是說或許技術上已經解決了90%的問題，但剩下的10%的問題卻可能要花費更多的精力，且並不能保證一定解決。

而在技術並未完全成熟的情況下，許多企業卻因為急於擴大規模、衝刺銷量而進行誇大宣傳。 比如某國內知名廠商就宣傳過，開啟智能駕駛功能后，駕駛員可以在車上自拍甚至喝咖啡、吃東西（相關內容現已刪除）。

隨著「互聯網+」深入各個行業，汽車廠商們也效仿起「小步快跑、快速反覆運算」的互聯網思維，不斷推出”MVP”（最小可行性產品），將未完全成熟的產品交付給使用者，再通過後續不斷的更新反覆運算來優化和完善。

而在企業及媒體的宣傳誤導下，部分消費者出於對技術的盲目信賴，開始挑戰輔助駕駛的極限場景，在國內外的網路視頻中，時常會看到一些車主行駛過程中雙手脫離方向盤，甚至在270度彎道上以60邁速度撒手，或者在車輛高速行駛過程中躺在後排，將駕駛權和自己的生命安全完全交給自動駕駛系統。

但問題在於，手機出現故障，大不了換一個，但汽車要是出現問題，很可能會攸關生死。

不過為了規避責任，企業會通過種種手段進行安全備註，來表示自己已經履行了風險告知和提醒注意義務。

比如一些企業在大肆宣傳”自動””領航”等賣點的同時，也會在產品說明書裡不起眼之處標註，”領航輔助版本為公開測試版本””功能尚處於持續優化階段：駕駛員雙手不能離開方向盤、視線不能離開行駛道路”等等。

因此，一旦自動駕駛引發事故，駕駛員將是主要風險承擔者，企業反而能撇清責任。 比如，在前面提到的中國首例”自動駕駛”致死車禍中，經交警認定，駕駛特斯拉的司機負事故的主要責任。

技術頻頻失靈背後，恰恰暴露的是人性弱點。 既有企業急於擴張的利益驅使，也因為消費者求鮮求奇、忽視風險防範，甚至是整個社會宣傳導向偏移，只盯著”高科技”的魅力卻忽視了”高風險”的存在。

在人工智慧中，找回人的存在

“這是最好的時代，也是最壞的時代。” 用英國作家狄更斯這句話來形容當下的智慧社會再恰當不過。

一方面，人工智慧技術循摩爾定律飛速反覆運算更新，與日俱增的技術水準與實用優勢讓人類的生活品質得到空前提高。 以自動駕駛汽車、工業機器人、人工智慧輔助審判系統、外科手術機器人等為代表的一系列技成果，極大地解放了勞動生產力，並提升了人類的活動能級。

另一方面，層出不窮的惡性事件，卻讓人類逐漸成為技術風險外化和彌散的直接受害者。

除了自動駕駛，各自動化領域的機器傷人事件也是屢屢發生。

早在1978年，日本廣島一家工廠的切割機器人在切鋼板時，突然發生異常，將一名值班工人當作鋼板操作致其死亡，這是世界上第一宗機器人殺人事件;2002年，美國佛羅里達州一名患者在接受達芬奇（Da Vinci）手術機器人進行腎臟手術的過程中因主動脈被意外割破而死亡;2005年一年之內，英國發生的機器人傷人事故就高達77起 ;2000年至2013年間，美國的外科手術機器人至少造成了1391起致害事件，並導致144人死亡…….

科技的進步需要付出與投入，但這個代價不應是一個個鮮活的生命。

人們可能會問，科技前進的腳步不會停止，那麼該如何劃定紅線，來保障技術的底線安全？

我認為，一方面，要警惕人工智慧的”無人化”風險。

當人類發現技術可以解放雙手，便會愈發著迷其中，深陷技術窠臼反而落入更大的陷阱。 如廣泛使用人臉識別設備，而忽視了公共安全的人力投入;如迷信智慧診療，忽視了醫生的綜合建議;再如過度依賴審判系統，反而降低了法官判斷的權重。

事實上，人工智慧的應用絕不意味著”無人化”。 我們不能一邊廣泛宣傳警惕「人工智慧取代人類」的風險，又一邊放心地將自己的生命財產徹底交給人工智慧。 必須通過制度的約束、標準的確立，審慎決定不同領域、不同場景下的智慧化程度，並需保證在一些事關人的生命財產安全、重大公共利益的智能化系統中，是由人來掌握最終的決定權。

另一方面，明確人工智慧中”人”的責任。

隨著自動化技術的不斷提升、機器侵權事件屢屢發生，究竟要不要賦予機器以自主的法律人格，成為了業內此前討論的一個熱點。 2017年2月，歐盟通過的《機器人技術民事法律規則》提出，要賦予機器人”電子人”法律地位。 受此影響，國內也陸續有學者提出要賦予人工智慧法律人格。

但事實上，賦予自動駕駛汽車等人工智慧法律人格既不可行，也殊無必要，更是有礙於風險防範與責任承擔。 因此，必須關注人工智慧的開發者、使用者、運營者等利益相關方，壓實其主體責任。

首先要確保應用規範化，對於自動駕駛等高風險應用場景，不能未解決軟硬體缺陷之後就交付上線，等待日後應用中再優化升級。

其次要確保宣傳規範化，必須在事前就向消費者盡到明確告知義務，包括但不限於系統功能及性能限制、消費者責任、人機交互設備指示資訊、功能啟動及退出方法和條件等資訊。

就自動駕駛而言，各國已經開始紛紛行動，立法立規。 2013年，美國國家公路交通安全委員會（NHTSA）發佈了指導性檔《關於自動駕駛汽車法規的意見》，提出了對各州自動駕駛汽車立法的建議。 2020年，聯合國歐洲經濟委員會（UNECE）發佈了《 ALKS 車道自動保持系統條例》，要求汽車製造商必須滿足該法規中明確的性能要求，才能銷售配備 ALKS 的車輛，這是全球第一部針對L3 級自動駕駛量產車型的國際法規。

近期，中國的自動駕駛規範也有了新進展，工信部印發了《關於加強智慧網聯汽車生產企業及產品准入管理的意見》，從加強數據和網路安全管理、規範軟體在線升級、加強產品管理、保障措施等方面提出11項具體規定，要求加強安全管理，推動智慧網聯汽車產業高質量發展。 制度的建立健全，在智慧網聯汽車行業迅速發展壯大，但又亂象頻出的當下，無疑具有重要意義。

無論如何，即使是99%的安全性，而那剩餘的1%具體到某一個人身上，都將會是100%的生命大事。 針對當前自動化系統高度泛化的情況，必須要做到促進發展與保障安全同步規劃、同步建設，同時要明確，技術是為人類更好服務而非取代人類的原則底線。