特斯拉FSD系統測評:開上電車軌道,認不出停車標誌,且差點撞上行人
最近的一段時間,特斯拉的完全自動駕駛系統(FSD)似乎經常被曝出bug。最近的一次發生在春節期間:特斯拉因FSD 的’rolling stop’功能違反美國交規而召回53,822 輛汽車。即在某些標有’all-way stop’標誌的十字路口,該軟件將允許部分汽車低速前行,而不是有一個徹底停下來的動作。
當時,特斯拉表示,截至1 月27 日,它還沒有收到任何與這次召回相關的保修索賠、撞車、受傷或死亡事件的消息。因此,特斯拉首席執行官埃隆· 馬斯克在推特上表示,該功能’不存在安全問題’。
目前,特斯拉已經停用了FSD 的’rolling stop’功能,但關於此功能安全性的討論仍在繼續。與此同時,更多有關FSD 的問題開始浮出水面。
在2 月10 號的一份報導中,《華盛頓郵報》提到,他們召集了一個專家小組對特斯拉車主上傳的一些駕駛視頻進行了逐幀分析,結果顯示,特斯拉的FSD 存在根本性的弱點。專家們表示,這些問題都是不容易解決的,修補一個問題可能會帶來新的複雜性。
有的問題令人哭笑不得,比如一個右轉之後,特斯拉直接駛入了電車軌道:
他們分析的這些視頻來自YouTube,FSD 出現的更多問題包括:
- 以每小時11 英里的速度撞向自行車道護柱;
- 在即將有行人經過的斑馬線前沒有停車讓行;
- 遠距離停車;
- 爭奪方向盤的控制權;
- 無法辨認某些交通標誌。
撞上護柱
在一個晴朗的日子裡,一輛搭載了FSD Beta 的特斯拉以每小時15 英里的速度右轉通過聖何塞的一個十字路口。一條自行車道位於道路內側。然後,車就以每小時11 英里的速度撞上了自行車道的保護柱。
‘這個問題既是製圖問題,也是感知問題。作為永久性的護柱而不是臨時的圓錐體,它們應該出現在地圖上,’長期從事自動駕駛汽車開發的Brad Templeton 說。
‘至於為什麼FSD 沒有及時感知到這些護柱,也許是因為護柱的形狀和顏色不太常見,所以系統在訓練的時候沒有見過它們,’特斯拉的一位車主兼粉絲Templeton 表示。
特斯拉的超聲波傳感器有望探測到這些危險,但它們的位置(前保險槓等)可能是一個弱點。Templeton 說:’它們可能看不到稀疏的、薄的東西,比如貼紙。’
差點撞上行人
第二個例子同樣發生在聖何塞,在遇到綠燈照例右轉之後,特斯拉險些撞上一位即將過斑馬線的行人。行人看到特斯拉之後突然停了下來,特斯拉也出現了減速,但減速時已經走過了斑馬線的大半部分。
在分析了這段視頻和其他類似視頻後,《華盛頓郵報》的專家小組表示,FSD 似乎並沒有識別出人行道的標誌,也沒有預料到一個靜止的行人可能會冒險穿越馬路。亞利桑那州立大學風險創新實驗室主任Andrew Maynard 教授說:’目前還不清楚汽車是否對行人的出現做出了反應,但顯然司機受到了驚嚇。’
激光雷達技術公司AEye 首席研發官Hod Finkelstein 表示,他不相信光是攝像頭就足以在所有情況下檢測到行人的意圖,因為它們不擅長測量遠處物體的距離,並且會被汽車前燈和太陽’閃瞎’眼睛。傳統的自動駕駛汽車製造商已經將攝像頭、激光雷達、傳統雷達甚至超聲波傳感器結合起來使用。
特斯拉的軟件結合了機器學習軟件和更簡單的軟件’規則’,比如’見到停車標誌和紅燈就要停。’但正如一位研究人員指出的那樣,機器學習算法總是會學到不該學的東西。比如,如果軟件被告知’永遠不要撞到行人’,它可能會錯誤地理解成:如果行人即將被撞到,他們自己會讓開。
軟件開發人員可以創建一個’規則’,即汽車必須為行人減速或停車。但這樣一來軟件就會癱瘓,因為城裡到處都是人。所以,這最終還是一個長尾問題。
遠距離停車
在同一位司機12 月初錄製的另一段視頻中,特斯拉會在人行橫道外有行人過馬路時停下來,並且是在行人距離很遠時就開始停下來。此時,許多人類駕駛員會選擇繼續行駛。
該視頻表明,如果行人向道路方向行進,特斯拉可能會被命令減速。但一位專家提出了另一種可能性:汽車可能是因為視覺錯覺而停下來的。
在這個視頻中,特斯拉和行人之間的紅色標誌與人行道上的一棵樹重合在一起,創造了一個類似於停車標誌的圖像。今年2 月上傳的一段視頻展示了同樣的現象,表明停車標誌錯覺確實在欺騙汽車。
爭奪方向盤的控制權
當然,這些視頻中的特斯拉並沒有造成真正的危險,因為大多數情況下車主會在系統做出錯誤選擇時及時接管。特斯拉官網顯示,在使用Autopilot 和FSD 時,駕駛員必須’始終將手放在方向盤上’,並始終’保持對汽車的控制和責任’。
但有時候,接管也會出現麻煩。在另一個例子中,同一輛特斯拉正在經過一輛停在狹窄街道上的卡車,同時兩邊都停著車輛。在不確定該怎麼做時,汽車軟件會提示駕駛員接管。但此時駕駛員難以控制車輛,因為方向盤在劇烈地左右擺動。
在這個案例中,計算機系統和人類都試圖駕駛汽車通過一個狹窄的位置,幾乎沒有左右擺動的空間。在大多數情況下,司機通過向軟件試圖轉向的相反方向猛拉方向盤來接管。但是,在這種情況下,這種運動是不可能的,因此不清楚是汽車還是人在控制。由於沒有急轉彎,駕駛員無法通過轉動方向盤來重新獲得控制權,因此情況變得棘手。
認不出只有字母的停車標誌
還有一個嚴重的問題是,特斯拉的汽車沒有對’Stop here on red’(紅燈在此停車)標誌做出反應。密歇根州的一位司機Chris 在11 月發布了一段視頻,在這個過程中,他被迫踩下了剎車。
一位自動駕駛研究者表示,這種在美國道路上隨處可見的標誌會給特斯拉工程師帶來困擾。除非汽車攝像頭能夠識別出標誌上的字母,否則計算機將不得不尋找其他線索,例如箭頭標誌或畫在馬路上的白線。但這可能會在其他情況下產生問題,導致汽車在看到道路上的線條或類似箭頭標誌時錯誤地停車。
特斯拉的許多競爭對手都使用高清地圖來猜測停車和轉彎的位置,但這種策略也會引發其他問題,比如任何地圖都有可能跟不上持續變化的道路網絡。
所以,在使用FSD 大約一年後,Chris 認為汽車距離實現可靠的自動駕駛還需要十年時間。
除了自動駕駛,特斯拉最近還因為其他問題召回近58 萬輛汽車。
行人警告系統聲音被掩蓋,再次召回近58 萬輛汽車
2 月10 日,美國監管機構表示,特斯拉正在美國召回578607 輛汽車,因為行人可能無法聽到汽車駛近時所發出的必要警報聲,原因是該車的’Boombox’功能會大聲播放音樂或其他聲音。
在過去的四個月裡,特斯拉已經在美國發布了10 起召回事件,其中就包括最近兩週的4 起。美國國家公路交通安全管理局(NHTSA) 對這家總部位於德克薩斯州的公司進行了越來越嚴格的審查。特斯拉表示,目前還沒有發現任何與引發最新召回的車輛警報問題有關的撞車事故、傷亡事故。
特斯拉在2020 年12 月推出了’Boombox’,可以讓駕駛員改變汽車喇叭音,車主可以定制其他聲音來代替正常的汽車喇叭聲,還可以通過外部揚聲器播放車上的音樂,比如一邊駕車一邊在車外播放自己喜歡的歌曲。
‘Boombox’允許在車輛行駛時通過外置揚聲器播放聲音,這可能會掩蓋所需的行人警告系統聲音。美國國家公路交通安全管理局表示,他們沒有遵守聯邦機動車安全標準關於電動車輛最低音量的要求。因此,特斯拉正在召回2020-2022 款Model S、 Model X、 Model S 和2017-2022 款Model 3 車輛。
電動汽車在低速行駛時往往比汽油發動機更難及時’聽到’。根據美國國會的規定,汽車製造商必須在電動汽車以高達每小時18.6 英里(30 公里) 的速度行駛時,在電動汽車上添加聲音播放,以防止行人、騎自行車者和盲人受傷。美國國家公路交通安全管理局表示,在更高的速度下,輪胎噪音、風阻和其他因素都會掩蓋掉警報聲。
軟件更新後,特斯拉將在D、N、R 三種模式時禁用Boombox 功能。事實上,特斯拉最近的多次召回都是為了解決軟件問題。在NHTSA 對特斯拉汽車的特性和投訴提出質疑後不久,特斯拉就發生了幾起召回事件。目前,監管機構正在調查特斯拉的駕駛輔助系統Autopilot 和車載遊戲功能。
在NHTSA 的壓力下,特斯拉在2021 年1 月同意召回13.5 萬輛觸控屏可能出故障的車輛。在這種情況下,NHTSA 採取了非正常步驟正式要求召回。
特斯拉曾試圖通過OTA 更新解決這個問題,但NHTSA 在2021 年初表示,這些更新可能’從程序上和實質上都不夠充分’。
據特斯拉介紹,NHTSA 在2021 年1 月發出了信息請求,隨後的幾個月裡,雙方就這個問題召開了幾次線上會議。
特斯拉表示,到了2021 年9 月,NHTSA 升級了對此事的調查。10 月,特斯拉為用於確定Boombox 合規性的測試和基本原理進行了辯護,但在12 月的會議後,特斯拉最終同意召回車輛。