馬斯克:我曾用一件T恤騙過自家的Autopilot系統
據外媒報導,在電動汽車製造商特斯拉最新的「人工智慧日」(AI Day)上,其首席執行官埃隆·馬斯克(Elon Musk)大肆宣傳該公司在AI方面取得的成功。 在這次活動之前,特斯拉的司機輔助駕駛系統Autopilot和”全自動駕駛”(FSD)套件正面臨更嚴格的審查。
美國國家公路交通安全管理局(NHTSA)宣佈對11起與特斯拉自動駕駛相關的撞車事故展開調查。
在多位特斯拉工程師和經理帶領下進行了詳細的演示后,一位出席者問馬斯克,他是否擔心特斯拉汽車缺乏3D感測器,從而引發所謂的”對抗性攻擊”。 對此,馬斯克回答:「我們還沒見過太多這種情況。 ”
他還開玩笑地說,他曾通過向汽車展示一件印有停車標誌的T恤來欺騙司機駕駛輔助系統。 馬斯克表示:「事實上,我有一件T恤,上面印有停車標誌。 如果你在車前展示,它就會停下來。 我已經親自進行了證明。 ”
馬斯克補充說:「顯然,如果我們看到這些對抗性攻擊,那麼我們可以重新訓練汽車,讓它們注意到穿著印有停車標誌T恤的人,實際上可能不是真正的停車標誌。 ”
今年7月份,有人在Twitter上發文顯示,一輛特斯拉在高速公路上行駛時,多次將月亮誤認為黃色交通燈。 司機在Twitter上寫道:「嗨,馬斯克,你可能想讓你的團隊通過自動駕駛系統觀察月亮。 汽車認為月亮是黃色交通燈,總是想要減速。 ”
據報導,其他特斯拉車主也表示,他們的車有被看板、太陽、卡車和漢堡王的標誌欺騙的經歷。 儘管馬斯克的目標是最終讓該系統比人類司機駕駛更安全,但它目前在模仿許多人類司機下意識中採取的行動都以失敗告終。
特斯拉的「紅燈和停車標誌控制」功能於2020年初通過軟體更新發佈,目前仍處於測試階段,車主必須手動打開。
馬斯克在”AI日”活動中說:”就像路上有些人的駕駛能力各不相同一樣,但我們仍然允許這些人開車。 你不一定要成為世界上最好的司機才能上路。 ”