作者：Kevin2600@星輿實驗室
本文為作者投稿，Seebug Paper 期待你的分享，凡經采用即有禮品相送！ 投稿郵箱：paper@seebug.org

0x00 前言

大家好, 我是星輿車聯網實驗室Kevin2600。星輿取 “星辰大海, 輿載萬物”之意, 是專注于車聯網技術研究, 漏洞挖掘和工具研發的安全團隊。團隊成員在漏洞挖掘, 硬件逆向與AI大數據方面有著豐富經驗, 連續在GeekPwn等破解賽事中斬獲獎項, 并獲眾廠商致謝。團隊研究成果多次發表于DEFCON等國內外頂級安全會議。

筆者之前有幸參觀了2020北京國際車展, 展會主題是“軟件定義汽車”. 幾乎每個參展車企都推出至少一款智能汽車. 而最能體現智能汽車的一個功能就是自動駕駛. 從小鵬; 蔚來到特斯拉均以其擁有自動駕駛作為宣傳熱點. 除了傳統車企, 很多互聯網背景的公司也紛紛入坑. 2020年10月百度宣布即日起，在北京全面開放自動駕駛出租車（Robotaxi）服務. 這是百度的無人車Apollo繼長沙; 滄州后該項服務常態化的第三個城市.

百度表示Apollo目前水平已經達到L4級別. 這意味著在特定的道路環境中，Apollo可以獨自完成全部駕駛任務. 作為租憑業務的老大滴滴也同樣在自動駕駛領域發力. 傳統電商企業也不甘示弱, 諸如京東等企業也紛紛布局自動駕駛領域, 測試自己的無人配送貨車. 于是一夜間自動駕駛似乎成為了比拼各大企業技術實力的標準之一。作為業界翹楚的特斯拉甚至宣稱它們的FSD 自動駕駛解決方案比人類駕駛員還有要安全9 倍。

那么問題來了這些自動駕駛安全性能究竟如何? 這是安全研究人員和大眾非常關注的問題. 無獨有偶在2020年10月24日的GeekPwn2020新基建安全大賽上, 白帽黑客利用自制的雷達干擾設備, 成功欺騙毫米波雷達使自特斯拉"致盲" 徑直撞向前方障礙物.

0x01 ADAS科普

為了方便理解文章后面的攻擊目標, 我們先來了解下自動駕駛以及ADAS高級駕駛輔助系統的基礎知識吧. ADAS 俗稱 Advanced Driving Assistance System 高級駕駛輔助系統. 包括了緊急制動系統、車道保持系統、駕駛員監測系統等功能在內的ADAS功能，能夠有效的解決上述問題，從而降低事故的發生率。換句話說ADAS就是利用安裝在車上的各式各樣傳感器收集數據，并結合地圖數據進行系統計算，從而預先為駕駛者判斷可能發生的危險，保證行車的安全性

ADAS 按具體功能又可以分為：提示預警類、控制類、網聯類。網聯類ADAS功能是隨著智慧交通、智慧城市、車輛智能網聯技術的發展而出現的高級輔助駕駛功能，目前尚在不斷拓展完善。 ADAS功能主要包括：ACC、AEBS、LDW、DMS、FCW、盲區監測等。通過激光, 毫米波雷達和攝像頭系統的協作，ADAS能夠在特定條件下識別前車、靜止障礙物以及路面上的各種行人狀態，如迎面而來、橫穿馬路、走在路上或突然停下的行人等 。

所以說自動駕駛是為了提供更加方便安全的駕駛體驗而生的。這里來看兩個特斯拉的自動駕駛視頻, 更直觀的感受下吧。

視頻1 特斯拉自動駕駛 - 召喚功能

(https://v.qq.com/x/page/i3300toi870.html)

視頻2 特斯拉自動駕駛 - 泊車功能

(https://v.qq.com/x/page/o33000d839q.html)

0x02 ADAS攻擊原理

事實上在自動駕駛安全研究上, 已有不少團隊做了相關研究. 其中比較有趣的是由以色列本.古李安大學的研究員做的幻影攻擊。其實所謂的幻影攻擊就是使用投影儀在物體表面投影出人像或汽車的圖像, 以其達到欺騙自動駕駛汽車攝像傳感器的效果。

雖說自動駕駛汽車都有多傳感器的數據融合設計, 由于現實世界場景的復雜性，并且涉及到生命安全, 很多廠商比如特斯拉抱著寧可誤報絕不漏報的原則, 物體檢測算法的閾值設置的相對寬松, 而這也帶來了負面的效果, 如上圖中特斯拉竟把遠處的月亮識別成了交通燈, 巴士廣告上的人像識別成了真人。大多數讀者可能會覺得很搞笑, 但是如果攻擊者濫用這種特性進行惡意攻擊, 帶來的可怕后果就不樂觀了。 如下圖本.古李安大學的研究員成功通過投影儀欺騙了特斯拉, 使其將投放的人像誤認為真人從而自動剎車。

0x03 ADAS攻擊實戰

本著實戰出真理的原則, 筆者也分別針對理想ONE 和特斯拉Model X 倆款汽車的ADAS系統進行了幻影攻擊復現測試。 結果可喜可憂, 目前的L2自動駕駛很容易欺騙成功. 不過幸運的是欺騙的條件相對苛刻. 因為大多數時候攻擊只能在夜晚進行且對攻擊角度也有苛刻的要求。以下是攻擊測試視頻, 第一個視頻理想汽車ADAS欺騙, 注意這還是在大白天, 攻擊卻依舊成功。(https://v.qq.com/x/page/g3300i5r9hu.html)

第二個為特斯拉ADAS欺騙視頻 (https://v.qq.com/x/page/s33001cu5of.html)有意思的是大家可以看出其識別算法并不區分人類的具體性別, 事實上通過調整投放物體的大小, 特斯拉分別將美女圖像識別成了小轎車或卡車等物體。

0x04總結

目前全球范圍內發生了多起跟自動駕駛相關的交通事故. 大家一定要清醒的認識到目前所謂的自動駕駛, 大多只是 L2 級別輔助駕駛。行駛過程中駕駛員必須隨時關注道路并接管，但還是有很多人無視這一現實情況, 人類社會對于新技術的一大挑戰, 就是技術本身還沒有準備好, 人類卻高估了技術能做的事情。曾經轟動一時的 “自動駕駛殺人案” 在2020年有了初步判決結果. 檢察官表示坐在駕駛位的安全員被控過失殺人罪. 但她所在的公司 Uber 在這起事件中不會面臨刑事指控. 這是全世界范圍內第一起自動駕駛汽車撞人致死的交通事故. 這起事故本身反映的問題更值得我們思考, 人與機器共同犯下的錯誤, 要由人來承擔所有罪過嗎？

馬斯克在2020 年10月發推宣布，特斯拉將給部分用戶推送完全自動駕駛(FSD)測試版軟件. 這不僅僅是簡單的功能更新, 而是對基礎架構進行了重寫. 用戶可以從家到公司全程開啟，幾乎不用干預. 新增功能可以讓特斯拉識別交通信號燈和停車標志并做出反應. 但很快有用戶發現在某些場景下, 特斯拉的表現并不盡人意. 其將畫有圓圈的旗桿識別成了交通信號燈. 顯然特斯拉及所有車企的終極目標是實現 L5自動駕駛, 但從目前來看能走多遠仍是一個未知數。不過筆者認為未來絕對可期. 真正黑客精神也正是如此, 一次又一次挑戰不可能, 從而推動人類社會進步。

Paper 本文由 Seebug Paper 發布，如需轉載請注明來源。本文地址：http://www.bjnorthway.com/1736/