無人駕駛真正絆腳石是黑客 自動化造成失業恐惹眾怒

科技傳媒網訊 網易科技新聞8月23日消息，據MIT Technology Review報道，在無人駕駛卡車和計程車上路之前，製造商們需要解決一個比防撞和導航複雜得多的問題。這些車輛將不得不預見並抵禦惡意攻擊者的侵擾，這些人同時使用傳統網路攻擊手段和基於所謂「對抗性機器學習」的新式攻擊方法。隨著越來越多的人一致認為，無人駕駛汽車只需要幾年時間就會出現在城市裡（比如機器人計程車）和高速公路上，以緩解長途卡車司機的無聊感。然而，這種攻擊風險在很大程度上卻在鋪天蓋地的覆蓋報道中被忽略。

這不禁讓我想起了上世紀90年代早期推廣電子郵件的大量文章，當時這種新興電子通訊領域還未被垃圾郵件所充斥。那時，機器學習被看作是解決世界垃圾郵件問題的方案之一。事實上，今天的垃圾郵件問題在很大程度上已被解決，但我們花了幾十年的時間才實現這個目標。

目前還沒有黑客針對無人駕駛汽車發動襲擊的報道。但具有諷刺意味的是，這的確是一個問題。在20世紀90年代，互聯網初創公司開發了首批電子商務平台時，也沒有惡意攻擊者。在第一輪電子商務黑客襲擊發生之後，比爾·蓋茨（Bill Gates）給微軟寫了一份備忘錄，要求公司認真對待安全問題。結果，如今的Windows成為世界上最安全的操作系統之一，微軟每年在網路安全上的花費超過10億美元。儘管如此，黑客還是不斷發現Windows操作系統、網路瀏覽器和應用程序的漏洞。

汽車公司很可能也會經歷類似的過程。20世紀80年代設計的「CAN匯流排」(CAN bus)未能考慮安全性問題，這個失敗讓人們普遍感到尷尬，因為當時還沒有驗證的概念，現在他們似乎在關注此事。當黑客們證明，道路上的車輛很容易受到幾個特定安全威脅的影響時，汽車製造商只能通過召回並升級數百萬輛汽車的固件應對。去年7月份，通用汽車公司首席執行官瑪麗?巴拉(Mary Barra)表示，保護汽車免受網路襲擊的影響「事關公共安全」。

但迄今為止所做的努力可能正錯過下一個安全趨勢。無人駕駛汽車的開發依賴於複雜的機器學習演算法，但計算機視覺和防撞系統卻沒有被很好地理解。去年，美國卡內基-梅隆大學的研究人員證明，使用一副透明的眼鏡，並在鏡框上印上時髦的圖案，就可以擊敗最先進的人臉識別演算法。

關於這個模式的某些東西以正確方式欺騙了演算法，讓其以為自己看到了不存在的東西。首席研究員馬穆德·謝里夫（Mahmood Sharif）在電子郵件中稱：「我們已經證明，通過模仿目標人物或簡單的識別錯誤，攻擊者都可以逃避基於神經網路開發的最先進人臉識別演算法。」

2016年，美國南卡羅來納大學、浙江大學以及網路安全公司奇虎360(Qihoo 360)的研究人員證明，他們可以在特斯拉S上干擾各種感測器，使其導航系統看不到物體。

最近許多關於無人駕駛的文章，甚至忽略了可能會有積極的、有適應能力的惡意競爭對手存在，他們可能試圖讓無人駕駛車輛發生重大事故。在接受《麻省理工技術評論》採訪時，美國國家運輸安全委員會(National Transportation Safety Board)主席克里斯托弗?哈特(Christopher Hart)表示，他「非常樂觀」地認為，無人駕駛汽車將減少美國道路上的事故數量。而在討論安全問題時，哈特把重點放在了讓車輛進行道德決策的必要性上。例如，當重達36噸的卡車突然擋住汽車的路時，會發生什麼？

為什麼在明知會導致死亡的情況，依然有人想要攻擊無人駕駛汽車?其中一個原因是，無人駕駛汽車的廣泛部署將導致大量人員失業，其中有些人將會對此感到憤怒。2016年8月，福特公司首席執行官馬克·菲爾茲(Mark Fields)表示，他計劃在2021年之前在城市中推出全自動駕駛計程車。谷歌、日產和其他公司也計劃最早於2020年前推出類似的無人駕駛汽車。這些無人駕駛的計程車或運載工具可能很容易被失業的卡車司機(或Uber司機)用高功率激光指示器弄得暈頭轉向。

當被問及如何應對競爭對手的機器學習威脅計劃時，Uber發言人莎拉?阿伯德(Sarah Abboud)回應道:「我們的安全專家團隊不斷探索無人駕駛車輛的未來防禦技術，包括數據完整性和濫用檢測。然而，隨著無人駕駛技術的發展，威脅模型也在進化，這意味著今天的一些安全問題可能與真正無人駕駛環境中所處理的問題有所不同。」

只需要幾次意外事故，就能阻止無人駕駛汽車的部署。這可能不會妨礙先進的自動駕駛系統部署，但它很可能會對完全無人駕駛車輛的開發產生相當大的威懾作用。（小小）