道路指示牌上貼個貼紙，就能把自動駕駛汽車給騙到了

自動駕駛汽車「看路」的能力可能還需要進一步提升。

一項來自華盛頓大學、密西根大學、石溪大學和加利福尼亞大學的研究顯示，欺騙自動駕駛車輛比較容易，給路牌上貼個貼紙就把系統騙了。

華盛頓大學的安全研究員 Yoshi Kohno 跟他的同事們開發了一個新的演算法 Robust Physical Perturbations (RP2)，生成一些彩色或者黑白的圖案，可以迷惑自動駕駛汽車用於記錄和分析道路信息的路標分類器（road sign classifier）。

他們用這套演算法做了兩次種方式的嘗試，使用的是家用印表機。一個是列印出了一張右轉彎的標誌，覆蓋在原有的路牌上，一個是給停車標誌用彩色貼紙貼出了 love 和 hate 兩個詞，對應的路標分類器將其都誤認為是限速 45 英里/小時（摺合 72 千米/小時）的標誌。這兩種實驗在 1.5-12 米的範圍內、5-40 度視角內都有效。

這跟自動駕駛系統用使用圖像識別和深度學習演算法有關係，深度學習演算法用來研究、分類這些道路上記錄的行人、指示燈、其他車輛。圖像識別系統先記錄再分類識別，但使用演算法來研究這些道路指示牌容易出現問題。

在期刊 arXiv.org 上公布的論文中，研究員們寫道：「我們認為，考慮到警告信號的相似性，一些微小的干擾就足以使分類器感到困惑。」即便是不清楚這些分類器具體的分類方式、演算法，研究員們認為，他們可以根據案例反向進行研究出一些模型來，仍然可以迷惑這些自動駕駛系統依賴的路標分類器。

修改道路指示牌是違法，但這不代表沒有人會惡意塗改。換句話說，這是一個小概率事件，但在一些人為惡意操作，或者是惡劣天氣下，這種情況仍然可能會發生。

這不是自動駕駛系統第一次出現潛在的隱患。此前沃爾瑪自動駕駛項目 Drive Me 的技術總監戴維·皮克特承認，當澳洲的袋鼠跳到空中時，他們在測試的自動駕駛汽車會判斷袋鼠跟車的距離拉開，可能沒法及時調整車速，最終可能會導致碰撞事件。

現在看起來，在識別路牌上，自動駕駛汽車暫時還沒有人眼好用。

題圖來自：維基百科

喜歡這篇文章？去 App 商店搜 好奇心日報 ，每天看點不一樣的。