據外媒8月7日報道,來自華盛頓大學、密歇根大學、斯托尼布魯克大學和加州大學伯克利分校的研究人員聯合發表報告稱,只需給路標貼上小小標籤,無人駕駛汽車系統的電腦識別就會出現誤判。
當前,深層神經網路程序被廣泛用於各類需要解碼解讀的系統或設備當中,也是該報告的主要研究對象。採用這一程序的駕駛系統趨向配備一系列的感測器、攝像頭甚至激光感測器對周圍環境進行探測,在自動駕駛汽車中有著至關重要的作用。有反饋表明,這個系統可以對包括距離、前方車輛、以及路邊行人等路況做出判斷。
簡言之,這一切都歸結於編程、演算法以及相關的一些原理。研究人員對這些原理十分了解,他們洞察了自動駕駛系統的工作機制,並想出通過給路標增加貼紙的辦法來影響系統判斷。研究人員調整正確的轉彎標誌后,系統便將其誤認為停車標誌或新車道標誌。甚至,當他們給停車標誌貼上幾個矩形標籤后,系統就做出了「限速45英里」的誤判。
當然,真人駕駛也會有出錯的時候。不過,當機器出錯的時候,誰該來為錯誤買單呢?