你知道嗎?想愚弄自動駕駛車輛,不必駭入程式內部即可達成

若你的看法是屬於懷疑或是謹慎看待自動駕駛技術的人,那你肯定對這則新聞有興趣,最近一則由美國密西根大學、華盛頓大學、石溪大學、以及加州大學所發表的研究報告指出,你很容易能夠誤導自動駕駛車輛辨識公路標誌的機能,在一則案例中,你能僅用幾張矩形貼紙來讓自動駕駛系統認為這是限速45 mph的標誌。

 

這份研究報告的關鍵是深度神經網絡(Deep Neural Networks),基本上這是一種用在許多需要編譯的裝置和系統上的程式,顯而易見,這樣的系統是自動駕駛車輛的主軸,這些車輛配置了愈來愈多種類的感知器、攝影機、甚至雷射來「看見」周遭環境,根據這些回饋資訊,系統能判定車輛前方所有事物的距離,甚至是路邊不同形狀的事物是樹還是人。

最後,這一切都有關於程式設計和演算法,非從事相關行業的人難以理解,然而,這些研究者能夠了解系統,因此他們仔細檢視這些系統的運作原理,在做這件事的同時,他們也發現在路標上貼貼紙愚弄系統的方式,更明確地說,他們調整了轉彎的標誌,讓系統誤認為這是停止標誌或新車道標誌,不過,真正可怕的是,他們僅在停止標誌上特定位置貼上一些矩形,就讓系統以為這個標誌是限速45 mph的標誌。

對電腦來說,在方向盤後方操作的人類一定會發生各式各樣的失誤,當然,這不是我們今天的主題,所以不深入討論,我們在意的是,像Audi這樣的車廠大力地在自動駕駛領域內發展,這份報告中測試的事情很可能再過不久後就會發生,針對這個問題進行改善可說攸關許多人的用路安全。