激光筆可攻擊自動駕駛車輛 對現(xiàn)AI視覺系統(tǒng)更具威脅

阿里安全專家發(fā)布了一項新研究，只要用簡單的激光筆，就可以讓 AI 模型不再有效。在這個研究中，他們設(shè)計了一種算法，可模擬光束對 AI 模型進行 “攻擊”，這種測試方法在現(xiàn)實世界中得到了驗證，且 “攻擊”極易操作，對現(xiàn)有基于 AI 的視覺系統(tǒng)更具威脅，例如基于 AI 視覺的自動駕駛。

當(dāng)不同頻譜的光束打在同一個物體上，AI 可能將該物體識別錯誤，比如將停車標(biāo)識識別成順利通行。

“攻擊 AI 遠非需要人為去制造對抗樣本，一支簡單的激光筆就可以。我們想通過這個研究揭示 AI 模型一些之前沒有被探索過的‘錯誤’，從而‘強壯’AI，讓它未來能抵擋這種‘攻擊’，也讓相關(guān)從業(yè)者重視提高 AI 模型的安全性。”阿里安全圖靈實驗室負責(zé)人薛暉說道。

除了以 “一束光”測試 AI 視覺的安全性，最近圖靈實驗室發(fā)布了多項涉及 AI 安全的研究成果，比如多項文字識別與檢測、利用自監(jiān)督建立視頻表征學(xué)習(xí)方法與提升半監(jiān)督行為檢測的算法框架、AI 樣本對抗、偽造人臉檢測、AI 對人臉與人聲匹配的雙重模態(tài)識別、視頻描述 AI 生成技術(shù)等囊括 AI“視覺”“聽覺”“大腦”“免疫性”等多方研究，這 10 項涉及 AI 安全的新一代安全架構(gòu)研究成果均被國際頂會 CVPR2021 收錄。

“在 AI 安全前沿技術(shù)上進行探索，一是為了讓 AI 更安全，二是為了讓 AI 助力安全，三是為解決具體社會問題尋找提效的新途徑。”薛暉說。

另外，薛暉還表示，安全部署要前置，無論是 AI 本身的安全，還是 AI 可以助力解決的安全問題與社會問題，這就是從源頭構(gòu)筑安全的核心理念。希望在廣闊的 AI 安全研究的新領(lǐng)域中，能有更多新生力量加入，迸發(fā)出有創(chuàng)造性和想象力的研究，最終應(yīng)用到人們的生活中，真正服務(wù)大眾，解決難題。

關(guān)鍵詞： 激光筆 自動駕駛 車輛