如何用貼紙、噪音「騙」過 AI?佐久間淳教授來解答

熊貓變長臂猿、音樂變「Hello world.」AI 其實很好騙?
評論
▲筑波大學佐久間淳教授
評論

你有聽過 Deepfake 嗎?這套程式應用現有的機器學習技術與套件,演變到現在甚至還有人推出快速就能上手的介面服務,製造出簡易就能「換臉」的假影片。AI 機器學習的時代,不僅資安攻防出現 AI vs. AI 的態勢,還能用來欺騙人類的感官。筑波大學教授佐久間淳專精於 AI 機器學習與資訊安全領域,在今年 LINE X Intertrust 的資安大會中,展示了令人眼睛為之一亮的學界測試研究。

攻擊視覺 AI

機器學習讓電腦也能辨識影像,再透過文字描述出來,甚至辨識聲音,就能聽懂誰說了什麼話。然而機器與人類的理解畢竟不同,佐久間在此舉了著名例子,將熊貓照片疊上了雜訊,儘管肉眼無法察覺有異,但電腦就會將其辨識成截然不同的物種:長臂猿。

A_first_white-handed_gibbon_infant_born_
▲長臂猿長這樣。Photo Credit: REUTERS/達志影像

另外停止號誌加上了一些貼紙,甚至在特定區域有污損,就會被辨識為限速標誌。香蕉動點手腳就被認成烤吐司機;受試者身上放其他人的照片,就能像隱身一樣躲過專門辨識人的 AI YOLO2。

針對交通號誌攻擊,似乎在安全上更有疑慮:畢竟自駕車的未來就在眼前,使用貼紙就能讓視覺辨識 AI 將停止認成速限,非常有可能造成意外。而雖然有些混淆 AI 的「貼紙」太過顯眼,但這項研究還模仿了常見污損、蟲(蝴蝶)的遮擋,儘管這些狀況下人類還是認得出,卻能成功騙過 AI。因此在自駕車領域,也許除了影像辨識外還得以其他機制輔助。

攻擊音訊 AI

佐久間教授示範一段音樂加上人類聽不出來的雜訊,就被辨識成一段話「Hello world」。

不只是常見的影像辨識,就連音訊辨識也能透過添加一些雜音影響結果,而音訊在播放或傳遞過程很容易產生雜訊,造成 AI 辨識的誤差。所以常看到語音助理聽錯鬧笑話,或著沒講話自己就啟動,可能都是類似的現象。

攻擊人臉辨識 AI

佐久間示範,用影像生成 AI 來攻擊視覺辨識 AI。

他解釋,這就是生成對抗網路(GAN)的原理,當初訓練影像辨識,就是需要一個 AI 不斷合成影像來試錯,還有一個 AI 來評斷此影像是否正確、有多接近目標。

儘管佐久間教授帶來許多驚人的學界研究成果,但他也強調這些是在假設條件下做出的攻擊案例,有些不用取得模型(黑箱攻擊),有些則是已知模型的條件下成功(白箱攻擊),比如猜中基努李維的臉。其中不少應用市場上已可看見防範配套,舉人臉辨識來說,iPhone 以 3D 陣列感應器配合人臉辨識,就不是這次分享案例可以攻破的。

至於為什麼選擇攻擊 AI,而非建造 AI 防護的研究方向呢?佐久間淳教授苦笑坦承 AI 在安全領域「攻擊比防守容易」,可以看出 AI 辨識的弱點還很多,補洞更是苦工。

但想想,「認知」本來就不容易有標準答案,就算身為人類,都能產生藍黑/白金洋裝、Laurel/Yanny 這些差異這麼大的認知爭議,機器和人類的結論天差地遠似乎也就不那麼令人驚訝了。現在技術能做的,就是靠提升數據量與品質,並且優化演算法來讓機器的判斷更接近人類。

不過還是得感謝學界不懈地攻擊 AI 的盲點,應用上才有機會透過軟體、硬體,甚至利用配套機制進行加強防護。





「Intel® DevCup x OpenVINO™ Toolkit」競賽總獎項上看百萬元,報名抽最新 iPhone 13

為持續推動 AI 發展與應用,英特爾首度在台舉辦「Intel® DevCup x OpenVINO™ Toolkit」AI 開發競賽,分別為注重開發實作的「實作組」與著重創新構想的「概念組」,總獎項上看百萬元,報名還有機會抽中最新 iPhone 13 及高級背包。
評論
圖片來源:Intel
評論

AI 正在改變世界,為製造業、醫療與照護、零售業、安防與智慧城市、智慧交通等各領域帶來創新的使用體驗!為持續推動 AI 發展與應用,英特爾首度在台舉辦「Intel® DevCup x OpenVINO™ Toolkit」AI 開發競賽,不但總獎項上看百萬元,報名還有機會抽中最新 iPhone 13 及高級背包。報名開始不到一個月,已吸引來自產學界超過 70 隊的社會人士與學生團隊參與,顯示台灣 AI 開發人才濟濟。

這場AI創意實作競賽以「領航AI、創造精彩」為主軸,報名徵件將於2021年10月31日晚間23點59分截止,詳情請參考活動官網

圖片來源:Intel

雙軌賽制,挑選適合大展身手的舞台

「Intel® DevCup x OpenVINO™ Toolkit」競賽採雙軌賽制,分別為注重開發實作的「實作組」(首獎 30 萬元)與著重創新構想的「概念組」(首獎 8 萬元),競賽不限主題、不限國籍與年齡,任何新創團隊、公司行號、社會人士或學生皆可以組隊參加。

參賽者透過競賽指定的開發工具 Intel® Distribution of OpenVINO™ Toolkit,此款英特爾通用型的 AI 推論(Inference)開發和部署的免費工具,可以更快、更準確地將開發結果產品化;開發人員也只需編寫一次演算法,即可跨 Intel 運算平台進行開發。

「概念組」的 AI 新手朋友可用其預訓練模型來進行專案原型的設計,還可用 Intel® DevCloud 雲端平台進行 AI 推論程式開發及測試,讓參賽者在雲端就能體驗完整的 AI開發與佈建歷程。若是 AI 好手,可報名「實作組」來與各方高手過招,挑戰完整的 Edge AI 應用原型設計,且參賽者不用自備硬體平台,主辦單位已準備好最新第 11 代 Intel® Core™ 處理器,並已安裝好 OpenVINO Toolkit 工具套件,參賽者只需專注完成創新專案的開發。

解放創意,成為炙手可熱的 AI 人才

除了硬體的支援,參賽者若於創作期間遇到問題,亦將得到全方位的協助,包括 AI 專家的顧問諮詢、線上充電課程,以及豐富的 OpenVINO 工具、學習資源及建置資源(如預訓練模型、範例程式碼等),讓開發者能快速破關。

耕耘 AI 發展刻不容緩,英特爾期待各方高手們提案報名「Intel® DevCup x OpenVINO™ Toolkit」,站上競賽舞台,不僅從中激盪想法、激發能量,成為炙手可熱的 AI 人才,更有機會成為改變世界的力量!報名徵件將於 2021 年 10 月 31 日截止,10 月 20 日前報名還有機會抽中最新 iPhone 13(一名)、高級背包(10名),詳情請參考活動官網

競賽活動聯絡人:白先生(Corey Pai)
電話:+886-2-2367-9308
電子信箱:[email protected]

本文章內容由「Intel」提供,經關鍵評論網媒體集團廣編企劃編審。