如何用貼紙、噪音「騙」過 AI?佐久間淳教授來解答

熊貓變長臂猿、音樂變「Hello world.」AI 其實很好騙?
評論
▲筑波大學佐久間淳教授
評論

你有聽過 Deepfake 嗎?這套程式應用現有的機器學習技術與套件,演變到現在甚至還有人推出快速就能上手的介面服務,製造出簡易就能「換臉」的假影片。AI 機器學習的時代,不僅資安攻防出現 AI vs. AI 的態勢,還能用來欺騙人類的感官。筑波大學教授佐久間淳專精於 AI 機器學習與資訊安全領域,在今年 LINE X Intertrust 的資安大會中,展示了令人眼睛為之一亮的學界測試研究。

攻擊視覺 AI

機器學習讓電腦也能辨識影像,再透過文字描述出來,甚至辨識聲音,就能聽懂誰說了什麼話。然而機器與人類的理解畢竟不同,佐久間在此舉了著名例子,將熊貓照片疊上了雜訊,儘管肉眼無法察覺有異,但電腦就會將其辨識成截然不同的物種:長臂猿。

A_first_white-handed_gibbon_infant_born_
▲長臂猿長這樣。Photo Credit: REUTERS/達志影像

另外停止號誌加上了一些貼紙,甚至在特定區域有污損,就會被辨識為限速標誌。香蕉動點手腳就被認成烤吐司機;受試者身上放其他人的照片,就能像隱身一樣躲過專門辨識人的 AI YOLO2。

針對交通號誌攻擊,似乎在安全上更有疑慮:畢竟自駕車的未來就在眼前,使用貼紙就能讓視覺辨識 AI 將停止認成速限,非常有可能造成意外。而雖然有些混淆 AI 的「貼紙」太過顯眼,但這項研究還模仿了常見污損、蟲(蝴蝶)的遮擋,儘管這些狀況下人類還是認得出,卻能成功騙過 AI。因此在自駕車領域,也許除了影像辨識外還得以其他機制輔助。

攻擊音訊 AI

佐久間教授示範一段音樂加上人類聽不出來的雜訊,就被辨識成一段話「Hello world」。

不只是常見的影像辨識,就連音訊辨識也能透過添加一些雜音影響結果,而音訊在播放或傳遞過程很容易產生雜訊,造成 AI 辨識的誤差。所以常看到語音助理聽錯鬧笑話,或著沒講話自己就啟動,可能都是類似的現象。

攻擊人臉辨識 AI

佐久間示範,用影像生成 AI 來攻擊視覺辨識 AI。

他解釋,這就是生成對抗網路(GAN)的原理,當初訓練影像辨識,就是需要一個 AI 不斷合成影像來試錯,還有一個 AI 來評斷此影像是否正確、有多接近目標。

儘管佐久間教授帶來許多驚人的學界研究成果,但他也強調這些是在假設條件下做出的攻擊案例,有些不用取得模型(黑箱攻擊),有些則是已知模型的條件下成功(白箱攻擊),比如猜中基努李維的臉。其中不少應用市場上已可看見防範配套,舉人臉辨識來說,iPhone 以 3D 陣列感應器配合人臉辨識,就不是這次分享案例可以攻破的。

至於為什麼選擇攻擊 AI,而非建造 AI 防護的研究方向呢?佐久間淳教授苦笑坦承 AI 在安全領域「攻擊比防守容易」,可以看出 AI 辨識的弱點還很多,補洞更是苦工。

但想想,「認知」本來就不容易有標準答案,就算身為人類,都能產生藍黑/白金洋裝、Laurel/Yanny 這些差異這麼大的認知爭議,機器和人類的結論天差地遠似乎也就不那麼令人驚訝了。現在技術能做的,就是靠提升數據量與品質,並且優化演算法來讓機器的判斷更接近人類。

不過還是得感謝學界不懈地攻擊 AI 的盲點,應用上才有機會透過軟體、硬體,甚至利用配套機制進行加強防護。





成果行銷「直播五力」展現一條龍製播能量,《蠟筆小新》遊戲直播創下 98% 有效廣告曝光

疫情帶動宅經濟。各種遊戲開箱試玩,甚至實體記者會逐漸改以直播形式,也讓直播市場邁向紅海,MarTech 廣告技術服務商 成果行銷有限公司(SalesFrontier),成立「冰果影室」影音製作團隊,聯手遊戲代理商「傑仕登」,示範直播操作如何叫好又叫座!
評論
Photo credit:成果行銷SalesFrontier
評論

這幾年全球因疫情帶動宅經濟,三級警戒在家打電動、玩手遊被稱為「積極抗疫分子」。各種遊戲開箱試玩,甚至實體記者會逐漸改以直播形式,也讓直播市場邁向紅海,許多遊戲原廠、代理商都在問,該怎麼做,才能用直播創造口碑效益,帶動買氣,搶抓電玩迷的眼球?

台灣首屈一指 MarTech 廣告技術服務商成果行銷(SalesFrontier),成立「冰果影室」直播團隊,立刻引起市場矚目。今年聯手《蠟筆小新 我與博士的暑假 ~永不結束的七日之旅~》中文版遊戲代理商「傑仕登」,在一小時的直播當中,創下 98% 有效廣告曝光、觀看直播廣告超過 30 秒達 27 萬人次,示範直播操作如何叫好又叫座!

傑仕登看準成果直播專業能量,還原遊戲現場、聲優造勢強化討論度

隨著媒體平台屬性分眾化、廣告格式多元化,品牌主對整合行銷的想像多了一份天馬行空。事實上,過去成果與傑仕登在數位廣告領域培養合作默契,因應本次《蠟筆小新》主題活潑、玩家年輕化,成果大膽提案 LIVE 放送形式,找來中文配音聲優助陣,並搭配自身在程序化直播的優勢,不僅讓客戶買單,更為成果在直播服務贏得好口碑。

Photo credit:成果行銷SalesFrontier

成果行銷執行長陳建勳(Peter Chen)表示,「這次與傑仕登合作過程,前期來回密切溝通培養默契,才能讓後續的節目企劃、內容發想、到第一線執行,客戶對我們充分授權。」

確實,一場高質感、有話題性的直播,執行端必須獲得客戶的信任,才能好好施展拳腳、大玩創意。從脚本策劃、遴選實況主來賓、軟硬體技術整合、到直播廣告投放,成果一條龍包辦各個環節之外,這場活動更有幾項讓人津津樂道的亮點。

「遊戲產業非常著重氛圍營造,因此我們這次還原 2D 遊戲場景,搬到直播現場打造沉浸式感受,加上找來中文配音的聲優老師,等於為直播『聲光效果』增添雙重感受,」成果行銷業務總監黃嘉偉解釋。

場景布置不就是找廠商輸出圖檔,非常簡單啊?錯了!光是要把 2D 線條轉化成 3D 結構,就需要事先做場地丈量、繪圖尺寸確認;更不用說素材因牽涉 IP 版權,把虛擬變成現實,還要與日本遊戲原廠洽談。以及與實况主、聲優老師的對稿、確認節目橋段,各項環節要相互搭配又要做到盡善盡美,可說是「魔鬼藏在細節裡」。

Photo credit:成果行銷SalesFrontier

成果精準掌握「直播五力」,原來一場直播仰賴這麼多項專業

受惠疫情獲得練兵機會,成果持續優化服務能耐,精準掌握「直播五力」也就是「企劃力、轉播力、溝通力、投放力、數據力」幾項關鍵元素,累積出一套直播成功學。成果行銷節目企劃孫宇澤分享他們如何發揮直播五力,無縫融入本次《蠟筆小新》 LIVE 活動。

首先是企劃力,在講究速食直播的趨勢,成果更渴望「同中求異」也就是針對客戶的不同產品、目的需求,提供差異化的企劃形式。從腳本方向、調性節奏、動畫字卡、到主持人來賓挑選,在在考驗能否能因應 TA 屬性及主題,呈現客製化提案。

至於轉播力,本次直播跳脫既有一兩機拍攝模式,因應現場來賓人數眾多,為了提升互動性,成果以三機拍攝同時搭配 GoPro 攝影機,媲美實境節目風格,讓畫面角度更豐富。孫宇澤接著說「別小看溝通力的重要!」這次他們與台灣代理商、日本原廠多方討論,每項內容都需要送審、修改,更仰賴團隊的專業判斷,快速抓住客戶訴求,減少來回對焦時間。

投放力更是成果的強項,十多年來與媒體夥伴培養的好默契,在操作主動式線上直播廣告(live streaming ads)投放過程,成果精準抓到主題特性,在對的時間、對的媒體投放給潛在受眾。於是,這次直播共創下 88 萬次廣告曝光,並與 27 萬人次進行深度溝通。

一場直播除了擴大觸及廣度,品牌主也想運用「數據驅動決策」,優化直播後的長尾效益。Peter 回應,「冰果影室的直播服務,是利基於 MarTech 廣告規劃的一環,因此我們在年初推出自己的 Chatbot 工具結合數據分析,幫助客戶掌握數據培養流量池,並實際提升市場經營或產品導購的實際成效。」

Photo credit:成果行銷SalesFrontier

成果持續「紮根」與「進化」, 勇敢在「疫數時代」強化核心競爭力

因為直播五力,成果陸續在其他產業創下佳績,黃嘉偉分享另外一項成功案例。全家便利商店想在 LINE 渠道做開箱、導購直播,讓更多潛在消費者了解最新上市產品。於是,不論是棚內直播或出外景做行動直播,成果都能因應全家便利商店的需求,在硬體、脚本、互動環節完整配合,讓線上銷售數字節節升高,線上觀看次數屢屢突破 40 多萬人次。

經典文學名著《雙城記》寫道:「那是最好的時代,那是最壞的時代;那是智慧的時代,那是愚蠢的時代…」如今站在疫情加上數位轉型的時刻,能在危機當中創新,將能成為市場的最後贏家。

Peter 分享這幾年的觀察,他說「這是很好的沉澱時間點,身為 MarTech 技術公司,我們看到客戶需求隨著環境不斷變化,也促使成果行銷必須衍生出新的技能;另外我們與媒體夥伴累積十多年深度信任,得以實驗創新的廣告形式,讓直播成效輔佐廣告代理,雙邊加乘找到新穎的服務模式。」

確實,觀察這幾年成果的發展路徑,不僅專精程序化廣告操作,還具備活動企劃以及專案執行的能力;持續紮根 MarTech 技術深度,同時又拓展服務價值鏈廣度,兼顧感性與理性服務,滿足「疫數時代」之下客戶的多元需求。