讓 AI 不再黑箱,科技部與台大發表 XAI 可解釋性人工智慧模組 xCos

簡單來說,過去機器學習訓練出來的 AI 只能告訴你機率多少、該不該做,但無法跟你講背後的理由是什麼。例如過去的人臉辨識 AI 只能說這張照片是不是羅志祥,但今天發表的 XAI ,就能徹底說明為什麼過去下巴圓卻還能判別這張照片是小豬!
評論
▲xCos能判斷年輕跟現在羅志祥是同一人,而且能解釋為什麼會產生變化。Photo Credit:截自科技部提供之簡報
評論

本文為科技部提供之新聞稿,經 INSIDE 編審後刊載。

科技部今(11)日召開記者會,邀請臺灣大學人工智慧技術暨全幅健康照護聯合研究中心(以下簡稱臺大 AI 中心)轄下的徐宏民教授團隊,發表該團隊在科技部的支持下所開發出的可解釋性人工智慧(Explainable AI ,XAI)模組 xCos。

這組 AI 特別之處在於,模組除了具備高辨識率的人臉辨識能力外,還可有條理的解釋 AI 產出結果的原因,不僅可協助國內外相關業者開發 AI 辨識技術、明白 AI 決策建議背後的理由,更能提升人類對於使用 AI 的信任度。

世界頂尖的人臉辨識技術再精進

徐宏民教授表示,團隊過去三年透過產學合作,協助幾家軟硬體公司開發人臉辨識產品。在深度模型設計過程中會遭遇 AI 人臉辨識結果跟我們大腦直覺無法吻合的案例,不曉得判斷的依據為何。為解決這樣的問題,團隊花了一年多的時間開發了可解釋性人工智慧(Explainable AI ,XAI)模組 xCos,可以成功解釋為何兩張人臉會辨識為同一人(或另一人)的原因,提出 AI 黑盒子的決策依據、協助人臉辨識產品開發,同時 xCos 會自動留意人臉不自然的表面而專注在真實以及具辨識能力的人臉位置,進而達到偽裝人臉辨識的效果。且經過測試,就算搭配不同的人臉辨識軟體,亦能發揮同樣的功能。

▲xCos的運作原理。Photo Credit:截自科技部提供之簡報
▲另外它也能解釋謝金燕臉部的前後變化。Photo Credit:截自科技部提供之簡報

揭開 AI 的黑盒子,讓 AI 來告訴你「它」的理由

陳良基部長提到,人類總是藉由不斷的提問「為什麼」來釐清問題、尋求突破與找到答案,這也是人類科技能進步的原因。早期的 AI,是基於規則系統(rule-based system)由科學家提供各種判斷依據,讓電腦依流程判斷出結論,例如決策樹等,此方法可以輕易的回頭找出電腦產出成果的原因,具有高度的可解釋性。

近年 AI 已進步到使用深度學習等類神經網路,在快速且大量的消化各式資料後,由電腦自己訂規則,憑著數以千萬計的條件產出更高精準度的答案,但逐漸的,人們開始注意到 AI 無法詳細說明「它」做出決定的推理過程與原因,在得不到滿意的回答之前,將讓人駐足不前,不敢放心地運用 AI 解決問題,甚至質疑其決策行為。

根據資誠聯合會計師事務所 (PricewaterhouseCoopers,PwC) 指出,人工智慧具有 15 兆美元的市值,但當前的關卡就是 AI 缺乏解釋性。現階段的 AI 只看到了輸入的資料及輸出的結果,中間的判斷依據與過程難以捉摸,就如黑盒子般,倘能理解 AI 如何做出判斷,確認決策的合理性,未來才能更進一步改善與強化模型可靠性,因此,可解釋性人工智慧(XAI)成了近年來各國 AI 研究領域的趨勢之一,包括美國國防高等研究計劃署(DARPA)於 2018 年宣布投入 20 億美金推動的 AI 計畫中,AI 的可解釋性就是其中重要的一環。

可解釋性與高相容性,加速相關應用技術開發與產業提升

徐宏民教授說,這套 XAI 模組 xCos 除了可供末端的使用者了解人臉辨識結果的原因外,更可協助開發人員探究及檢視系統的運作機制,該團隊為加速技術擴散與落地應用,所研發之可解釋性 AI 模組 xCos 可與其他人臉辨識系統作相互搭配,團隊亦已將這項技術以 Open Source 方式供國內外產學研單位使用(https://github.com/ntubiolin/xcos),希望將其相關理念拓展至其他深度學習相關應用中,同時也正將 XAI 技術擴展到其他領域關鍵性的人工智慧決策系統。

例如目前的 AI 僅告知發電廠未來 1 小時是否要增加發電量,但 XAI 可以補充說明是因為預測氣候的改變或今日有特殊節慶等;AI 可以說出 X 光片是否有肺炎徵兆,但 XAI 可更進一步解釋判斷的依據以及指出病徵的位置,這些 XAI 的應用,都可強化人民對 AI 的信任,更可協助系統開發人員進一步檢視 AI 判斷是否合理,便以改善與強化 AI 模型,進而促進國內外 AI 技術與相關產業進展。

徐宏民教授團隊在科技部的長期支持下,自 2011 年便開發出第一套行動裝置上的人臉搜尋系統,之後不斷自我挑戰包括跨年紀的臉部辨識能力、偽裝人臉辨識等,前於 2018 年在全球三大電腦視覺頂尖會議之一的 CVPR 偽裝人臉辨識競賽(Disguised Faces in the Wild)中,以辨識率唯一超過 9 成之姿,技壓群雄奪下全球冠軍。

陳良基表示,科技部自 2017 年宣布人工智慧(AI)科研戰略,引導臺灣成為 AI 發展重鎮,續於 2018 年起補助臺灣四所頂尖大學成立 AI 創新研究中心,包含臺灣大學(核心技術與生技醫療)、清華大學(智慧製造)、交通大學(智慧服務)及成功大學(生技醫療)。

責任編輯:Chris
核稿編輯:Mia


Cookie 消失?試試看全新 AI 影像內容辨識:讓用戶看的內容決定看到的廣告

Google Chrome 即將淘汰幫助廣告主的工具—— Cookie ,它的離去將再一次地影響數位廣告產業。
評論
Photo Credit:<a href="https://www.shutterstock.com/zh/image-photo/ai-artificial-intelligence-big-data-internet-1075853384" target="_blank">shutterstock</a>
評論

透過GA分析進站者發現, Safari的新客數越來越多,難道這表示 iOS 的用戶數也跟著增加了嗎?注意了,這有可能是 Apple 封鎖第三方 Cookie 帶來的影響。隨著 Google 即將淘汰 Chrome 上的 Cookie ,這個幫助廣告主記住用戶受眾的小工具,將要再一次地影響數位廣告產業。

Photo Credit:驚點股份有限公司( FreakOut Taiwan )

後 Cookie 時代的廣告受眾如何鎖定?

各大廣告平台在過去幾年不斷地透過 Cookie 以及其它方式,悄悄收集使用者的用戶數據,隨著這幾年用戶的隱私權意識抬頭, Apple 與 Google 對於藉由 Cookie 辨識用戶資料的廣告投遞方式,持有不同的態度,這也將是所有廣告主的極大挑戰。當 Cookie 不復存在,要如何辨識使用者資料?

Cookie 消失了,或許會有新的數據辨識工具來取代,但是任何試圖跟蹤受眾的方式,都難以符合大眾對於保護隱私權的期望。另一方面,也極有可能無法再通過日趨嚴格的媒體監管限制。無論如何,數位廣告不能像過去一樣,無條件地使用類似 Cookie 的追蹤方式,來達到與現在同樣的廣告效果。

後 Cookie 時代內容辨識類型的廣告鎖定方式,將成為未來具指標性的投放策略。廣告與瀏覽平台或內文主題的高相關性,不僅能顯著提高受眾的互動度,更重要的是,完全不需要收集任何個人數據。

FreakOut Taiwan 不斷嘗試更友善的廣告投遞形式, 自 2016 年進入台灣市場的原生廣告,到 2020 年末引進「 Mirrors 」 AI 影像視覺內容辨識系統,都是以網路使用者的角度出發。「 Mirrors 」不需要使用傳統的受眾興趣設定,即可針對「目標受眾在觀看的影像內容」、「品牌自身競爭對手或相關指定系列產品出現的影片」來投遞 YouTube 上的影音廣告。

Photo Credit:驚點股份有限公司( FreakOut Taiwan )

AI 人工智慧影像技術突破,推動新一代內容辨識功能

傳統的內容比對廣告皆為自然語言處理 NLP 中心,基於「純文字」的比對來顯示相關廣告,如大家很熟悉的 Google AdSense 。但是,結合新興的 AI 演算和複雜的圖像辨識,已然能夠達到「影片」的內容偵測,透過增加多個比對層和基於自然語言處理 NLP 的基準定位,可深度學習並提供更精細的辨識洞察力。

舉例來說,若想要將汽車廣告投放給對汽車有興趣的人,我們要先從可能對汽車感興趣的受眾中開始推估,並且根據過去的經驗加入不同的興趣條件,最後針對素材更進一步地測試。透過 Mirrors ,我們可以讓廣告出現在有滿足特定條件的影片內,例如:在消費者觀看的影片中,出現汽車評測報告、自家品牌或競爭對手的 LOGO 、代言人等指定條件,再依照不同廣告主設定的預算判斷是否露出廣告。

藉由這樣的影像比對方式,可以更有效地根據消費者行為觸發廣告投遞條件,而不再是現行的用戶受眾數據。人的興趣是多樣且多變的,當對汽車有興趣的用戶在完成汽車的選購後,短期內將不會再瀏覽相關資訊,轉而瀏覽其他更具時效性的內容。透過消費者當下正在觀看的影片內容,取代消費者身上被貼上的數位標籤,將更貼近消費者本身的使用行為。

Photo Credit:驚點股份有限公司( FreakOut Taiwan )

Mirrors AI 影像辨識:用消費者看的內容決定廣告

2021 年台灣數位報告指出,台灣人在各網路內容服務中,最愛「網路影片」的比例高達 97.9%,遠超過 Vlog、串流音樂、網路廣播、Podcast 。

影音廣告早已是品牌經營的趨勢:根據 DMA 2019 年台灣數位廣告量統計報告指出,台灣各類型廣告中,影音廣告以 37.2% 的成長比例大幅領先奪冠。其中 YouTube 持續蟬聯台灣最常被造訪網站第 2 名(僅次於 Google ) ,在台灣各大影音平台中的觸及率及影響力不容小覷。

2021 年 FreakOut Taiwan 已與客戶合作,進行搭載新系統的 YouTube 串流內廣告投遞,在針對品牌及產品客製化的多層鎖定策略建議下,房地產廣告的 CTR 表現高於平均,並發現「人臉」群組辨識表現為佳,其中多為財經、名嘴等名人。而美妝品牌廣告 VTR 表現優異,則以品牌「 Logo 」、「人臉」群組有最出色的表現。

本文章內容由「驚點股份有限公司( FreakOut Taiwan )」提供,經關鍵評論網媒體集團廣編企劃編審。