創業者必讀!Trustable AI 最新規範懶人包

開發者有意或無意的決定,都可能造成難以預期的結果,也因此,「可信任的人工智慧」(Trustable AI) 成為全球開發者亟欲突破的難題。
評論
Photo:geralt on Pixbay
評論

作者為王琍瑩 (AppWorks 法務輔導長、明日科技法律事務所主持律師 ),帶領內建於 AppWorks 的法務團隊,提供企業經營、合約協商、紛爭處理等各方面法律諮詢,輔導建立營運管理機制,必要時也協助團隊尋求「突破框架」的解方。

曾任 HTC 全球營運資深法務經理、萬國法律事務所科技法律部律師,也曾服務於士林地方法院、台北高等行政法院。美國西北大學法學碩士、政大法學士、政大 EMBA,具備美國紐約州與台灣律師執照。

這是我家前陣子出現的真實對話,一刀未剪。

我:如果有一輛無人車,出車禍的時候會保護比較多人,另一輛會傷害比較多人,你選那一輛?

孩子:我選保護很多人的。

我:如果為了保護比較多人,有可能害車子裡的你死掉,你選哪一輛?

孩子:還是選保護很多人的。

我:如果車子裡不只有你,還有媽媽呢?

孩子:還是選保護很多人的,媽媽跟我一起去天堂沒關係。

我:如果車子裡只有媽媽呢?

孩子:那我要選保護媽媽。

孩子天真的回答,卻是典型人工智慧應用的 Trolley Problem 倫理兩難,假設回答問題的不是使用者而是車廠,加上商業利益的考量,問題將更為複雜。無論保護多數人的選項多麼道德正確,最終,銷量第一的,恐怕還是能優先保護使用者的無人車吧!無人車或許是極端的例子,但人工智慧演算法不知不覺、方方面面介入我們的日常生活,已是創業者、開發者與使用者必須共同面對的真相。

推動 Trustable AI 為什麼又急又重要?

從 Google 搜尋引擎、Siri 語音助理、Facebook 廣告置入、Netflix 影片推薦……到 UberEats 訂餐外送,每一項服務都因為演算法的優化,為使用者帶來方便,同時為企業增加營收。起初,演算法只是約略猜測我們想買什麼、想看什麼、想吃什麼。隨著數據資料的大量累積與交互運作,演算法開始知道一些「不足為外人道」的秘密,例如,誰最近剛懷孕、誰準備離職跳槽、誰又暗戀著誰。

然後,無論願不願意,演算法可能比我們更瞭解我們,這些關於「自己」的一切,會成為貸款的信用分數、看病的用藥依據、犯罪的呈堂證供。如今,我們也都見證了人工智慧演算法回過頭來操縱個人意志,決定我們該買什麼、該看什麼、該吃什麼,甚至票投給誰。終於,我們變成演算法期待的那個模樣,但究竟哪一個才是「真正的自己」?所謂「更好的自己」誰說了算?而眼前活生生的「自己」,有沒有絲毫抗辯的權利?

事實上,所有機器學習 (Machine Learning) 的模型及成效,都取決於人為的建構,尤其現今主流的深度學習 (Deep Learning),連開發者都只能判斷運算結果的好壞,卻無從得知 AI 如何作成決策,是名符其實的演算法黑箱。即便暫不考慮 False Positive 與 False Negative 的問題,開發者也很難如同賣菜刀的師傅兩手一攤說:「刀子可以切菜也可以殺人,工具是中立的啊!」

更何況,機器學習的每一筆訓練資料 (Training Data),都是人類社會既已發生的事實,當歷史經驗存在偏見 (Bias) 未經校正,演算法的產出就必定是偏見的重現。試想,如果國家的警力部署,是依據各地犯罪率高低的歷史資料自動演算的結果,那麼部署嚴密的區域因為破案率提高,在後續犯罪率的統計、警力的部署也將形成循環性的偏差。開發者有意或無意的決定,都可能造成難以預期的結果,也因此,「可信任的人工智慧」(Trustable AI) 成為全球開發者亟欲突破的難題。

Trustable AI 主要的探討,是如何盡可能減少演算法黑箱的節點,提升公平性、當責性與透明性 (Algorithmic Fairness, Accountability and Transparency; FAT),技術難度或營業秘密再也不能作為演算法偏見或歧視的藉口。

美國國防高等研究計劃署 (DARPA) 自 2017 年推動為期長達五年的「可說明的人工智慧計畫」(Explainable Artificial Intelligence Program; XAI),就是希望在 Trustable AI 與機器學習的成效二者權衡之間,尋求最佳解。

歐、美、亞三地最新的 Trustable AI 規範在說些什麼?

演算法對人類社會的影響既深且廣,開發者探討 Trustable AI 議題,不能缺少人文與社會科學的研究。所幸,隨著 Trustable AI 技術領域日臻成熟的同時,相關法律論述也在今年上半年逐漸成形。一切的開始,或許要回溯到「家喻戶曉」的歐盟 GDPR (General Data Protection Regulation) 個資保護規範,說到 GDPR,業界對它的認識不外乎「史上最嚴個資法」

事實上,除了個資的蒐集、處理與利用等隱私保護機制外,GDPR 也相當強調 Trustable AI 在法規上的具體實踐。例如,當「自動化個案決策」(Automated Individual Decision-Making) 完全經由演算法自動產出,且該決策對用戶產生法律效果或類似重大影響時,應賦予用戶請求解釋、表達意見、拒絕適用,或以「工人智慧」人為介入判斷的權利。

此外,GDPR 為了避免人工智慧應用,對於個人的基本人權與自由產生重大危害,針對「特種個資」(Special Categories of Personal Data) 保護更為嚴格,包括種族、政治立場、宗教信仰、工會會籍、基因、生物特徵、健康狀況、性生活或性取向等,只有在符合特殊要件的前提下,才允許採用特種個資做為演算法的輸入資料。

GDPR 影響所及,技術領域長期關注的 Trustable AI,終於在法律層面開啟對話。近期最受全球矚目的三項法案包括:

歐盟:「可信任的人工智慧倫理規範」七大關鍵要素

歐盟執委會 (European Commission) 去年 6 月甫成立的人工智慧高級專家小組(High-Level Expert Group on AI; AI HLEG),在同年 12 月整理出一份規範草案,廣泛徵詢各界意見之後,於今年 4 月正式頒布「可信任的人工智慧倫理規範」(Ethics Guidelines for Trustworthy AI),強調七大關鍵要素:人類自主性與監督 (Human Agency and Oversight)、技術穩健性與安全性 (Technical Robustness and Safety)、隱私與數據監理 (Privacy and Data Governance)、透明性 (Transparency)、多元性、非歧視性與公平性 (Diversity, Non-Discrimination and Fairness)、社會與環境福祉 (Societal and Environmental Well-Being)、當責性與咎責機制 (Accountability)。

這份倫理規範不具強制性,各會員國也不急著增修既有法規,使得以上的內容看起來像高大上的精神喊話。但是,執委會將參考現行實務與試辦成果,持續演譯規範內容,預計 2020 年初再度釋出新版。

因此,我們建議 AI 開發者觀察的重點,在於透過目前文件預見政策與法規的走向,包括:將來不同產業細部化的分類規範、自律組織或第三方認證機構的形成等等。尤其,這份倫理規範將 Trustworthy / Trustable AI 區分為合規的 (Lawful)、倫理的 (Ethical) 和穩健的 (Robust) 三種面向,僅僅合規是不夠的,開發者也要努力爭取另外兩個面向的加分題。

此外,草案用語「Trustworthy AI made in Europe」已經更正為「Trustworthy AI for Europe」,明確表示無論 AI 系統的「產地」是不是在歐盟境內,只要「使用」行為在歐盟境內,這份倫理規範都有所適用。事實上,執委會也一再強調,最終目標期待這份倫理規範成為真正接地氣、能實作的「全球共識」。

美國:國會草擬「演算法問責法案」,強化使用者權利

今年上半年,美國國會針對數位隱私、人臉辨識、基因資訊等領域,提出多項法案,都值得開發者關注。其中針對 Trustable AI 議題,美國民主黨 Ron Wyden 等國會議員共同草擬了「演算法問責法案」(Algorithmic Accountability Act of 2019),特別限制大型企業 (年收入超過 5,000 萬美元,或用戶數、裝置數超過 100 萬件) 的人工智慧應用。

法案認為大型企業的產品或服務傾向於依賴 (而非消除) 演算法偏見,因此必須藉由外部拘束力加以導正,包括授權聯邦貿易委員會 (Federal Trade Commission; FTC) 訂定規範,要求高風險自動化決策系統 (High-Risk Automated Decision System) 進行影響評估 (Impact Assessment),強化使用者的權利,而非相反地予以邊緣化。

這份法案雖然針對大型企業、並以 FTC 為執法單位,新創團隊的開發者仍然可以經由法案所欲處理的具體情境,來檢視並優化自己的開發項目。舉例來說,機器學習領域普遍應用的「剖析建檔」(Profiling) 與「推薦系統」(Recommendation),可能由於演算法偏見,導致特定弱勢族群即便使用相同平台服務,卻無法接觸某類住宅建案、某些工作機會或某種貸款方案。

事實上,Facebook 在今年 3 月已經與各該領域主管機關協商和解,針對住房 (Housing)、僱傭 (Employment) 和信用貸款 (Credit Offers) 這些敏感項目,正式宣佈新的廣告投放措施,禁止使用年齡、性別或郵遞區號來鎖定投放對象,並對整體分眾功能 (Targeting Categories) 加以限縮,甚至在房屋租售的項目,將一勞永逸地建構新的搜尋工具,讓每一位使用者都能搜尋到美國境內每一則廣告。

亞洲:新加坡居於領先地位

新加坡對於 Trustable AI 的規範進程,在亞洲各國之中儼然居於領頭羊地位。先是去年 11 月由金融管理局 (Monetary Authority of Singapore) 針對金融產業提出「人工智慧與資料分析行為準則」(FEAT Principles),隨後今年 1 月再由個人資料保護委員會 (Personal Data Protection Commission) 頒布「人工智慧監管模式框架」(A Proposed Model Artificial Intelligence Governance Framework),為非特定產業的一般性人工智慧應用提供指導方針。無獨有偶地,這份監管框架與前面提到的歐盟倫理規範一樣,強調自己是動態文件 (Living Document),不具強制性,並將隨著技術進程與各界反饋持續更新。

而相較於高大上的歐盟倫理規範,新加坡的監管框架已經針對內部監理的架構與措施、人工智慧決策的風險管理、營運管理、與使用者關係維護等四個面向,提供開發者具體可資遵循的步驟,甚至引用 UCARE.AI 與新加坡 Parkway Pantai 醫療集團有關醫療費用的預測分析 (Predictive Analysis) 作為實作案例。

這個個案的挑戰性,在於醫療資料的蒐集、處理、利用本來就受到相關法規的嚴格監管,而個案涉及類神經網絡的深度學習演算法黑箱,也正是 Trustable AI 的透明性要求最常卡關的痛點。

依據監管框架的介紹,個案在 Trustable AI 的公平性、當責性與透明性各個環節,都已規劃對應流程,一方面藉由演算法自動化決策,來降低人為主觀評價欠缺一致性的問題 (最常見就是受到病患收入水平或保單承保範圍的影響),另一方面也確保健全的人為反饋迴路 (Human Feedback Loop) 能夠介入運作,甚至在演算法內建人為撤銷機制 (Manual Override Protocol) ,以便必要時能夠安全地終止演算法的運作。

結語

從 2016 年 Microsoft Tay 失控之前的樂觀,到今年初 Open AI 對釋出開源碼的猶豫,人類漸漸學會對機器感到敬畏,也終於明白所謂「工具中立性」其實意味著,它的亦正亦邪完全掌握在人類手裡。眼前這些 Trustable AI 最新規範趨勢,不約而同展現這樣反覆辯證的歷程,提醒我們不要過於相信人類,也不要過於相信機器。

換言之,Trustable AI 所有規範都指向同一個方向——人類應當有權力 (也有責任) 決定什麼情況要信任「人工智慧」、什麼情況要依賴「工人智慧」。要達到這個目標,首先必須認清人類和機器各自的強項與侷限,但是這一題太難,因而需要在制度面加以規劃,包括事前的管理、事中的檢驗與事後的救濟,缺一不可,供各位創業者、開發者參考。

【歡迎所有 AI / IoT、Blockchain / Crypto 的創業者,加入專為你們服務的 AppWorks Accelerator


一手掌握 Z 世代成功行銷心法

吸引年輕人的行銷手法一直不斷推陳出新,但針對 Z 世代年輕人,掌握大方向的這四大心法,便能協助品牌創造聲量及心占率!
評論
Z 世代年輕人生長背景與過去大不相同,激發行銷新玩法。
評論

根據資誠 2021 全球消費者洞察報告,18-38 歲年輕族群的購物花費已超越較年長的消費者,並預期未來將持續成長。跨越於這個年齡層區間的Z世代與千禧世代,不僅生長在充滿活力的數位時代,其生長背景與環境更在短短幾年內超越了過去幾百年,因此無論是在消費習慣,接觸資訊、偏好的購物體驗到金流支付等方式也都與過去大不相同,因此,各式品牌為了贏得年輕人的心占率,更激發出不同的行銷玩法!

今朝有酒今朝醉 狂歡氛圍加深心占率

Z 世代的社交文化雖體現在網路上,但在實體上也相當重視氛圍、加強體驗感。連續舉辦的新北耶誕城,是每年年末年輕人們不可錯過的狂歡派對,今年新北耶誕城與 LEGO 樂高合作,以聖誕節為主題,裝飾出樂高耶誕老人、樂高耶誕薑餅小屋、樂高小精靈雪景大道等必拍景點,搭配聖誕節主題散發愛與希望,營造濃厚的節日氛圍,在年輕人心中搶下品牌心占率。

行之有年的新北耶誕城,今年與大人小孩都愛的 LEGO 樂高合作,巨型打卡熱點十分引人注目。圖片來源:新北旅遊官方 IG

此外,聯合報系所推出質感媒體《500 輯》,從去年開始舉辦「500 趴」,透過高質感戶外派對帶給大家世代交流的感受,今年也剛在信義區水舞廣場完美落幕,此次以「Better me Better Life」為主軸,三天活動湧入超過 11 萬人次。活動現場匯集美食名店,如來自台南的排隊名店「糯夫米糕」,開賣不久就被秒殺,而由國際名廚江振誠領軍 RAW 團隊推出的限量餐點依舊快速完售。

電商平台 PChome 24h購物也跨域作為 500 趴共同協辦角色,開辦「24h給力充電站」,規劃「PChome 給力製造所」、「Coopers Cool Bar」與「Panasonic 美力加值所」三大攤位,設計闖關遊戲及限定快閃暢飲活動,結合年輕人喜愛的市集,也帶來 PChome 之夜舞台表演,將品牌精神融入奇幻的視聽覺饗宴,特別的是打通粉絲專享專區,讓 PChome 的粉絲透過闖關即可抽獎獲得演唱會專區及秒殺美食免排隊兌換券,電商平台跨域與媒體合作,強強聯手,運用各自優勢和狂歡體驗吸引年輕人,透過有感體驗引發年輕族群共鳴,幫助其迎接美好生活,引發不少話題討論。

在 500 趴活動中,電商透過奇幻的舞台表演滿足視聽覺享受,傳遞 24h 陪伴在側的品牌精神,讓觀眾耳目一新。Photo Credit:爆米花數位

敢買又愛花 促進消費模式轉型

Z 世代與千禧世代年輕人的財務支配更為自由,也較容易衝動型消費,尤其是數位支付的普及也讓年輕人對於實體金流較無感,因此延伸出許多不同的消費模式。近來 BNPL 十分火紅,電商跟新創公司紛紛搶進投資發展,BNPL(Buy now, pay later)是讓消費者先拿到產品再付費的服務,對於年輕人而言,可能因銀行審核或是個資問題在購物中產生付費高牆,但有了 BNPL 的支付方式,更能立即購買商品。對於商家來說也能吸引更多消費者,減短消費者的消費猶豫期,此外也能蒐集更多的消費者數據做為行銷籌碼。

看準 BNPL 的商機,3C 龍頭 Apple 也搶先與 BNPL 服務的支付商合作,甚至正在開發「Apple Pay Later」的服務,降低消費門檻吸引更多年輕人購買蘋果商品,也提高 Apple Pay 的使用率。全球電商龍頭 Amazon 也結合線上分期付款平台 Affirm 推出 BNPL 服務,也因此相互拉抬了業績與股價。

資訊爆炸 溝通方式就要快狠準

Z 世代年輕人生長在數位時代,從小便習慣接收爆量的資訊,深怕跟不上最新趨勢,但在海量資訊中要如何快狠準溝通,就要靠最直接的溝通方式,長篇大論的文字已經沒人想看,圖像、短影音才能在短時間內攫取 Z 世代的目光,若搭配社群意見領袖的影響力,更能讓其信服。

如強調實體服務的火鍋品牌海底撈,在今年因疫情也轉戰線上戰場,同時不忘消費體驗,推出滿額即送到府服務,其實這樣的優惠訊息在疫情間層出不窮,為了能夠快速溝通並脫穎而出,海底撈採取「KOL 外送到你家」,藉由 YouTuber 拍影片,擔任外送員溝通消毒 SOP、餐點確認完成才收費、並享有海底撈特色的川劇變臉到府表演等訊息,形成社群討論風氣並深耕品牌理念,提升心占率。另電商平台 PChome 24h購物在官方 YouTube 頻道也不定期邀請名人、KOL 擔任一日送貨員,藉由 KOL 一起體驗送貨及開箱,除了吸引更多元的消費者,也能以影片傳遞送貨的穩定度及貨物包裝完整等訊息,抓住消費者眼球,進行最直接的溝通

海底撈推出到府服務,美味火鍋、川劇變臉特色表演也能直送到你家!圖片來源:海底撈官方FB

成功由自己定義 風格消費才是王道

消費對於年輕人來說不只是滿足生活上的各種需求,更是能彰顯個人風格的管道,Z 世代年輕人渴望展現自我,因此品牌也紛紛推出客製化服務跟上年輕人的需求。

一直以來以親子族群為主要消費者的 IKEA 近期推出全台首間城市店,城市店以單身、北漂年輕人為目標消費者,更為了深入年輕族群首度推出獨家限定客製化電繡活動,在織品上可繡上專屬圖文,除了能展現消費者專屬風格外,又藉此宣傳品牌別出心裁的服務。又如最近被 Spotify 洗版的 Instagram 限時動態,廣受年輕人喜愛的音樂串流平台 Spotify 推出個人化的年度總回顧,讓用戶可以上傳到社群平台和社交圈分享自己的音樂品味、Podcast 興趣等,彰顯自己的風格,不僅能幫助消費者成為社交圈中的談資,也能藉由社群媒體進行病毒式傳播,提升品牌曝光度。

Spotify每年年末皆推出年度總回顧,吸引年輕人分享並提升品牌心占率。

吸引年輕人的行銷手法一直不斷推陳出新,但針對Z世代年輕人,掌握大方向的這四大心法,便能協助品牌創造聲量及心占率!

本文章內容由「爆米花數位」提供,經關鍵評論網媒體集團廣編企劃編審。