創業者必讀!Trustable AI 最新規範懶人包

評論
Photo:<a href="https://pixabay.com/photos/handshake-hands-laptop-monitor-3382503/" target="_blank">geralt</a> on <a href="https://pixabay.com/" target="_blank">Pixbay</a>
Photo:geralt on Pixbay
評論

作者為王琍瑩 (AppWorks 法務輔導長、明日科技法律事務所主持律師 ),帶領內建於 AppWorks 的法務團隊,提供企業經營、合約協商、紛爭處理等各方面法律諮詢,輔導建立營運管理機制,必要時也協助團隊尋求「突破框架」的解方。

曾任 HTC 全球營運資深法務經理、萬國法律事務所科技法律部律師,也曾服務於士林地方法院、台北高等行政法院。美國西北大學法學碩士、政大法學士、政大 EMBA,具備美國紐約州與台灣律師執照。

這是我家前陣子出現的真實對話,一刀未剪。

我:如果有一輛無人車,出車禍的時候會保護比較多人,另一輛會傷害比較多人,你選那一輛?

孩子:我選保護很多人的。

我:如果為了保護比較多人,有可能害車子裡的你死掉,你選哪一輛?

孩子:還是選保護很多人的。

我:如果車子裡不只有你,還有媽媽呢?

孩子:還是選保護很多人的,媽媽跟我一起去天堂沒關係。

我:如果車子裡只有媽媽呢?

孩子:那我要選保護媽媽。

孩子天真的回答,卻是典型人工智慧應用的 Trolley Problem 倫理兩難,假設回答問題的不是使用者而是車廠,加上商業利益的考量,問題將更為複雜。無論保護多數人的選項多麼道德正確,最終,銷量第一的,恐怕還是能優先保護使用者的無人車吧!無人車或許是極端的例子,但人工智慧演算法不知不覺、方方面面介入我們的日常生活,已是創業者、開發者與使用者必須共同面對的真相。

推動 Trustable AI 為什麼又急又重要?

從 Google 搜尋引擎、Siri 語音助理、Facebook 廣告置入、Netflix 影片推薦……到 UberEats 訂餐外送,每一項服務都因為演算法的優化,為使用者帶來方便,同時為企業增加營收。起初,演算法只是約略猜測我們想買什麼、想看什麼、想吃什麼。隨著數據資料的大量累積與交互運作,演算法開始知道一些「不足為外人道」的秘密,例如,誰最近剛懷孕、誰準備離職跳槽、誰又暗戀著誰。

然後,無論願不願意,演算法可能比我們更瞭解我們,這些關於「自己」的一切,會成為貸款的信用分數、看病的用藥依據、犯罪的呈堂證供。如今,我們也都見證了人工智慧演算法回過頭來操縱個人意志,決定我們該買什麼、該看什麼、該吃什麼,甚至票投給誰。終於,我們變成演算法期待的那個模樣,但究竟哪一個才是「真正的自己」?所謂「更好的自己」誰說了算?而眼前活生生的「自己」,有沒有絲毫抗辯的權利?

事實上,所有機器學習 (Machine Learning) 的模型及成效,都取決於人為的建構,尤其現今主流的深度學習 (Deep Learning),連開發者都只能判斷運算結果的好壞,卻無從得知 AI 如何作成決策,是名符其實的演算法黑箱。即便暫不考慮 False Positive 與 False Negative 的問題,開發者也很難如同賣菜刀的師傅兩手一攤說:「刀子可以切菜也可以殺人,工具是中立的啊!」

更何況,機器學習的每一筆訓練資料 (Training Data),都是人類社會既已發生的事實,當歷史經驗存在偏見 (Bias) 未經校正,演算法的產出就必定是偏見的重現。試想,如果國家的警力部署,是依據各地犯罪率高低的歷史資料自動演算的結果,那麼部署嚴密的區域因為破案率提高,在後續犯罪率的統計、警力的部署也將形成循環性的偏差。開發者有意或無意的決定,都可能造成難以預期的結果,也因此,「可信任的人工智慧」(Trustable AI) 成為全球開發者亟欲突破的難題。

Trustable AI 主要的探討,是如何盡可能減少演算法黑箱的節點,提升公平性、當責性與透明性 (Algorithmic Fairness, Accountability and Transparency; FAT),技術難度或營業秘密再也不能作為演算法偏見或歧視的藉口。

美國國防高等研究計劃署 (DARPA) 自 2017 年推動為期長達五年的「可說明的人工智慧計畫」(Explainable Artificial Intelligence Program; XAI),就是希望在 Trustable AI 與機器學習的成效二者權衡之間,尋求最佳解。

歐、美、亞三地最新的 Trustable AI 規範在說些什麼?

演算法對人類社會的影響既深且廣,開發者探討 Trustable AI 議題,不能缺少人文與社會科學的研究。所幸,隨著 Trustable AI 技術領域日臻成熟的同時,相關法律論述也在今年上半年逐漸成形。一切的開始,或許要回溯到「家喻戶曉」的歐盟 GDPR (General Data Protection Regulation) 個資保護規範,說到 GDPR,業界對它的認識不外乎「史上最嚴個資法」

事實上,除了個資的蒐集、處理與利用等隱私保護機制外,GDPR 也相當強調 Trustable AI 在法規上的具體實踐。例如,當「自動化個案決策」(Automated Individual Decision-Making) 完全經由演算法自動產出,且該決策對用戶產生法律效果或類似重大影響時,應賦予用戶請求解釋、表達意見、拒絕適用,或以「工人智慧」人為介入判斷的權利。

此外,GDPR 為了避免人工智慧應用,對於個人的基本人權與自由產生重大危害,針對「特種個資」(Special Categories of Personal Data) 保護更為嚴格,包括種族、政治立場、宗教信仰、工會會籍、基因、生物特徵、健康狀況、性生活或性取向等,只有在符合特殊要件的前提下,才允許採用特種個資做為演算法的輸入資料。

GDPR 影響所及,技術領域長期關注的 Trustable AI,終於在法律層面開啟對話。近期最受全球矚目的三項法案包括:

歐盟:「可信任的人工智慧倫理規範」七大關鍵要素

歐盟執委會 (European Commission) 去年 6 月甫成立的人工智慧高級專家小組(High-Level Expert Group on AI; AI HLEG),在同年 12 月整理出一份規範草案,廣泛徵詢各界意見之後,於今年 4 月正式頒布「可信任的人工智慧倫理規範」(Ethics Guidelines for Trustworthy AI),強調七大關鍵要素:人類自主性與監督 (Human Agency and Oversight)、技術穩健性與安全性 (Technical Robustness and Safety)、隱私與數據監理 (Privacy and Data Governance)、透明性 (Transparency)、多元性、非歧視性與公平性 (Diversity, Non-Discrimination and Fairness)、社會與環境福祉 (Societal and Environmental Well-Being)、當責性與咎責機制 (Accountability)。

這份倫理規範不具強制性,各會員國也不急著增修既有法規,使得以上的內容看起來像高大上的精神喊話。但是,執委會將參考現行實務與試辦成果,持續演譯規範內容,預計 2020 年初再度釋出新版。

因此,我們建議 AI 開發者觀察的重點,在於透過目前文件預見政策與法規的走向,包括:將來不同產業細部化的分類規範、自律組織或第三方認證機構的形成等等。尤其,這份倫理規範將 Trustworthy / Trustable AI 區分為合規的 (Lawful)、倫理的 (Ethical) 和穩健的 (Robust) 三種面向,僅僅合規是不夠的,開發者也要努力爭取另外兩個面向的加分題。

此外,草案用語「Trustworthy AI made in Europe」已經更正為「Trustworthy AI for Europe」,明確表示無論 AI 系統的「產地」是不是在歐盟境內,只要「使用」行為在歐盟境內,這份倫理規範都有所適用。事實上,執委會也一再強調,最終目標期待這份倫理規範成為真正接地氣、能實作的「全球共識」。

美國:國會草擬「演算法問責法案」,強化使用者權利

今年上半年,美國國會針對數位隱私、人臉辨識、基因資訊等領域,提出多項法案,都值得開發者關注。其中針對 Trustable AI 議題,美國民主黨 Ron Wyden 等國會議員共同草擬了「演算法問責法案」(Algorithmic Accountability Act of 2019),特別限制大型企業 (年收入超過 5,000 萬美元,或用戶數、裝置數超過 100 萬件) 的人工智慧應用。

法案認為大型企業的產品或服務傾向於依賴 (而非消除) 演算法偏見,因此必須藉由外部拘束力加以導正,包括授權聯邦貿易委員會 (Federal Trade Commission; FTC) 訂定規範,要求高風險自動化決策系統 (High-Risk Automated Decision System) 進行影響評估 (Impact Assessment),強化使用者的權利,而非相反地予以邊緣化。

這份法案雖然針對大型企業、並以 FTC 為執法單位,新創團隊的開發者仍然可以經由法案所欲處理的具體情境,來檢視並優化自己的開發項目。舉例來說,機器學習領域普遍應用的「剖析建檔」(Profiling) 與「推薦系統」(Recommendation),可能由於演算法偏見,導致特定弱勢族群即便使用相同平台服務,卻無法接觸某類住宅建案、某些工作機會或某種貸款方案。

事實上,Facebook 在今年 3 月已經與各該領域主管機關協商和解,針對住房 (Housing)、僱傭 (Employment) 和信用貸款 (Credit Offers) 這些敏感項目,正式宣佈新的廣告投放措施,禁止使用年齡、性別或郵遞區號來鎖定投放對象,並對整體分眾功能 (Targeting Categories) 加以限縮,甚至在房屋租售的項目,將一勞永逸地建構新的搜尋工具,讓每一位使用者都能搜尋到美國境內每一則廣告。

亞洲:新加坡居於領先地位

新加坡對於 Trustable AI 的規範進程,在亞洲各國之中儼然居於領頭羊地位。先是去年 11 月由金融管理局 (Monetary Authority of Singapore) 針對金融產業提出「人工智慧與資料分析行為準則」(FEAT Principles),隨後今年 1 月再由個人資料保護委員會 (Personal Data Protection Commission) 頒布「人工智慧監管模式框架」(A Proposed Model Artificial Intelligence Governance Framework),為非特定產業的一般性人工智慧應用提供指導方針。無獨有偶地,這份監管框架與前面提到的歐盟倫理規範一樣,強調自己是動態文件 (Living Document),不具強制性,並將隨著技術進程與各界反饋持續更新。

而相較於高大上的歐盟倫理規範,新加坡的監管框架已經針對內部監理的架構與措施、人工智慧決策的風險管理、營運管理、與使用者關係維護等四個面向,提供開發者具體可資遵循的步驟,甚至引用 UCARE.AI 與新加坡 Parkway Pantai 醫療集團有關醫療費用的預測分析 (Predictive Analysis) 作為實作案例。

這個個案的挑戰性,在於醫療資料的蒐集、處理、利用本來就受到相關法規的嚴格監管,而個案涉及類神經網絡的深度學習演算法黑箱,也正是 Trustable AI 的透明性要求最常卡關的痛點。

依據監管框架的介紹,個案在 Trustable AI 的公平性、當責性與透明性各個環節,都已規劃對應流程,一方面藉由演算法自動化決策,來降低人為主觀評價欠缺一致性的問題 (最常見就是受到病患收入水平或保單承保範圍的影響),另一方面也確保健全的人為反饋迴路 (Human Feedback Loop) 能夠介入運作,甚至在演算法內建人為撤銷機制 (Manual Override Protocol) ,以便必要時能夠安全地終止演算法的運作。

結語

從 2016 年 Microsoft Tay 失控之前的樂觀,到今年初 Open AI 對釋出開源碼的猶豫,人類漸漸學會對機器感到敬畏,也終於明白所謂「工具中立性」其實意味著,它的亦正亦邪完全掌握在人類手裡。眼前這些 Trustable AI 最新規範趨勢,不約而同展現這樣反覆辯證的歷程,提醒我們不要過於相信人類,也不要過於相信機器。

換言之,Trustable AI 所有規範都指向同一個方向——人類應當有權力 (也有責任) 決定什麼情況要信任「人工智慧」、什麼情況要依賴「工人智慧」。要達到這個目標,首先必須認清人類和機器各自的強項與侷限,但是這一題太難,因而需要在制度面加以規劃,包括事前的管理、事中的檢驗與事後的救濟,缺一不可,供各位創業者、開發者參考。

【歡迎所有 AI / IoT、Blockchain / Crypto 的創業者,加入專為你們服務的 AppWorks Accelerator


精選熱門好工作

客戶管理企劃 Key Account Management Planner

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

Partnership Manager

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

行銷企劃主管

安力國際開發股份有限公司
臺北市.台灣

獎勵 NT$20,000

評論