人權在網路世界中危機重重?演算法掌控社會的隱私與歧視挑戰

在我們每天賴以維生的網路,也存在著科技的人權侵害?2020 網路治理論壇(TWIGF)請到法律學術研究與業界專家,一同探討演算法社會下網路人權的現狀與挑戰。
評論
Photo Credit: Pixabay
評論

在 2020 網路治理論壇(TWIGF)中,數位人權是被與談人一直提到的命題之一,更特別設一議程「演算法社會下網路人權的現狀與挑戰」,請到法律學術研究與業界專家,討論在網路世界下的人類使用者,可能因隱私侵犯、演算法偏見等問題,遭受人權上的侵害。

推薦閱讀:2020 台灣網路治理論壇今開幕,數位人權成重要命題!

隱私在科技下無所遁形

Photo Credit: INSIDE/MindyLi
工作坊「演算法社會下網路人權的現狀與挑戰」。

根據中央研究院法律所博士後研究學者林昕璇的分享,AI 監控與人臉辨識是否符合憲法定義下的人權維護,一直是法律界討論的議題。根據卡內基國際和平基金會(Carnegie Endowment for International Peace)於去年發布的報告顯示,猶如科幻小說《1984》的預言,人臉辨識已成威權國家是常用的工具。

不只極權國家,事實上 51% 的民主國家也會使用人臉辨識,作為實現智慧城市與智慧型警政(smart policy)願景的工具。例如在英國南威爾斯(South Wales),當地警政就以自動化臉部辨識(AFR locate),在當地的大型集會中,找尋潛在公共危險的嫌犯。他們使用監視器(CCTV)檢視,當 AI 做出「符合」的判斷後,將此資料送往人類分析員判斷,再根據判斷考慮是否發動進一步的盤查。

此舉被地方法院起訴,認為地方警政機關違反歐洲人權公約第八條,即保障私人生活、隱私、通信的權利,特別是第八條第一項的生物特徵,地方法院主張生物特徵(人臉)擁有內在隱私性(intrinsically private)。

這被延伸出另個爭議:AI 從犯罪統計資料庫中,找尋潛在的「罪犯」,這是否也涉及 AI 演算法的科技歧視呢?

演算法的黑箱,放大歧視?

林昕璇質疑,演算法恐透過人類編碼員,重塑種族主義的回饋迴路(feedback loop),讓科技不再中立,而是複製,甚至加重的人類社會的歧視。

我們可以先瞭解,演算法是如何運作的。要知道一名人類是否為恐怖份子,你得先輸入或辨別他的基本資料,例如「他是男性」、「他造訪過阿富汗」、「他是穆斯林」、「他在社群上有潛在危險發言」,透過權重、權重矩陣和各類隱藏層的決策因素後,機器就可辯駁為:他是恐怖份子!

這裡我們看見兩個隱憂。第一,造訪過阿富汗的穆斯林就一定是恐怖份子嗎?這樣的判斷未免過於絕對,隱藏著種族歧視的危機。第二,中間隱藏層的決策因素為何?演算法的黑箱讓人霧裡看花,好像那些科技龍頭總是可以一手遮天,只告訴你答案,卻不公開計算過程,讓監督與審核更加困難。

與談人何明暄分享一個案例,因為今年疫情關係,全球學生無法出門參與大考,因此英國決定以演算法來決定學生的成績,以及他們能上哪一所大學。但這套演算法的評量結果,與老師推算的成績,居然有約 4 成學生的成績不同,所以被受到社會質疑。

老師與學生更進一步發現,來自私立學校學生的演算法評分與老師的評分較接近,但公立學校學生的成績卻會被演算法低估,權重被調低。此舉涉嫌歧視較為貧窮的公立學校學生,且直接影響學生的受教權,引發英國社會熱議。

5f3b3c760b69a
Photo Credit: 路透社/達志影像
憤怒的英國群眾上街抗議大考演算法。

但說到底,人類才是歧視的元凶

我們已經得知,演算法的確會存在偏見,但人類要就此判演算法死刑嗎?

演算法的歧視是無法避免的狀況,畢竟編碼、權重都是由人類設定,所以演算法是「繼承」了人類社會的歧視,至少演算法的歧視和偏見是「看得見」的,也可以被矯正且透明化供檢視的。但建立這套演算法的人類,其偏見是很難被矯正或被看見的。解鈴還需繫鈴人,這回到了人類社會的本質性問題:人類要如何消弭歧視?

林昕璇呼籲科技公司,須遵循公法價值的機制,要公開、透明演算法的編碼機制,才能被第三方組織與大眾給互相制衡,將問題搬到檯面上,一起解決科技帶來的隱憂,才能為社會帶來好的價值及循環。

核稿編輯:Anny

延伸閱讀:



開發應用趨勢 X 產業轉型策略:DevDays Asia 2021 亞太技術年會報名開跑!

DevDays Asia 2021 Online 亞太技術年會活動即日起開放報名,7 月 25 日前報名即可參加早鳥抽獎活動,8 月 11~13 日準時上線參與更有機會獲得Gogoro VIVA Lite、Xbox Series X 等豐富大獎。
評論
評論

面對疫後變化莫測的商業局勢,如何透過開發者的力量增強企業韌性、保持競爭優勢是勝出的關鍵策略。為賦能台灣開發者,引發企業轉型與創新動能,由經濟部指導,經濟部工業局、台灣微軟、iThome 共同主辦的「DevDays Asia 2021 Online 亞太技術年會」邁入第六屆,今年將於 8月 11 日(三)至 8 月 13 日(五)以「賦能創新.疾速突圍」為題,線上盛大登場。豐富議程包含線上論壇、實作坊、社群活動、以及國際與在地實際案例展示,匯集全球技術資源,協助開發者透過科技力量共同型塑疫後新未來,向世界展現台灣的創新能量。

過去一年全球各產業面臨各種挑戰,無論是疫情的衝擊、經貿環境的變化等,促使企業加速數位轉型的進程。在導入雲端、AI 等技術之中,開發者成為企業數位轉型的關鍵,更是承擔企業成功數位轉型、突破困境的重責。各領域與產業的技術人才需求皆有顯著提升,顯示開發者的力量已成為企業決策與建立韌性的重要一環。台灣微軟致力提供完善的開發平台,不僅分享全球豐沛的研發能量予在地人才,更結合理論與實務,以在地產業案例展現應用面向,期望藉技術年會賦能台灣產業創新發展,迎向疫後新未來。

關鍵 9 大主軸技術演講:勾勒創新科技想像,探索量子運算無限潛力

為期三天的「DevDays Asia 2021 Online 亞太技術年會」,特別邀請微軟全球副總裁 Charles Lamanna、微軟亞洲 Teams 資深工程總監 Dan Stevenson、微軟全球人工智慧業務開發總監 Matt Sinclair、微軟大中華區全球合作夥伴解決方案事業群首席技術長 徐明強博士、微軟 Teams Platform 產品行銷總監 Daniel Canning 等重量級講師進行主題演講,分享建立高生產力的未來工作模式、資安、工業物聯網價值鏈等主題,全方位幫助開發者即時掌握前瞻科技趨勢。

看好量子技術強大運算力將為資安、產業、金融與國防等領域帶來突破性發展,微軟首席架構師 Ujjwal Kumar 將以「量子運算」精彩開場,分享微軟於量子運算技術上的更新與應用情境,帶領開發者一同探索潛力無窮的量子運算領域。

此外,今年年會將聚焦於「實現創新應用開發」與「加速強化企業韌性」的 9 大關鍵議題:

  • 大數據與人工智慧(Data & AI):AI 已然成為驅動產業前進的原動力,企業也逐漸擁抱整合數據平台,微軟推出六大 Applied AI Services 產業應用場景,協助企業將 AI 落地,並透過雲端現代化資料倉儲與分析中台、數據治理與安全、資料為先的混合雲應用,協助企業在面對日趨增加的數據資產強勁轉型需求中,建立疫後時代的企業韌性。
  • 雲原生應用(Cloud Native):以微軟最新發表內容的開發者工具如 Visual Studio、GitHub,介紹智慧雲原生應用程式包含 Cloud Native App、Micro Services 等,助企業可隨環境動盪迅速反應、敏捷開發,提升 IT 即戰力。
  • 開源技術(Open Source):掌握開源將助企業洞燭市場先機,而開源發展與社群關係更是環環相扣,年會將邀請多位開源社群一同擔任協辦單位,包括軟體人才培訓學校(Build School)、台灣雲原生使用者社群(Cloud Native Taiwan User Group)、DevOps 台灣社群(DevOps Taiwan community)、STUDY4、Taiwan Java community、台灣 PostgreSQL 使用者社群(Taiwan PostgreSQL User Group)等單位,分享自身經驗,提供第一線開發者的獨到見解。
  • 開發與維運(DevOps):為實踐 DevOps 理念與架構,快速依需求更迭軟體產品與功能,年會中將以 Azure DevOps 解決方案展示更快速、方便的應用程式開發。
  • 商務流程優化(Business Process):展現如何使用 Microsoft Cloud 建構差異化的 SaaS 應用程式,極大化發揮雲端工具綜效,建構新一代為企業量身打造的解決方案,解決企業營運困境。
  • 混合式工作模式(Hybrid Work):面對後疫情時代,開發者將可運用 Microsoft Teams 輕鬆協作溝通、簡化工作流程,以一站式生產力平台整合多元企業所需功能,迎向智慧工作時代。
  • 產業情境應用解決方案(Industry Solution):微軟長期與台灣產業建立深厚合作關係,更將在年會中力邀製造、醫療、金融等產業合作夥伴,深度剖析產業實例,助開發者結合理論與市場經驗,解決產業切身痛點。
  • 物聯網應用(IoT):以日趨成熟的 IoT 技術加乘 AR 與 VR 的虛實整合概念,向開發者展示未來的智慧工廠價值鏈。
  • 資安新思維(Security):全球遠距辦公需求劇增,駭客攻擊比率大幅增加,企業急需建立零信任文化與部署全面資安防禦系統。透過微軟 Microsoft XDR、Azure AD、Azure Defender、Azure Sentinel 等解決方案,開發者將更能幫助企業避免網路威脅、守護寶貴的數據資產。

呼應疫情下各企業對遠端實作與數據分析的需求激增,此次年會中也專門設立實作坊,藉由線上與講師零距離互動與即時問答,手把手教學如何使用 Microsoft Teams 進行遠距工作,並善用 Power BI 分析數據、發現洞察,滿足開發者對於持續深化技術以及實戰經驗累積的熱切期待。

「DevDays Asia 2021 Online 亞太技術年會」預計將再次創下參加人數新高,吸引數千人次線上參與,促進台灣技術人才接軌國際,培養開發者技術實力,共同構築更完整的開發生態系。活動即日起開放報名

7 月 25 日前報名即可參加早鳥抽獎活動,8 月 11~13 日準時上線參與更有機會獲得包括 Gogoro VIVA Lite、Xbox Series X、Surface Go 2 等豐富大獎;欲了解更多,或報名參加亞洲區域旗艦技術社群年度交流的盛會,請參考官方網站

本文章內容由「台灣微軟」提供,經關鍵評論網媒體集團廣編企劃編審。