人權在網路世界中危機重重?演算法掌控社會的隱私與歧視挑戰

在我們每天賴以維生的網路,也存在著科技的人權侵害?2020 網路治理論壇(TWIGF)請到法律學術研究與業界專家,一同探討演算法社會下網路人權的現狀與挑戰。
評論
Photo Credit: Pixabay
評論

在 2020 網路治理論壇(TWIGF)中,數位人權是被與談人一直提到的命題之一,更特別設一議程「演算法社會下網路人權的現狀與挑戰」,請到法律學術研究與業界專家,討論在網路世界下的人類使用者,可能因隱私侵犯、演算法偏見等問題,遭受人權上的侵害。

推薦閱讀:2020 台灣網路治理論壇今開幕,數位人權成重要命題!

隱私在科技下無所遁形

Photo Credit: INSIDE/MindyLi
工作坊「演算法社會下網路人權的現狀與挑戰」。

根據中央研究院法律所博士後研究學者林昕璇的分享,AI 監控與人臉辨識是否符合憲法定義下的人權維護,一直是法律界討論的議題。根據卡內基國際和平基金會(Carnegie Endowment for International Peace)於去年發布的報告顯示,猶如科幻小說《1984》的預言,人臉辨識已成威權國家是常用的工具。

不只極權國家,事實上 51% 的民主國家也會使用人臉辨識,作為實現智慧城市與智慧型警政(smart policy)願景的工具。例如在英國南威爾斯(South Wales),當地警政就以自動化臉部辨識(AFR locate),在當地的大型集會中,找尋潛在公共危險的嫌犯。他們使用監視器(CCTV)檢視,當 AI 做出「符合」的判斷後,將此資料送往人類分析員判斷,再根據判斷考慮是否發動進一步的盤查。

此舉被地方法院起訴,認為地方警政機關違反歐洲人權公約第八條,即保障私人生活、隱私、通信的權利,特別是第八條第一項的生物特徵,地方法院主張生物特徵(人臉)擁有內在隱私性(intrinsically private)。

這被延伸出另個爭議:AI 從犯罪統計資料庫中,找尋潛在的「罪犯」,這是否也涉及 AI 演算法的科技歧視呢?

演算法的黑箱,放大歧視?

林昕璇質疑,演算法恐透過人類編碼員,重塑種族主義的回饋迴路(feedback loop),讓科技不再中立,而是複製,甚至加重的人類社會的歧視。

我們可以先瞭解,演算法是如何運作的。要知道一名人類是否為恐怖份子,你得先輸入或辨別他的基本資料,例如「他是男性」、「他造訪過阿富汗」、「他是穆斯林」、「他在社群上有潛在危險發言」,透過權重、權重矩陣和各類隱藏層的決策因素後,機器就可辯駁為:他是恐怖份子!

這裡我們看見兩個隱憂。第一,造訪過阿富汗的穆斯林就一定是恐怖份子嗎?這樣的判斷未免過於絕對,隱藏著種族歧視的危機。第二,中間隱藏層的決策因素為何?演算法的黑箱讓人霧裡看花,好像那些科技龍頭總是可以一手遮天,只告訴你答案,卻不公開計算過程,讓監督與審核更加困難。

與談人何明暄分享一個案例,因為今年疫情關係,全球學生無法出門參與大考,因此英國決定以演算法來決定學生的成績,以及他們能上哪一所大學。但這套演算法的評量結果,與老師推算的成績,居然有約 4 成學生的成績不同,所以被受到社會質疑。

老師與學生更進一步發現,來自私立學校學生的演算法評分與老師的評分較接近,但公立學校學生的成績卻會被演算法低估,權重被調低。此舉涉嫌歧視較為貧窮的公立學校學生,且直接影響學生的受教權,引發英國社會熱議。

5f3b3c760b69a
Photo Credit: 路透社/達志影像
憤怒的英國群眾上街抗議大考演算法。

但說到底,人類才是歧視的元凶

我們已經得知,演算法的確會存在偏見,但人類要就此判演算法死刑嗎?

演算法的歧視是無法避免的狀況,畢竟編碼、權重都是由人類設定,所以演算法是「繼承」了人類社會的歧視,至少演算法的歧視和偏見是「看得見」的,也可以被矯正且透明化供檢視的。但建立這套演算法的人類,其偏見是很難被矯正或被看見的。解鈴還需繫鈴人,這回到了人類社會的本質性問題:人類要如何消弭歧視?

林昕璇呼籲科技公司,須遵循公法價值的機制,要公開、透明演算法的編碼機制,才能被第三方組織與大眾給互相制衡,將問題搬到檯面上,一起解決科技帶來的隱憂,才能為社會帶來好的價值及循環。

核稿編輯:Anny

延伸閱讀:



運動科技新革命: IoT 結合數據分析,奧運跆拳銅牌羅嘉翎國手養成之路揭秘

運動科技為近年運動產業顯學,現在賽場上,不僅較勁各選手的體力及技術,更考驗各國科學技術導入,輔佐選手的程度。有效運用運動科技,不僅可避免傷害外,更能提升訓練品質,提升選手佳績。
評論
Photo Credit: INSIDE
評論

今年 8 月剛落幕的 2020 東京奧運,台灣選手獲得 2 金 4 銀 6 銅的 12 面獎牌,不僅寫下史上最佳參賽成績,且分別在 10 種不同項目奪牌,令各界大為驚艷。近年健康意識抬頭,下班後會自發去運動的人越來越多,種種現象顯示著台灣的運動風氣已逐漸成熟,而運動科技正是背後的隱形推手。

科技部致力推動產學界合作,結合運動科學、智慧科技與數據分析,輔助選手精準練習,用最有效率的方式提升表現,讓運動訓練不再是土法煉鋼。運動科技的應用也能幫助一般人,在日常生活中更聰明更健康的做運動。由於商機龐大,運動科技早已成為各國在運動競技賽事與產業發展積極佈局的新型態競爭場域,一起來看看它為台灣體育帶來了什麼樣的改變吧!

透過科技幫助運動選手了解自身狀態,穩扎穩打求進步

年僅 19 歲的跆拳道選手羅嘉翎,首戰奧運便打敗多國好手,一舉拿下銅牌。從小在道館長大,幼稚園就跟著爸爸、哥哥練習跆拳道,小學開始在國內比賽嶄露頭角,國二首次參加青少年國際賽事後更不斷奪金。然而,初生之犢的她,卻是好不容易才站上奧運這個舞台。

「小時候的確身高有優勢,但剛轉去成人組時還滿挫折的」,帶著青少年時期的亮眼成績,羅嘉翎在高一下加入跆拳道國家隊,被延攬至國家運動訓練中心(以下簡稱:國訓中心)接受國手培訓,「裡面都是大學的學長姐,訓練強度很高,剛進去時很不適應,那段時間比賽成績也不理想,晚上都會打電話給媽媽哭訴。」

Photo Credit: 行政院科技會報辦公室
Photo Credit: INSIDE

羅嘉翎分享,國訓中心的訓練方式很有系統,除了完備的訓練器材,還會透過科學儀器評估選手的運動表現,也定期使用生化檢測儀器,每月至少1次檢測疲勞度與血氧量,維護選手的身體健康。

「運動科技可以幫助我了解自己現在的狀態,還有需要加強哪些地方」,羅嘉翎表示,選手的日常就是不斷練習、調整好狀態,透過數據分析可以清楚知道自己的強弱項,「像我需要加強肌力,這樣訓練有方向,進步也會比較穩。」

沒有因挫折放棄跆拳道,羅嘉翎持續在國訓中心自我精進,再加上慢慢調整心態,她逐漸適應了高強度的訓練,也找回了享受比賽的初衷。

事實上,台灣自 2012 倫敦奧運以來,就沒有在跆拳道項目拿過獎牌,羅嘉翎也坦承因此感受到不小的壓力,「拿到奧運資格時我爆哭,但我不是被看好奪牌的選手,就想說放鬆去打。」沒想到放下得失心,反而幫助自己贏得了銅牌的好成績。

國立體育大學技擊運動技術學系副教授王翔星分享,針對跆拳道選手的檢測主要有3方面,包括以「線性位移偵測器」檢測選手連續 3 次跳躍的爆發力與穩定度,評估賽場上攻擊動作的力量輸出率;以及透過「測力板」檢測 50 毫秒發力率( RFD,Rate  of Force Development ),以觀察選手腳蹬地出發與踢擊到對手瞬間的力量表現;還有「慣性感應器」則是用來檢測選手的反應能力與速度。

Photo Credit: 王翔星

「現在的訓練方式跟以前差很多,得分的方式不同,教練的觀念也需要調整。」過去也曾是跆拳道選手的王翔星說,以往求勝心切的選手容易練到渾身是傷,現在藉由運動科技的輔助,能精準掌握練習進度,避免過度訓練、減少運動傷害,是更有效率的訓練方式。

Photo Credit: INSIDE

王翔星也表示,培育一名優秀的選手相當不容易,這幾年開始將運動科技帶進國、高中,就是希望能讓年輕選手儘早接觸到運動科技的專業訓練觀念,避免選手在早期生涯就受到嚴重的運動傷害而留下遺憾,未來能夠更上一層樓。

產業跨界結合,讓運動科技深入全民健康生活

目前 5G 正式邁入商業化,宅經濟當道,運動科技的應用也有了更多可能性。「台灣科技業的研發能量強大,運動產業也很有國際競爭力,我認為應該能結合兩者的強項來解決許多問題,例如居家健身沒人指導,該怎樣才不會受傷。」國立臺灣師範大學運動競技學系研究講座教授相子元表示。

相子元主修生物力學出身,被譽為台灣運動科技教父,同時擔任國訓中心運動科學小組總召集人。他很早就投入運動科技與產業結合的研究,作為科技部「精準運動科學研究專案計畫」的執行團隊之一,目前團隊已開發出將壓力感測科技應用於智慧鞋、科技運動襪、機能衣、自行車功率表等產品。

Photo Credit: INSIDE

相子元認為,運動科技商品在亞洲市場很有潛力,目前台灣主要發展在 3 大面向:競技運動,如跆拳道、舉重、射箭;職業運動,如棒球、籃球;全民運動,如自行車、慢跑等。舉例來說, LPS(Local Positioning System ,局部定位系統)運用在團隊運動的訓練上,能讓教練、選手清楚知道跑位陣式,取代傳統手寫戰術,目前 NBA 美國職籃、國際足總FIFA的隊伍也都採用此技術。

Photo Credit: 相子元

台灣選手在東奧打出亮眼成績值得喝采,相子元期待未來運動科技能協助更多選手精準運動、達到更好的表現,放眼 2024 巴黎奧運,並幫助更多人養成規律運動的習慣。接下來行政院主辦的「台灣運動x科技產業策略( SRB )會議」也即將登場,希望加深運動與科技產業的對話交流,讓運動科技越來越深入全民的生活。

SRB策略會議暫擬4大議題:

  1. 運動×科技產業升級創造新價值
  2. 智慧育樂創新服務建立營運新模式
  3. 融合科研成果與創新科技發展智慧新應用
  4. 台灣智慧育樂跨域環境整備

行政院科技會報辦公室 廣告