人權在網路世界中危機重重?演算法掌控社會的隱私與歧視挑戰

在我們每天賴以維生的網路,也存在著科技的人權侵害?2020 網路治理論壇(TWIGF)請到法律學術研究與業界專家,一同探討演算法社會下網路人權的現狀與挑戰。
評論
Photo Credit: Pixabay
評論

在 2020 網路治理論壇(TWIGF)中,數位人權是被與談人一直提到的命題之一,更特別設一議程「演算法社會下網路人權的現狀與挑戰」,請到法律學術研究與業界專家,討論在網路世界下的人類使用者,可能因隱私侵犯、演算法偏見等問題,遭受人權上的侵害。

推薦閱讀:2020 台灣網路治理論壇今開幕,數位人權成重要命題!

隱私在科技下無所遁形

Photo Credit: INSIDE/MindyLi
工作坊「演算法社會下網路人權的現狀與挑戰」。

根據中央研究院法律所博士後研究學者林昕璇的分享,AI 監控與人臉辨識是否符合憲法定義下的人權維護,一直是法律界討論的議題。根據卡內基國際和平基金會(Carnegie Endowment for International Peace)於去年發布的報告顯示,猶如科幻小說《1984》的預言,人臉辨識已成威權國家是常用的工具。

不只極權國家,事實上 51% 的民主國家也會使用人臉辨識,作為實現智慧城市與智慧型警政(smart policy)願景的工具。例如在英國南威爾斯(South Wales),當地警政就以自動化臉部辨識(AFR locate),在當地的大型集會中,找尋潛在公共危險的嫌犯。他們使用監視器(CCTV)檢視,當 AI 做出「符合」的判斷後,將此資料送往人類分析員判斷,再根據判斷考慮是否發動進一步的盤查。

此舉被地方法院起訴,認為地方警政機關違反歐洲人權公約第八條,即保障私人生活、隱私、通信的權利,特別是第八條第一項的生物特徵,地方法院主張生物特徵(人臉)擁有內在隱私性(intrinsically private)。

這被延伸出另個爭議:AI 從犯罪統計資料庫中,找尋潛在的「罪犯」,這是否也涉及 AI 演算法的科技歧視呢?

演算法的黑箱,放大歧視?

林昕璇質疑,演算法恐透過人類編碼員,重塑種族主義的回饋迴路(feedback loop),讓科技不再中立,而是複製,甚至加重的人類社會的歧視。

我們可以先瞭解,演算法是如何運作的。要知道一名人類是否為恐怖份子,你得先輸入或辨別他的基本資料,例如「他是男性」、「他造訪過阿富汗」、「他是穆斯林」、「他在社群上有潛在危險發言」,透過權重、權重矩陣和各類隱藏層的決策因素後,機器就可辯駁為:他是恐怖份子!

這裡我們看見兩個隱憂。第一,造訪過阿富汗的穆斯林就一定是恐怖份子嗎?這樣的判斷未免過於絕對,隱藏著種族歧視的危機。第二,中間隱藏層的決策因素為何?演算法的黑箱讓人霧裡看花,好像那些科技龍頭總是可以一手遮天,只告訴你答案,卻不公開計算過程,讓監督與審核更加困難。

與談人何明暄分享一個案例,因為今年疫情關係,全球學生無法出門參與大考,因此英國決定以演算法來決定學生的成績,以及他們能上哪一所大學。但這套演算法的評量結果,與老師推算的成績,居然有約 4 成學生的成績不同,所以被受到社會質疑。

老師與學生更進一步發現,來自私立學校學生的演算法評分與老師的評分較接近,但公立學校學生的成績卻會被演算法低估,權重被調低。此舉涉嫌歧視較為貧窮的公立學校學生,且直接影響學生的受教權,引發英國社會熱議。

5f3b3c760b69a
Photo Credit: 路透社/達志影像
憤怒的英國群眾上街抗議大考演算法。

但說到底,人類才是歧視的元凶

我們已經得知,演算法的確會存在偏見,但人類要就此判演算法死刑嗎?

演算法的歧視是無法避免的狀況,畢竟編碼、權重都是由人類設定,所以演算法是「繼承」了人類社會的歧視,至少演算法的歧視和偏見是「看得見」的,也可以被矯正且透明化供檢視的。但建立這套演算法的人類,其偏見是很難被矯正或被看見的。解鈴還需繫鈴人,這回到了人類社會的本質性問題:人類要如何消弭歧視?

林昕璇呼籲科技公司,須遵循公法價值的機制,要公開、透明演算法的編碼機制,才能被第三方組織與大眾給互相制衡,將問題搬到檯面上,一起解決科技帶來的隱憂,才能為社會帶來好的價值及循環。

核稿編輯:Anny

延伸閱讀:



品味生活三大秘訣:「用心工作、長期投資、技巧買房」跟隨達人經驗,逐步實現夢想!

永豐銀行攜手關鍵評論網的「DAWHO之夜」直播活動剛落幕,主持人吳怡霈、樂居網創辦人李奕農、存股達人大俠武林分享買房、投資小撇步,如何善用理財工具,讓大家在投資路上更加順心有效率!
評論
評論

想營造理想的lifestyle,期待夢想的生活趕快實現,不僅需要用心於日常細節,更要懂得及早進行理財規劃,讓豐盛的財富Cover自己每一天!9月23日關鍵評論網與永豐銀行舉辦「大戶品味生活家」線上直播活動,除了邀請到甜美的吳怡霈擔綱主持,主要對談人樂居網創辦人李奕農更洞悉房市趨勢,教網友如何聰明買房,無論自住、投資都上手!此外,36歲就靠著存股擁有亮眼被動收入的理財專家大俠武林,也精采分享新書《股息Cover我每一天:600張存股達人絕活全公開》中的個人投資法,極簡佛系的風格,讓平常還要忙於工作的小資族也能輕鬆累積資產,邁向財富自由的人生。

理財投資有訣竅 數位帳戶好上手

吳怡霈談到大部分人在工作幾年後為自己存到第一桶金、第二桶金,除了計畫買房外,也希望盡快完成退休計畫,不再為金錢操心。在這過程中大家都知道投資理財很重要,卻難免害怕卻步,因為聽聞不少人在股市殺進殺出,不僅沒有賺到錢還因此賠上辛苦累積的資產。財經KOL大俠武林因為知道大家的投資痛點,特別給有心投資的民眾一段理財口訣:「專注本業、閒錢投資」。

「其實對於非專業的投資者來說,專心工作、努力加薪、長期務實投資才是上策,有穩定的收入才能讓你在股災或恐慌行情時進入股市、購買績優公司與含有績優成分股的ETF、利用空頭市場放大現金實質購買力,參與長期的資本利得並領取配息。」大俠武林認為數十年資產穩定累積的成果,不見得會輸給短期殺進殺出的價差買賣策略,這也是他之所以一再強調要使用閒錢投資的原因。「短期股市震盪多、非常難預測,若你常被市場消息左右但又急於用錢,就容易在部位起漲前賣光持有,白忙一場。」

因此為了更有紀律地投資,不被情緒、市場消息打亂原先的風險控制與資金布局計劃,大俠武林建議網友可以使用永豐銀行最近推出的「ibrAIn智在未來」投資工具。

「它不僅能預先設定自己的投資目標、協助訂出合適的投資組合,還有24小時自動化投資顧問替投資者進行監控股票表現、產品組合比例,聰明省心地逐步達成理財目標,同時過好日常生活。」

若在投資工具之外共同搭配安心、好用的理財工具,一站式服務對於忙碌的投資人來說更上手。永豐銀行積極推動「DAWHO數位帳戶」全方位金融體驗,在坊間一片數位轉型浪潮中,提供安全可靠的線上帳戶申請及豐富金融產品,包含DAWHO理財型房貸、大戶投等,有助於顧客聰明精明輕鬆地管理財富。

感性+理性買房 自住、換房、投資都省心

談到買房,樂居網創辦人李奕農建議購置接手性好的主流產品,而不只單憑個人喜好。「所謂接手性好就是要理性選擇,而不只是情感導向購買沒有電梯的公寓四五樓、屋齡大於三十年、地上權住宅以及公設比太高的房子」。李奕農補充到,若是針對投資買房者,他建議選擇高薪人力的外來人口區,例如有台積電員工進駐的台南,房價及買氣才有所支撐;高租金投報區,例如就業人口多、房子好租且房價不高的桃園觀音工業區、台中海線三井OUTLET等。

其實在學習投資技巧和買房心法之外,若能長期擁有安心的理財團隊,更能在財富管理路上走得順風順水。永豐銀行「尊榮理財會員」除了提供專人理財諮詢,還有免費機場接送與高鐵商務車廂免費升級等禮遇;現在加入永豐銀行財富管理的貴賓,若同時選擇開立「DAWHO數位帳戶」還將另外致贈英國經典Jo Malone香水組,現在就邀請最有質感的投資者加入永豐銀行,一起在幸福的氛圍中邁向財富自由!