人權在網路世界中危機重重?演算法掌控社會的隱私與歧視挑戰

在我們每天賴以維生的網路,也存在著科技的人權侵害?2020 網路治理論壇(TWIGF)請到法律學術研究與業界專家,一同探討演算法社會下網路人權的現狀與挑戰。
評論
Photo Credit: Pixabay
評論

在 2020 網路治理論壇(TWIGF)中,數位人權是被與談人一直提到的命題之一,更特別設一議程「演算法社會下網路人權的現狀與挑戰」,請到法律學術研究與業界專家,討論在網路世界下的人類使用者,可能因隱私侵犯、演算法偏見等問題,遭受人權上的侵害。

推薦閱讀:2020 台灣網路治理論壇今開幕,數位人權成重要命題!

隱私在科技下無所遁形

Photo Credit: INSIDE/MindyLi
工作坊「演算法社會下網路人權的現狀與挑戰」。

根據中央研究院法律所博士後研究學者林昕璇的分享,AI 監控與人臉辨識是否符合憲法定義下的人權維護,一直是法律界討論的議題。根據卡內基國際和平基金會(Carnegie Endowment for International Peace)於去年發布的報告顯示,猶如科幻小說《1984》的預言,人臉辨識已成威權國家是常用的工具。

不只極權國家,事實上 51% 的民主國家也會使用人臉辨識,作為實現智慧城市與智慧型警政(smart policy)願景的工具。例如在英國南威爾斯(South Wales),當地警政就以自動化臉部辨識(AFR locate),在當地的大型集會中,找尋潛在公共危險的嫌犯。他們使用監視器(CCTV)檢視,當 AI 做出「符合」的判斷後,將此資料送往人類分析員判斷,再根據判斷考慮是否發動進一步的盤查。

此舉被地方法院起訴,認為地方警政機關違反歐洲人權公約第八條,即保障私人生活、隱私、通信的權利,特別是第八條第一項的生物特徵,地方法院主張生物特徵(人臉)擁有內在隱私性(intrinsically private)。

這被延伸出另個爭議:AI 從犯罪統計資料庫中,找尋潛在的「罪犯」,這是否也涉及 AI 演算法的科技歧視呢?

演算法的黑箱,放大歧視?

林昕璇質疑,演算法恐透過人類編碼員,重塑種族主義的回饋迴路(feedback loop),讓科技不再中立,而是複製,甚至加重的人類社會的歧視。

我們可以先瞭解,演算法是如何運作的。要知道一名人類是否為恐怖份子,你得先輸入或辨別他的基本資料,例如「他是男性」、「他造訪過阿富汗」、「他是穆斯林」、「他在社群上有潛在危險發言」,透過權重、權重矩陣和各類隱藏層的決策因素後,機器就可辯駁為:他是恐怖份子!

這裡我們看見兩個隱憂。第一,造訪過阿富汗的穆斯林就一定是恐怖份子嗎?這樣的判斷未免過於絕對,隱藏著種族歧視的危機。第二,中間隱藏層的決策因素為何?演算法的黑箱讓人霧裡看花,好像那些科技龍頭總是可以一手遮天,只告訴你答案,卻不公開計算過程,讓監督與審核更加困難。

與談人何明暄分享一個案例,因為今年疫情關係,全球學生無法出門參與大考,因此英國決定以演算法來決定學生的成績,以及他們能上哪一所大學。但這套演算法的評量結果,與老師推算的成績,居然有約 4 成學生的成績不同,所以被受到社會質疑。

老師與學生更進一步發現,來自私立學校學生的演算法評分與老師的評分較接近,但公立學校學生的成績卻會被演算法低估,權重被調低。此舉涉嫌歧視較為貧窮的公立學校學生,且直接影響學生的受教權,引發英國社會熱議。

5f3b3c760b69a
Photo Credit: 路透社/達志影像
憤怒的英國群眾上街抗議大考演算法。

但說到底,人類才是歧視的元凶

我們已經得知,演算法的確會存在偏見,但人類要就此判演算法死刑嗎?

演算法的歧視是無法避免的狀況,畢竟編碼、權重都是由人類設定,所以演算法是「繼承」了人類社會的歧視,至少演算法的歧視和偏見是「看得見」的,也可以被矯正且透明化供檢視的。但建立這套演算法的人類,其偏見是很難被矯正或被看見的。解鈴還需繫鈴人,這回到了人類社會的本質性問題:人類要如何消弭歧視?

林昕璇呼籲科技公司,須遵循公法價值的機制,要公開、透明演算法的編碼機制,才能被第三方組織與大眾給互相制衡,將問題搬到檯面上,一起解決科技帶來的隱憂,才能為社會帶來好的價值及循環。

核稿編輯:Anny

延伸閱讀:



【線上找中古屋】海量物件都在這,樂屋網「三大進階功能」讓看房更省力

買房時,先從網路上的找房平台篩選一輪,再去現場實地看屋,更能事半功倍。在地經營超過 13 年的網路平台「樂屋網」,房源囊括信義房屋、住商不動產等各大房仲品牌,提供全國中古屋行情資訊,還有個人化排序、找屋管家等獨家功能。想快速找到心目中理想的家,其實真的沒有那麼難。
評論
Photo Credit:TNL BrandStudio
評論

房價狂漲、薪水凍漲,小資族整天忙忙忙,好不容易存點錢想買房,在時間和預算都有限的情況下,該怎麼著手才好呢?

若還沒有明確目標,想要多方比較,「線上找屋」或許是個不錯的選擇。尤其適合想利用零碎時間的忙碌小資族,可以隨時隨地、拿起手機想看就看,省時又省力。

購屋平台的好選擇:樂屋網

相較於眾多線上找屋平台,各家網站操作模式略有不同,有些介面雜亂、有些功能並不完備。「樂屋網」提供的是房仲資訊平台服務,能同時比較很多網站上的物件,房源包含信義房屋、永慶不動產、住商不動產、中信房屋等全台知名房屋仲介,光是物件就超過 20 萬筆,不僅可以在樂屋網上瀏覽、搜尋各個不同地區,還能同時比對相關房仲資訊,例如待售、待租、新成屋、建案與土地等不動產物件資料。

樂屋網的介面簡潔,特別適合「新手買房族」,只要設定好特定條件,像是售價、坪數、格局、車位等條件,一鍵便能篩選出最符合需求的物件,並針對使用需求,將房子進行優先排序。

事實上,想要利用網路成功找出心中好房,不妨在挑選「線上找房」平台時把握以下原則:越多房源的越好、能用越多特定條件搜尋的越好、個人化服務越多的越好、交易資訊揭露越多的越好,方便比較一眼看出物件素質優劣。

而樂屋網除了有搜尋物件、瀏覽房屋詳情照片、預約看屋、即時與賣家通訊等基礎功能,還有暗藏「三大進階功能」讓看房更輕鬆有效率。

 Photo Credit:樂屋網

樂屋網獨有三大進階功能:房子比比看、找屋管家、實價登錄頻道

首先是房子比比看。同路段或鄰近區域,或多或少都會看到相似的總價、屋齡、房屋類型或坪數,挑選起來真是天人交戰。若有大量不同的房子想比較,此時用樂屋網的房子比比看功能,宛如訂房網站直接可以比一比。

之後選擇有興趣的物件,點擊「加入比較」按鈕,一次最多可加入四筆物件進行比較,哪一筆物件價格最低、坪數最大、屋齡最新,一目瞭然;也可使用「淡化相同」功能,淡化相同屬性的物件資訊,凸顯其他房子屬性。比較後的物件表格,可直接以 email 、 LINE 、 Facebook 分享給親友一起討論。

選擇自己有興趣的物件,直接點擊【加入比較】,一次最多可加入四筆物件進行比較。/Photo Credit:樂屋網

第二大進階功能是預約看房後、與屋主議價前的找屋管家。議價時最怕資訊不足,除了善用實價登錄調查房屋成交價,利用「找屋管家」列出「成交總價」及「銷售總價」範圍,一表看清該物件的售價及鄰近成交價格落差,協助分析出目前價格的議價率。

同時,也能分析曾關注過的物件特色,以圖表整理出看房需求以及看屋喜好,提供預約物件該地區的市場趨勢,讓使用者更進一步評估該區市場供需狀況。

選擇預約看屋後,直接告訴你該物建的售價及鄰近成交價格,了解議價空間。/Photo Credit:樂屋網
整理你的看房需求,幫助你整理自己的看屋喜好。/Photo Credit:樂屋網

鎖定社區後,可再利用實價登錄頻道,直接翻查細部資料,查詢當地過往的交易狀況。善用這三大進階功能,從樂屋網中挖掘出自己想像的房屋需求,衡量自己的購屋預算、看準購屋區域、了解周邊環境,可省去大部分看房的時間,輕鬆找到好房。

樂屋網實價登錄頻道介面。/Photo Credit:樂屋網

找房,原來可以不用那麼累

好物件稍縱即逝,但人生最重要的交易可能就這一次。除了平日勤做功課熟捻物件資訊之外,不妨多利用樂屋網的「房產快訊」補充相關知識,例如房產新聞、房屋百科、新屋報導、法律常識等,還有不少適合購屋族看的時事論壇、裝潢佈置、開運風水、投資理財等資訊。

或是利用一杯咖啡的時間,收聽樂屋網「一杯咖啡聊買房」 Podcast 節目,聽聽大家分享買房的歷程;另外樂屋網 APP 的介面設計簡潔、清晰明瞭,不管是在 iOS 或是安卓系統的評分都獲得了最高!善用工具、多方收集比較,小資族想要找到心目中的好物件,真的可以不用那麼累。

樂屋網有 Podcast 節目「一杯咖啡聊買房」,利用一杯咖啡的時間,聽聽大家分享買房的歷程。/Photo Credit:樂屋網