人權在網路世界中危機重重?演算法掌控社會的隱私與歧視挑戰

在我們每天賴以維生的網路,也存在著科技的人權侵害?2020 網路治理論壇(TWIGF)請到法律學術研究與業界專家,一同探討演算法社會下網路人權的現狀與挑戰。
評論
Photo Credit: Pixabay
評論

在 2020 網路治理論壇(TWIGF)中,數位人權是被與談人一直提到的命題之一,更特別設一議程「演算法社會下網路人權的現狀與挑戰」,請到法律學術研究與業界專家,討論在網路世界下的人類使用者,可能因隱私侵犯、演算法偏見等問題,遭受人權上的侵害。

推薦閱讀:2020 台灣網路治理論壇今開幕,數位人權成重要命題!

隱私在科技下無所遁形

Photo Credit: INSIDE/MindyLi
工作坊「演算法社會下網路人權的現狀與挑戰」。

根據中央研究院法律所博士後研究學者林昕璇的分享,AI 監控與人臉辨識是否符合憲法定義下的人權維護,一直是法律界討論的議題。根據卡內基國際和平基金會(Carnegie Endowment for International Peace)於去年發布的報告顯示,猶如科幻小說《1984》的預言,人臉辨識已成威權國家是常用的工具。

不只極權國家,事實上 51% 的民主國家也會使用人臉辨識,作為實現智慧城市與智慧型警政(smart policy)願景的工具。例如在英國南威爾斯(South Wales),當地警政就以自動化臉部辨識(AFR locate),在當地的大型集會中,找尋潛在公共危險的嫌犯。他們使用監視器(CCTV)檢視,當 AI 做出「符合」的判斷後,將此資料送往人類分析員判斷,再根據判斷考慮是否發動進一步的盤查。

此舉被地方法院起訴,認為地方警政機關違反歐洲人權公約第八條,即保障私人生活、隱私、通信的權利,特別是第八條第一項的生物特徵,地方法院主張生物特徵(人臉)擁有內在隱私性(intrinsically private)。

這被延伸出另個爭議:AI 從犯罪統計資料庫中,找尋潛在的「罪犯」,這是否也涉及 AI 演算法的科技歧視呢?

演算法的黑箱,放大歧視?

林昕璇質疑,演算法恐透過人類編碼員,重塑種族主義的回饋迴路(feedback loop),讓科技不再中立,而是複製,甚至加重的人類社會的歧視。

我們可以先瞭解,演算法是如何運作的。要知道一名人類是否為恐怖份子,你得先輸入或辨別他的基本資料,例如「他是男性」、「他造訪過阿富汗」、「他是穆斯林」、「他在社群上有潛在危險發言」,透過權重、權重矩陣和各類隱藏層的決策因素後,機器就可辯駁為:他是恐怖份子!

這裡我們看見兩個隱憂。第一,造訪過阿富汗的穆斯林就一定是恐怖份子嗎?這樣的判斷未免過於絕對,隱藏著種族歧視的危機。第二,中間隱藏層的決策因素為何?演算法的黑箱讓人霧裡看花,好像那些科技龍頭總是可以一手遮天,只告訴你答案,卻不公開計算過程,讓監督與審核更加困難。

與談人何明暄分享一個案例,因為今年疫情關係,全球學生無法出門參與大考,因此英國決定以演算法來決定學生的成績,以及他們能上哪一所大學。但這套演算法的評量結果,與老師推算的成績,居然有約 4 成學生的成績不同,所以被受到社會質疑。

老師與學生更進一步發現,來自私立學校學生的演算法評分與老師的評分較接近,但公立學校學生的成績卻會被演算法低估,權重被調低。此舉涉嫌歧視較為貧窮的公立學校學生,且直接影響學生的受教權,引發英國社會熱議。

5f3b3c760b69a
Photo Credit: 路透社/達志影像
憤怒的英國群眾上街抗議大考演算法。

但說到底,人類才是歧視的元凶

我們已經得知,演算法的確會存在偏見,但人類要就此判演算法死刑嗎?

演算法的歧視是無法避免的狀況,畢竟編碼、權重都是由人類設定,所以演算法是「繼承」了人類社會的歧視,至少演算法的歧視和偏見是「看得見」的,也可以被矯正且透明化供檢視的。但建立這套演算法的人類,其偏見是很難被矯正或被看見的。解鈴還需繫鈴人,這回到了人類社會的本質性問題:人類要如何消弭歧視?

林昕璇呼籲科技公司,須遵循公法價值的機制,要公開、透明演算法的編碼機制,才能被第三方組織與大眾給互相制衡,將問題搬到檯面上,一起解決科技帶來的隱憂,才能為社會帶來好的價值及循環。

核稿編輯:Anny

延伸閱讀:



5G+AI 引爆超級物聯網!無線網路解決方案大廠 Ubiquiti Inc. 培養員工「一人公司」模式,打造國際級網通方案

物聯網風潮下,無線網路解決方案大廠 Ubiquiti Inc. 分享他們如何培養開放、創意的企業文化,在吸引人才,提供良好的環境下,造就出國際頂尖的解決方案。
評論
Photo Credit:Ubiquiti Inc.
評論

第一代物聯網最早出現於 2010 年代,被視為顛覆商業世界的 The Next Big Thing。隨著這幾年聯網基礎建設的普及化,加上 5G、AI 運算技術的成熟,新一代超級物聯網逐漸成形,宣告全球進入 AIoT 智慧物聯網時代。

當萬物設備得以聯網又能智慧做出反應之後,能為現代生活帶來哪些改變?幫助企業 IT 以更高效率、更節省人力方式,全面管理辦公室設備即是一例!

全球前三大網通解決方案商 Ubiquiti Inc.(UI)看準疫情發生後,IT 團隊在管理內部聯網設備所遭遇的痛點情境,助攻 IT 人將危機化為轉機。究竟從日常工作當中,UI 怎麼培養出一群「超挑剔」的工程師?洞察使用者的深度需求,開發出令市場感到驚豔的解決方案!

打造一站式企業設備聯網管理平台,幫助 IT 釋放潛能發揮自動化價值

IT 部門對企業而言,只是處理斷網、解決設備通訊問題的救火角色嗎?事實上,數位轉型趨勢加上疫情之後遠端協作、混合辦公模式興起,IT 的價值比過往更受到重視!

UI 台灣產品設計總監楊宗樺指出,「隨著企業門禁管控、能源管理、燈具語音,越來越多設備聯網化,意謂『人機協作』更加頻繁,IT 成員的價值應該從例行維修、監測工作,升級為對整體基礎設備環境的分析、優化功能,藉此釋放人力的核心價值。」

當企業 IT 人員面臨一人多工情境,UI 的企業用安全解決方案,也就是身份即服務(IDaaS)平台,就能幫助 IT 成員基於雲端身份認證,落實企業網路保護以及各種 EoT(Enterprise of Things)設備的自動化授權管理。換言之,IT 成員可以在遠端預先做設備運作排程,並且從 UniFi OS 統一管理介面,看到各項設備的使用情境,進而重新配置資源、減少能源浪費。

如此一來,IT 成員不需每天做重複性工作,還用最少時間達成一鍵式管控情境,不用再像過去要來回切換不同設備商的管理系統,大幅提升作業效率,讓 IT 成員投入更有價值的工作。

▲透過 UniFi Identification (UID) 系統,可以整合企業內實體與 SaaS 雲端身份認證,簡單又安全地進行 IT 管控。 

UI 培育員工養成「一人公司」思維,以最挑剔的使用者角度投入開發

針對市場的痛點,不斷找出藥到病除的解方,正是 UI 追求的價值主張。由於 UI 研發總部設置台灣,許多產品從原型發想、概念確認、功能驗證、討論協商、再到進入市場,種種環節都是在台灣發生,也因此 UI 養出一批「最挑剔、不輕易妥協但又有開放思維」的生力軍。

楊宗樺解釋,「 UI 特別重視使用者體驗,每一位成員是 owner 也是 user,因此我們期待不論是産品經理或開發人員,都具備産品規劃與産品思考能力。」換言之,UI 以「一人公司」思維培育夥伴,每位成員是個人品牌的執行長,同時又能團隊合作成為全方位人才。對此,UI 部署哪些制度,讓工作氛圍保有如新創企業的車庫文化?

楊宗樺回應,一來 UI 組織扁平化,沒有繁瑣科層制度讓跨職務的溝通,產生極高效率;二來開放式辦公環境,打破部門壁壘,每項專案如蜂巢型態,彈性橫跨多個單位分工。以及最後一項最重要的「Home Lab」機制,也就是讓研發中的產品原型給員工拿回去使用、測試,以用戶角度蒐集第一手使用感受,進而更聚焦核心問題,降低研發過程的雜訊。

既然人才是企業最珍貴的資產,UI 吸納多元人才有三大方案,第一是職涯發展性,工程師不怕一年累積十年功,最怕十年都在做同一年的事,UI 眾多產品線又有完整軟硬體團隊,因此 UI 有一套「Rotation Program」讓成員「適才適所」因應興趣轉換單位。

Photo Credit:Ubiquiti Inc.
UI 任職滿一年的員工,都可以申請 Rotation Program ,到其他適合的部門擔任不同職位。

另一個讓夥伴在職場持續紮根的「Learning Program」,提供資源讓成員培養第二技術專長,或是持續深耕自身專業,甚至有導師機制,邀請同儕或外部講師藉由系統化的知識課程分享,持續開拓職涯的多元性。「在我們 UI 最常說不怕你學不夠,只怕你不學!」楊宗樺笑稱。

Photo Credit:Ubiquiti Inc.
UI Taiwan 產品設計總監楊宗樺指出, UI 以使用者體驗為中心的思維,也同樣落實到團隊的每個人身上。

隱藏在台的外商隱形冠軍,招攬樂於冒險的台灣人一起打世界盃

攤開 UI 在台發展路徑,算是產業教科書的另類「隱形冠軍」。不同於其他外商研發設計多半設置在歐美國家,台灣提供的產業分工為代工製造,UI 反其道而行,研發總部從 2010 年就設立於台灣,汲取台灣的創新能量,持續與國際團隊協作,讓市占率一路攀升到全球前三大,展現「美皮台骨」的混血特色。

「台灣研發總部原本只負責少數項目,現在已經具備一條龍流程,掌握從技術開發到產品落地,也從單純硬體到軟硬整合,隨著時間證明,台灣人才也能在世界舞台發光。」楊宗樺說。

Photo Credit:Ubiquiti Inc.
目前 UI 全球有近 1300 名員工,作為研發總部的台灣現有 553 人。

迎向萬物聯網盛世,UI 也看到 5G、AI 應用的擴展,讓聯網設備的應用型態,有了更多可能性。身為網通設備領域的領頭羊,能肯定的是,UI 會繼續展開新的産品線以及解決方案的應用廣度,顯然是一條看不到盡頭的道路。

加入 UI 近 10 年的楊宗樺,他說「在這邊深感 excited 的是看著原本只是想像的產品,經由團隊合作,能迅速在世界舞台嶄露頭角。如果你是勇於作夢,有想改變世界的使命又具備對産品的熱情,非常歡迎來大聯盟舞台,盡情展現你的才華吧。」UI 邀請有志之士聯手打造國際級網通方案,成為 AIoT 智慧物聯網時代的創造者!

了解更多 UI 企業文化與產品研發思維:
Life at UI Taiwan Facebook Life at UI Taiwan Youtube