人權在網路世界中危機重重?演算法掌控社會的隱私與歧視挑戰

在我們每天賴以維生的網路,也存在著科技的人權侵害?2020 網路治理論壇(TWIGF)請到法律學術研究與業界專家,一同探討演算法社會下網路人權的現狀與挑戰。
評論
Photo Credit: Pixabay
評論

在 2020 網路治理論壇(TWIGF)中,數位人權是被與談人一直提到的命題之一,更特別設一議程「演算法社會下網路人權的現狀與挑戰」,請到法律學術研究與業界專家,討論在網路世界下的人類使用者,可能因隱私侵犯、演算法偏見等問題,遭受人權上的侵害。

推薦閱讀:2020 台灣網路治理論壇今開幕,數位人權成重要命題!

隱私在科技下無所遁形

Photo Credit: INSIDE/MindyLi
工作坊「演算法社會下網路人權的現狀與挑戰」。

根據中央研究院法律所博士後研究學者林昕璇的分享,AI 監控與人臉辨識是否符合憲法定義下的人權維護,一直是法律界討論的議題。根據卡內基國際和平基金會(Carnegie Endowment for International Peace)於去年發布的報告顯示,猶如科幻小說《1984》的預言,人臉辨識已成威權國家是常用的工具。

不只極權國家,事實上 51% 的民主國家也會使用人臉辨識,作為實現智慧城市與智慧型警政(smart policy)願景的工具。例如在英國南威爾斯(South Wales),當地警政就以自動化臉部辨識(AFR locate),在當地的大型集會中,找尋潛在公共危險的嫌犯。他們使用監視器(CCTV)檢視,當 AI 做出「符合」的判斷後,將此資料送往人類分析員判斷,再根據判斷考慮是否發動進一步的盤查。

此舉被地方法院起訴,認為地方警政機關違反歐洲人權公約第八條,即保障私人生活、隱私、通信的權利,特別是第八條第一項的生物特徵,地方法院主張生物特徵(人臉)擁有內在隱私性(intrinsically private)。

這被延伸出另個爭議:AI 從犯罪統計資料庫中,找尋潛在的「罪犯」,這是否也涉及 AI 演算法的科技歧視呢?

演算法的黑箱,放大歧視?

林昕璇質疑,演算法恐透過人類編碼員,重塑種族主義的回饋迴路(feedback loop),讓科技不再中立,而是複製,甚至加重的人類社會的歧視。

我們可以先瞭解,演算法是如何運作的。要知道一名人類是否為恐怖份子,你得先輸入或辨別他的基本資料,例如「他是男性」、「他造訪過阿富汗」、「他是穆斯林」、「他在社群上有潛在危險發言」,透過權重、權重矩陣和各類隱藏層的決策因素後,機器就可辯駁為:他是恐怖份子!

這裡我們看見兩個隱憂。第一,造訪過阿富汗的穆斯林就一定是恐怖份子嗎?這樣的判斷未免過於絕對,隱藏著種族歧視的危機。第二,中間隱藏層的決策因素為何?演算法的黑箱讓人霧裡看花,好像那些科技龍頭總是可以一手遮天,只告訴你答案,卻不公開計算過程,讓監督與審核更加困難。

與談人何明暄分享一個案例,因為今年疫情關係,全球學生無法出門參與大考,因此英國決定以演算法來決定學生的成績,以及他們能上哪一所大學。但這套演算法的評量結果,與老師推算的成績,居然有約 4 成學生的成績不同,所以被受到社會質疑。

老師與學生更進一步發現,來自私立學校學生的演算法評分與老師的評分較接近,但公立學校學生的成績卻會被演算法低估,權重被調低。此舉涉嫌歧視較為貧窮的公立學校學生,且直接影響學生的受教權,引發英國社會熱議。

5f3b3c760b69a
Photo Credit: 路透社/達志影像
憤怒的英國群眾上街抗議大考演算法。

但說到底,人類才是歧視的元凶

我們已經得知,演算法的確會存在偏見,但人類要就此判演算法死刑嗎?

演算法的歧視是無法避免的狀況,畢竟編碼、權重都是由人類設定,所以演算法是「繼承」了人類社會的歧視,至少演算法的歧視和偏見是「看得見」的,也可以被矯正且透明化供檢視的。但建立這套演算法的人類,其偏見是很難被矯正或被看見的。解鈴還需繫鈴人,這回到了人類社會的本質性問題:人類要如何消弭歧視?

林昕璇呼籲科技公司,須遵循公法價值的機制,要公開、透明演算法的編碼機制,才能被第三方組織與大眾給互相制衡,將問題搬到檯面上,一起解決科技帶來的隱憂,才能為社會帶來好的價值及循環。

核稿編輯:Anny

延伸閱讀:



快商務時代來臨!解密電商如何拼快送布局

快商務的核心價值是滿足消費者的需求,但物流配送的核心是「穩」,對消費者而言,貨物運送的品質及運送時間準確性是基礎要求,再來才是追求快速等附加價值,雙管齊下才能獲得消費者的信賴。
評論
快商務時代到來,速度與方便性成為品牌決勝點。Photo Credit:爆米花數位
評論

去年年中一場疫情,民眾足不出戶,讓大家都感受到物流快與穩的重要性。隨著快商務(quick commerce)的發展,電商業者不再只競爭誰家商品多、誰家優惠多,全方位的服務才是電商之戰的新主場,尤其是物流服務,更成為通往消費者心中的關鍵道路。

根據 KPMG 報告,隨著都市化程度越來越高,小家庭與獨戶家庭也不斷增加,消費者的購物行為也發生變化,在現在的消費市場中,少量商品的需求越來越多,速度與方便性比以往任何時候都更加重要,也是品牌的決勝點之一。

快商務元年?國內外電商龍頭早已開始布局

快商務顧名思義就是要求快速交付貨物,跨國外送公司 Delivery Hero 也指出,快商務是電商的新時代,要縮短這傳統的最後一哩路,更要靠科技服務。除了空間及交通系統的優化,當然還有包含 AI 預測及庫存管理系統,透過數據和技術來減少成本。根據摩根大通的研究指出,Amazon 可能成為美國最大的物流公司,Amazon 自 2019 年開始就發展「一日到貨計劃」,為 Prime 會員推出 24 小時到貨服務,靠著自動化技術不斷優化物流流程,在幅員遼闊的美國做到一日到貨服務。

美國電商龍頭Amazon靠著自動化技術優化物流流程,在美國也做到快商務。圖片來源:shutterstock

而提到快商務在台灣的發展,便會想到 PChome 24h購物,2007 年 PChome 24h購物首創 24 小時到貨專區,在台灣電商與物流界掀起革命,為了掌握更全面的服務,也建立自有車隊,把關送貨速度及品質,目前 PChome 已在北部六縣市推動 6 小時到貨試營運,預計於 2022 下半年開始啟用 A7 中華郵政智慧物流園區營運,可望進一步提升為 4 小時到貨,值得期待。近來因外送平台的興起,從美食外送到生活用品外送,將送貨時間縮短到 24 小時內,開始以個位數小時計,2021 年 7 月登台的韓國電商 Coupang 更是打出未來 10 分鐘到貨,刺激台灣電商業的物流布局。 

韓國亞馬遜之稱的coupang進軍台灣,打出10分鐘到貨口號。圖片來源:Coupang 酷澎-官方FB

快商務發展三布局

1. 採取包圍戰加強衛星倉

過去電商為了管控出貨品質,常以大型集中式倉儲為戰略,隨著快商務興起,加上都市化程度越來越高,設點在市區、離消費者更近的衛星小倉儲也成了不可或缺的倉儲策略。

大型集中式倉儲及小衛星倉兩者雙管齊下,更能同時提升速度與品質。亞洲物流科技新創 Pickupp 於 2021 年 7 月進軍台灣,其在城市內與小型實體店面合作「共享衛星倉」,透過彈性的方式與店面共享空間,將一些實體店面的閒置倉庫和空間變成物流中心,以增加衛星倉的數量,提升物流效率之外也幫助實體商家帶來額外收入,對自身服務、消費者、商家等來說多方受惠。

2. 強化運能保留彈性

過去台灣的物流產業以大型貨車為主要運送工具,隨著外送平台的興起,人們漸漸注意到機車的運能在城市生活更加便利,機動性高,運送成本也較低。

PChome 24h購物自有車隊即有超過 200 台貨車與機車的配置,且送貨品質如包裝的完整度及乾淨度高,隨著快商務需求增加,近來更與 Pickupp 合作,加強機車運能,可紓解臨時訂單或是交通塞車的問題,在維持品質之餘,也努力讓物流運送更有效率。

電商平台與物流平台聯手,機動性更高的摩托車運能讓配送服務快上加快。圖片來源:Pickupp台灣-官方IG

3. 數位化加強配送效率

傳統物流是人力密集產業,電商業的優勢在於可收集數據,預測更多的消費者行為,數位化成為快商務的一大助力,不僅在倉儲空間可設有自動化技術,如自動搬運機器人 AGV、機器手臂等,在物流上,也能藉由數位化計算訂單的時間、材積、路線後給予最有效的分配。

從消費者在線上展開購物體驗開始,AI 技術即可預測消費者可能購買商品,並進行貨物倉儲布局,當消費者下單,更能根據訂單內容、材積、運送地點計算出最適合出貨的方式和路線。PChome 24h購物今年將啟用的 A7 自動倉儲中心,除了倉儲面積增加五成,更大量使用AI人工智慧與物流結合,運用自動化技術降低人力、加速揀貨速度,預計啟用之後包裹處理量將提升一倍以上,運能也將提升 2 倍。

數位化倉儲成為快商務一大助力。圖片來源:爆米花數位

快商務蓬勃發展,物流核心價值不能忘 

快商務的核心價值是滿足消費者的需求,但消費者的需求是否完全圍繞著快,也是視情況而定,除了快,在商務上也有許多本質是不能偏廢的,例如建立與消費者的信賴感。電商自有車隊的物流士穿著整齊乾淨制服在街頭穿梭,以及貨物乾淨完整送到消費者手上,甚至在春節假期也提供不打烊配送服務,即使消費者臨時有送禮或是生活用品需求,不用離開團圓現場就能依靠有品質的快商務完成,滿足現代消費者的需求及渴望,無形中也帶給消費者信賴感。

快商務服務不只包含「快」,貼近消費者需求的「穩」亦然重要,如專業有素的電商物流士、過節不打烊的貼心配送。圖片來源:爆米花數位

在目前追求快速的浪潮下,其實最不能忘記的是物流配送的核心──「穩」,對消費者而言,貨物運送的品質及運送時間準確性是基礎要求,再來才是追求快速等附加價值。維持原先的穩定外,再因應快商務的潮流,雙管齊下才能獲得消費者的信賴。 

本文章內容由「爆米花數位」提供,經關鍵評論網媒體集團廣編企劃編審。