人權在網路世界中危機重重?演算法掌控社會的隱私與歧視挑戰

在我們每天賴以維生的網路,也存在著科技的人權侵害?2020 網路治理論壇(TWIGF)請到法律學術研究與業界專家,一同探討演算法社會下網路人權的現狀與挑戰。
評論
Photo Credit: Pixabay
評論

在 2020 網路治理論壇(TWIGF)中,數位人權是被與談人一直提到的命題之一,更特別設一議程「演算法社會下網路人權的現狀與挑戰」,請到法律學術研究與業界專家,討論在網路世界下的人類使用者,可能因隱私侵犯、演算法偏見等問題,遭受人權上的侵害。

推薦閱讀:2020 台灣網路治理論壇今開幕,數位人權成重要命題!

隱私在科技下無所遁形

Photo Credit: INSIDE/MindyLi
工作坊「演算法社會下網路人權的現狀與挑戰」。

根據中央研究院法律所博士後研究學者林昕璇的分享,AI 監控與人臉辨識是否符合憲法定義下的人權維護,一直是法律界討論的議題。根據卡內基國際和平基金會(Carnegie Endowment for International Peace)於去年發布的報告顯示,猶如科幻小說《1984》的預言,人臉辨識已成威權國家是常用的工具。

不只極權國家,事實上 51% 的民主國家也會使用人臉辨識,作為實現智慧城市與智慧型警政(smart policy)願景的工具。例如在英國南威爾斯(South Wales),當地警政就以自動化臉部辨識(AFR locate),在當地的大型集會中,找尋潛在公共危險的嫌犯。他們使用監視器(CCTV)檢視,當 AI 做出「符合」的判斷後,將此資料送往人類分析員判斷,再根據判斷考慮是否發動進一步的盤查。

此舉被地方法院起訴,認為地方警政機關違反歐洲人權公約第八條,即保障私人生活、隱私、通信的權利,特別是第八條第一項的生物特徵,地方法院主張生物特徵(人臉)擁有內在隱私性(intrinsically private)。

這被延伸出另個爭議:AI 從犯罪統計資料庫中,找尋潛在的「罪犯」,這是否也涉及 AI 演算法的科技歧視呢?

演算法的黑箱,放大歧視?

林昕璇質疑,演算法恐透過人類編碼員,重塑種族主義的回饋迴路(feedback loop),讓科技不再中立,而是複製,甚至加重的人類社會的歧視。

我們可以先瞭解,演算法是如何運作的。要知道一名人類是否為恐怖份子,你得先輸入或辨別他的基本資料,例如「他是男性」、「他造訪過阿富汗」、「他是穆斯林」、「他在社群上有潛在危險發言」,透過權重、權重矩陣和各類隱藏層的決策因素後,機器就可辯駁為:他是恐怖份子!

這裡我們看見兩個隱憂。第一,造訪過阿富汗的穆斯林就一定是恐怖份子嗎?這樣的判斷未免過於絕對,隱藏著種族歧視的危機。第二,中間隱藏層的決策因素為何?演算法的黑箱讓人霧裡看花,好像那些科技龍頭總是可以一手遮天,只告訴你答案,卻不公開計算過程,讓監督與審核更加困難。

與談人何明暄分享一個案例,因為今年疫情關係,全球學生無法出門參與大考,因此英國決定以演算法來決定學生的成績,以及他們能上哪一所大學。但這套演算法的評量結果,與老師推算的成績,居然有約 4 成學生的成績不同,所以被受到社會質疑。

老師與學生更進一步發現,來自私立學校學生的演算法評分與老師的評分較接近,但公立學校學生的成績卻會被演算法低估,權重被調低。此舉涉嫌歧視較為貧窮的公立學校學生,且直接影響學生的受教權,引發英國社會熱議。

5f3b3c760b69a
Photo Credit: 路透社/達志影像
憤怒的英國群眾上街抗議大考演算法。

但說到底,人類才是歧視的元凶

我們已經得知,演算法的確會存在偏見,但人類要就此判演算法死刑嗎?

演算法的歧視是無法避免的狀況,畢竟編碼、權重都是由人類設定,所以演算法是「繼承」了人類社會的歧視,至少演算法的歧視和偏見是「看得見」的,也可以被矯正且透明化供檢視的。但建立這套演算法的人類,其偏見是很難被矯正或被看見的。解鈴還需繫鈴人,這回到了人類社會的本質性問題:人類要如何消弭歧視?

林昕璇呼籲科技公司,須遵循公法價值的機制,要公開、透明演算法的編碼機制,才能被第三方組織與大眾給互相制衡,將問題搬到檯面上,一起解決科技帶來的隱憂,才能為社會帶來好的價值及循環。

核稿編輯:Anny

延伸閱讀:



讓 AI 成為顧客的美鞋顧問!awoo AMP 讓 Ann’S 女鞋創造超過 3 倍電商轉換率的秘訣

女鞋品牌Ann’S 結合 awoo AMP 的各種創新優勢,以數據結合 AI 優化的方式調整行銷策略,帶來更多網站及產品流量,創造電商轉換率超過 3 倍的秘辛解析。
評論
photo credit:阿物科技
評論

Ann’S 女鞋品牌於 2003 年成立,打造內外兼具、舒適又好看的美鞋,也開發不少獨家設計款,深受女星、部落客、模特兒等名人的喜愛以及消費者的支持。目前旗下商品除流行美鞋、手工婚鞋、各種包款,也將產品範疇延伸至居家用品、生活小物等,多達近 2000 種品項。而 Ann’S 的銷售渠道從實體門市、電商官網到官方 APP ,致力於讓消費者能擁有超個人化的購物體驗。然而在近 2000 種的豐富品項中,如何讓每個消費者都能以優質體驗找到最適合自己的鞋子,成為 Ann’S 最關心的任務,也是與 awoo 合作的契機。

商品分類再優化,Ann’S 女鞋以數據為本串連消費者喜好

「官網內有上千個商品,如何分類才能讓消費者輕鬆購物?」網站商品琳琅滿目,從各種鞋款、包包到居家生活小物等近 2000 筆, Ann’S 雖已做好完善的商品分類,但過去多仰賴行銷人員的市場經驗來判斷。此外,面對日趨複雜且破碎化的消費者行為與偏好, Ann’S 也希望能根據真正消費者與進站用戶的購物偏好,以數據為本進行敏捷式調整,讓行銷策略變得更加精準,驅使消費者輕鬆買單。

awoo AMP 中的 SEO 自動化、站內搜尋優化、豐富的商品推薦版位、 Pop-up 促進轉換等功能,會強化顧客旅程中每個接觸點上商品與顧客的連結,提供個人化的購物體驗。 Ann’S 表示:「品牌自行產生很多分類目錄,非常花時間、也易讓網站變得凌亂。搭配 awoo AMP 功能,可以讓消費者更快速方便就能配對到喜歡的產品方向,同時也對 SEO 有所幫助。」

利用 SEO 自動化,提高搜尋引擎滲透度,網頁收錄數增加 7 倍

電商行銷佈局從消費者意圖出現的時候就已經開始,第一步就是要讓有明確意圖的消費者更容易進站購物!awoo 獨家 SEO 自動化技術「自動化商品集合頁 awoo Page」能透過 AI 自動生成對搜尋引擎友善頁面,提高搜尋引擎滲透度,同時加強網站權重,不僅奠定優質的流量基礎,也提升頁面排名以及增加工作階段。

透過上述技術, awoo Page 為 Ann’S 網站新增多個入口,網頁收錄數增加高達 7 倍,也讓有明確購物需求的潛在消費者能夠更容易搜尋到 Ann’S 的商品,並且直接進入商品集合頁找到想要的商品,甚至在疫情期間補足受影響的全站流量。相較於系統串接前,分類頁的流量提升 18.48%,而產品頁的流量更成長 31.74%。

透過 AI 優化站內搜尋、商品分類與推薦機制,提升消費體驗同時提高平均訂單價值、電商轉換率大增 2 倍

不同消費習慣,電商行銷策略也大不同!針對有較明確意圖的消費者, awoo AMP 會進行自動特徵提取,包含關鍵字集、行為特徵、頁面特徵,分析像是「真皮 足弓 鞋」、「尖頭鞋 沙發後跟」及「彈性 襪靴」這類較具有明確意圖的購物情境標籤,分析出消費者意圖後進而推薦符合需求的商品。

另外 Ann’S 也觀察到尚未有明確購買意圖的族群,則最常點擊「人氣商品推薦」及「本週新品」這兩種分類頁。針對這群消費者, awoo AMP 會自動生成各種吸引人的商品標籤,提高進站用戶的興趣及購買意願。也就是說, Ann’S 原先的商品分類,搭配 awoo 商品標籤自動化及自動生成情境商品集合頁的 awoo Page 功能,能讓 Ann’S 女鞋的商品組合能見度最大化,除了吸引更多流量,也創造更多轉換。

採用 awoo AMP 後, Ann’S 電商網站內的受眾較多以點擊 awoo 標籤的形式去瀏覽相關商品,就像我們平常在實體店面逛街一樣,服務體驗好,提袋率就高,平均工作階段時間長度成長 280% ,而用戶點擊 awoo 標籤進行購物的流程所產生營收也最高,不僅電商轉換率增加 2 倍,其中 awoo pop-up 商品推薦功能所帶來的轉換率更是超過全站的 3 倍。

Ann’S 女鞋的銷售渠道從實體門市、電商官網到官方 APP,致力於讓消費者能擁有超個人化的購物體驗,透過阿物科技 awoo AMP 一站式 AI 行銷平台, Ann’S 也獲得亮眼的電商銷售成績,除了持續優化站內購物體驗,更讓 AI 成為顧客的專屬美鞋顧問!



關於阿物科技

awoo Intelligence 阿物科技是以 AI 驅動的 MarTech 在地新創,首創以產品為中心,深度了解消費者意圖的預測模型,推出台灣第一個全通路 AI 行銷自動化平台,提供超過 20 個功能與服務的 SaaS 模式,涵蓋流量獲取、轉換優化、再行銷、會員留存與數據加值應用,協助零售與電商打造全通路無縫接軌的超個人化用戶體驗。阿物科技目前於東京、嘉義與台北皆設有營運據點,服務超過 16,000 名企業用戶,專業 AI Lab 更配置 30 位菁英成員,致力協助客戶達成商業目標。如需更多資訊,請至阿物科技官網

想了解關於 awoo AMP 產品,歡迎聯絡我們,或 email 至 [email protected]

本文章內容由「阿物科技」提供,經關鍵評論網媒體集團廣編企劃編審。