老大哥正在看著你!社會歧視與人權侵犯讓人臉辨識蒙上一層陰影

微軟發現,商用人臉識別識別膚色較淺的男性準確率最高,而失誤率最嚴重的是膚色較深的女性。人臉識別技術到底帶來了安全保障,還是帶來了歧視,侵犯了個人自由?
評論
評論

本篇來自合作媒體 愛范兒 ,INSIDE 授權轉載。

人臉識別其實還是不成熟的技術,具體表現在對膚色和性別的歧視上。微軟發現,商用人臉識別識別膚色較淺的男性準確率最高,而失誤率最嚴重的是膚色較深的女性。

這可算是人臉識別的「技術偏見」了。這種偏見一旦在大範圍應用中「顯現」,聲討種族和性別「歧視」的聲音,將會淹沒微軟。

為了解決充滿偏見的技術,微軟 Face API 團隊對其識別系統進行了三次重大改進。最新的人臉識別系統,識別膚色較深的人錯誤率降低了 20 倍,識別所有女性的失誤率減低了 9 倍。

研究發現,微軟和 IBM 的識別黑人女性出錯率高. Photo Credit: Daily Mail

儘管有了改進,但目前的人臉識別,還不是完美的系統。微軟認為,問題的根本解決辦法還是訓練資料庫,需要收集更多的資料,包括不同膚色、髮型和臉部飾品等。

事實上,這些偏見造成的原因不能完全怪到人工智慧身上,技術也是反映真實社會的鏡子。

微軟研究實驗室的高級研究員、AI 系統公平性專家 Hanna Wallach 一份聲明 中回應:如果我們訓練機器學習系統使用有偏見的社會產生的資料,來模擬那個社會做出決定,那麼這些系統必然會重現它的偏見。

例如,在一些社區中,黑人的犯罪率更高,AI 根據收集來的資料,更容易把膚色較深的人劃分到「逃犯」的分類中。這是群體給個體的傷害,人臉識別只不過「遵循了」社會偏見。

微軟人臉識別的情緒檢測功能. Photo Credit: thenextweb

相比起導致「歧視」,研究團隊更希望 AI 能檢測和減輕偏見,以彌補現實社會中的不完美。追捕逃犯用大範圍攻擊的「種族炮」和「性別炮」容易傷及無辜,人臉識別的方向是更精密的「狙擊槍」。

一直對人臉識別技術保持警惕的美國,其海關部門也要啟用人臉識別系統,但收到強烈的反對。

關於人臉識別,最近亞馬遜的問題也很多,先是 美國公民自由聯盟 向亞馬遜提交請願信,接著 100 多名內部員工也要求執行長 Jeff Bezos 停止向美國警方出售人臉識別軟體 。目前,美國奧蘭多市警察局與亞馬遜的人臉識別合同已過期,雙方還沒決定續約。

亞馬遜內部員工簽署 的部分內容:「我們公司不應該在監控業務中;我們不應該參與警務工作;我們不應該從事支持監督和壓迫邊緣化人群的人。」

ICE 將啟用微軟人臉識別軟體. Photo Credit: Inc.

儘管微軟員工與亞馬遜員工的想法一致,堅決認為人臉識別軟體侵犯人權,對美國最近的移民政策尤其不滿,希望微軟執行長 Satya Nadella 停止與 ICE (美國移民和海關執法部門) 簽署協議 ,但目前仍沒收到成效。

人臉識別技術到底帶來了安全保障,還是帶來了歧視,侵犯了個人自由?美國科技公司們的「糾結」,也許值得我們思考被人臉識別,到底是不是妥當的?


精選熱門好工作

Partnership Manager

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

網頁前端工程師

Omlet Arcade 美商歐姆雷特
臺北市.台灣

獎勵 NT$20,000

資深商品開發人員(Sr. Product Development)_台北、上海

科毅研究開發股份有限公司
新北市.台灣

獎勵 NT$20,000

評論