臉部辨識惹議,亞馬遜宣布:警方所使用的辨識系統暫停一年

亞馬遜執行長貝佐斯公開發文力挺黑人權益,旗下所提供的服務或企業運作上是否能真正消弭存在歧視和危害人權的作為才是更值得注意的!
評論
Shutterstock/達志影像
Shutterstock/達志影像
評論

在 IBM 宣布退出臉部辨識相關業務,亞馬遜也於近日宣布暫停讓執法部門使用有爭議的 Rekognition 臉部辨識平台,這項禁令為期一年時間。

Amazon Rekognition 是亞馬遜旗下機器學習技術自動化影像和影片分析程式,可辨識影像和影片中的各種物體、人物、文字、場景和活動,也能偵測不當的內容。另外,臉部分析和臉部搜尋功能,可用於偵測、分析和比較臉部資料,以進行各種使用者驗證、人數統計和公共安全使用。

Rekognition 背後透過自訂標籤,可以辨識出影像中特定於業務需求的物件和場景。例如,可以建立模型來對裝配線上的特定機器零件進行分類或偵測運作狀態不佳的工廠。除了販售給私人使用,在美國也政府機構提供給執法機關使用,包括 ICE 和佛羅里達州奧蘭多市的警察,但臉部辨識的使用一直存在著人權爭議,如今隨著美國非裔男子喬治.佛洛伊德(George Floyd)事件,種族示威掀起軒然大波,亞馬遜也不得不面對來自各界的質疑。

Rekognition 人權與種族問題惹議

在 2019 年一項研究分析 Amazon Rekognition 存在許多問題,MIT 媒體實驗室的科學家 Joy Buolamwini 指出亞馬遜的系統有著重大問題,研究中發現 Rekognition 無法辨識膚色較黑者的性別,且會誤認為膚色較黑的婦女為男性。研究發現,該系統在分析膚色較淺者時圖像的錯誤率幾乎為零,且與 IBM和 Microsoft 類似的服務相比,亞馬遜的系統在辨識女性臉部和膚色較黑臉部時更為困難,問題可能出訓練系統的數據集,絕大多數的資料可能是男性和白人。

即便過去一直否認研究結果的發現,但在美國爆發種族衝突以後,亞馬遜在稍早宣布,將不再讓警方使用 Rekognition 臉部辨識軟體,這項禁令會維持長達一年的時間。

亞馬遜聲明如下:

亞馬遜將暫停警察使用臉部辨識技術 Amazon Rekognition 一年時間。將繼續讓國際失蹤與受虐兒童中心以及 Marinus Analytics 等組織使用,幫助救援人口販運受害者讓失蹤兒童與家人團聚。 亞馬遜提倡政府制定更有力的法規來管理人臉辨識技術的道德使用,希望此次為期一年的暫停可以使國會有足夠的時間執行適當的規則,亞馬遜隨時可提供相關協助。

亞馬遜並沒有給出做出此決定的具體理由,只是呼籲聯邦政府對該技術進行監管,最好由國會制定人臉辨識的相關法規。

品牌高層聲援能否化為具體行動

本週 IBM 執行長 Arvind Krishna 近日表示,為了促進種族平等將不再提供執法單位臉部辨識或分析軟體,也不會再繼續開發、研究這些技術。

IBM 認為各種臉部辨識技術涉及種族歧視、基本人權與自由侵犯,與 IBM 在 2018 年發表的「信任與透明度原則」(Principles of Trust and Transparency)初衷背道而馳,用於大規模監視並不當, IBM 宣布退出臉部技術業務以後,亞馬遜也跟進對旗下臉部辨識服務的禁令。

本週亞馬遜執行長貝佐斯也對警察暴力執法表態,公開發文力挺黑人權益,受到消費者回信謾罵後,將信件截圖公開表示自己願意失去這位顧客,表達其鮮明立場,不過在上層公開聲援黑人平權時,旗下所提供的服務或企業運作上是否能真正消弭存在歧視和危害人權的作為才是更值得注意的。

核稿編輯:李柏鋒

延伸閱讀:




精選熱門好工作

行銷企劃主管

安力國際開發股份有限公司
臺北市.台灣

獎勵 NT$15,000

Training and Quality Lead 客服訓練主管

新加坡商星圓通訊股份有限公司台灣分公司
臺北市.台灣

獎勵 NT$15,000

資料庫管理人員 (總公司)

明台產物保險股份有限公司
臺北市.台灣

獎勵 NT$15,000