用戶發現 Twitter 演算法存在種族偏好,官方:將深入研究

過去 Twitter 開發出神經網路自動辨識照片重點,裁切預覽照片時可以瞄準重點。近日,在推特上許多用戶上傳幾組圖片實驗發現,白人比起黑人更容易被顯示出來。
評論
參議院多數黨領袖麥康奈爾(Mitch McConnell)和美國前總統歐巴馬(Barack Obama),推特的自動裁切顯示為前者
參議院多數黨領袖麥康奈爾(Mitch McConnell)和美國前總統歐巴馬(Barack Obama),推特的自動裁切顯示為前者
評論

演算法向來都是社群平台重要的技術資產,用戶摸不著猜不透,不過,近期在推特上發現的自動裁切照片演算法卻讓網友質疑種族偏見問題,讓 Twitter 官方無法坐視不管。

過去 Twitter 開發出神經網路自動辨識照片重點,裁切預覽照片時可以瞄準重點。近日,在推特上許多用戶上傳幾組圖片實驗發現,白人比起黑人更容易被顯示出來。

參議院多數黨領袖麥康奈爾(Mitch McConnell)和美國前總統歐巴馬(Barack Obama),推特更偏好顯示哪位政治人物?網友在推特上展開實驗。

螢幕快照_2020-09-21_下午5_46_48
原先上傳的圖片最後裁切顯示為 Mitch McConnell

網友發 Twitter 似乎更偏好 Mitch McConnell。同時測試不同背景底色、各自使用不同領帶配色、反轉顏色後得到不同的照片預覽結果,也有網友試圖用一樣的照片套上黑色背景與白色背景,結過發現白色背景的圖片能夠完整顯示,帶有黑色邊框的圖片則被裁切較多面積,引發網友對於推特有色族裔偏見的質疑。

推特設計長 Dantley Davis 下方回應,這些看起來是個案,但是團隊會好好研究更多變量。同時,他附上一張照片測試,身穿一樣衣服、同為白色背景的人像,中間刻意放置矩形黑色面積將兩張相片間隔區域,結果可以發現,推特自動裁切的是黑人的部分。

Twitter 通訊團隊成員 Liz Kelly 對外媒 Mashable 澄清,團隊在發表模型之前就進行偏見測試,沒有發現種族或性別偏見的證據。但是,從這些案例中可以明顯看出,需要做更多的分析。Twitter 承諾已經著手進行研究,並將繼續分享最新發現以及後續將採取的行動。

在 2018 年,Twitter 曾發表文章,解釋如何使用神經網路在照片預覽上。系統選擇圖像的一大重要關鍵是較高的對比度。這似乎可以解釋為什麼系統演算法更偏愛白人的原因。並非是刻意針對種族劃分,然而,這樣的演算法設計的確也讓用戶發現白人的結果大於黑人,仍然感受來自於算法的偏見。

不論原因如何,針對這樣模糊不清的算法引發用戶對系統偏見的疑慮,Twitter 目前都需要更深入的分析模型,並給出用戶合理的解釋。

核稿編輯:Chris 

延伸閱讀: