AI 科學家的怒吼!超過 1000 名專家譴責「臉部辨識預測犯罪」技術

專家批評,這類有偏見的演算法根本就是一種「監獄流水線科技」(tech-to-prison pipeline),目的是讓執法機構透過「假客觀」演算法的背書,為個人的偏見與暴力行為辯護。
評論
▲Photo Credit: Shutterstock/ 達志影像
評論

在電影《關鍵報告》(Minority Report)裡,未來世界執法機構能預測何時、何地、何人會犯罪,及早埋伏並在他們犯下罪行前先逮補。而近期也有研究號稱可以透過臉部辨識「預測」潛在罪犯,結果引起大批 AI 科學家的怒吼,共同譴責這類研究!

「看臉」就能預測你會不會犯罪?

近期,美國哈里斯堡科技大學(Harrisburg University)發表一篇研究,結合機器學習和臉部辨識技術,聲稱可以「看臉」就預測這個人是否為潛在罪犯,並表示有高達 80% 準確率,且不具有種族偏見。

而總部位於德國柏林的出版社 Springer,也在即將推出的研究叢書中收錄該篇論文。由於 Springer 是知名的科學、技術與醫學領域書籍出版社,因此引起超過 1000 名來自哈佛大學、麻省理工學院、Google 以及微軟的 AI 人工智慧領域專家學者們共同撰寫一封公開信,大力反對。

根據 VICE 報導,這封公開信直接了當地指出,根本不存在所謂「能預測不具種族偏見的犯罪預測系統」,因為現有的刑事司法數據庫本來就充滿了種族主義。

舉例來說,因為警察有偏見,所以會更容易懷疑特定種族、族群,也讓這群人成為刑事數據資料庫的大宗;同樣地,因為法官有偏見,會更傾向判決某些人更重的判刑,也讓這群人成為司法數據資料庫的弱勢族群。

他們呼籲 Springer 撤回這篇論文,同時應該發表聲明譴責這類技術應用,並承諾未來不再發表類似的相關研究。

假客觀的演算法,其實是一套「監獄流水線科技」

這些 AI 專家學者們為何如此憤怒?因為這不是機器學習界第一次推出類似研究。前幾年,有研究論文聲稱可以藉由曾被定罪犯人的臉部數據,進行數據訓練並用演算法來預測未來犯罪行為。當時就有專家跳出來指責,說這只是建立一個「回饋迴路」(feedback loop),進而強化那些在執法和司法程序上容易被邊緣化並歧視的族群,例如:非裔族群等。

在「George Floyd 之死」事件後,針對種族主義、警察執法過當的抗議活動也在全美延燒。專家們因此批評,這類有偏見的演算法根本就是一種「監獄流水線科技」(tech-to-prison pipeline),目的是讓執法機構透過「假客觀」演算法的背書,為個人的偏見與暴力行為辯護。

除了專家學者,科技公司們也都意識到危險性。因此,日前 IBM 宣布將永久退出臉部辨識業務,而亞馬遜未來一年內,也將暫停供應執法機構臉部辨識系統。

畢竟,人類無可避免地會有偏見,也導致所產生的數據容易有偏見;一旦將這些數據視為「真理」,那只是創造一個弱弱循環的悲慘世界。

核稿編輯:Mia

延伸閱讀:



打造你的幸福理財儀式感,經營品味生活!

9/23 20:00 永豐銀行攜手關鍵評論網舉行「DAWHO之夜」直播活動,由吳怡霈主持,邀請樂居網創辦人李奕農、理財專家大俠武林,一起線上教你如何打造品味生活!
評論
評論

你是不是也希望理想的生活能夠趕快實現!想營造好的lifestyle不僅需要用心在生活細節,更要懂得為自己的人生規劃。9月23日關鍵評論網將與永豐銀行DAWHO數位帳戶攜手舉辦一場線上直播活動──「大戶品味生活家」,與你一同了解品味生活的三大秘訣:「愛上生活細節、效率買房、聰明理財」,聆聽達人的經驗、逐步實現夢想。

品味生活有門道 理財買房有訣竅

「大戶品味生活家」的線上直播活動,邀請到甜美的吳怡霈擔綱主持。懂生活、美食和穿搭的她,同時也是一間飾品店老闆,直播中將請她分享一路走來的居家生活規劃術,同時聊聊身兼多重角色的心得,從她的經驗將能看到擁有財富是第一步,懂得經營生活與管理更是永續之路!

活動中也特別邀請到樂居網的創辦人李奕農,聽他娓娓道來初次買房的過程,及現今房市的趨勢與未來發展;同時也邀請到36歲就靠存股擁有亮眼被動收入的理財專家大俠武林,分享個人的投資心法,並分析須留心的財經脈動。

值得信賴的數位帳戶品牌

除了自己對於生活品質的追求及投資心法的學習,擁有令人安心的儲蓄工具更能走得順風順水。疫情的影響讓線上服務蓬勃發展,傳統的金融業也陸續走向數位化。永豐銀行在這波轉型浪潮中,積極推動全方位金融體驗,其中DAWHO數位帳戶提供安全可靠的線上帳戶申請,及豐富的金融產品,包含DAWHO理財型房貸、大戶投等,幫助顧客掌握細節、效率買房、聰明理財,精明而輕鬆地管理財富。

鎖定直播說分明

現在立即開啟手機行事曆,記下09/23 20:00-21:00準時加入線上直播,跟著我們一起邁向屬於自己理想的質感生活!

了解DAWHO數位帳戶:https://lihi1.com/yvNmW