【硬塞書摘】:《大數據的傲慢與偏見》-撕裂社會、傷害民主,歡迎認清演算法的黑暗面

「大數據與演算法全都由數字組成,它很科學、中性。」這是人們從支持者中最常聽到的一句話,但你知道演算法是 2008 金融海嘯的重大幫兇嗎?你知道美國專吸窮人學貸的大學學店,過去十年因網路廣告,就讀人數成長兩倍嗎?
評論
評論

「大數據與演算法全都由數字組成,它很科學、中性。」這是人們從支持者中最常聽到的一句話,但你知道演算法是 2008 金融海嘯的重大幫兇嗎?

對,沒有多少人會在 2017 年的現在否認這兩者重要性。AlphaGo 接連打敗世界棋王、無人車即將駛上街道,這些看似神奇的人工智慧背後都由大數據與演算法所驅動。許多人們相信,優秀的電腦程式不僅一兩秒內就能會我們處理好數以千計的資料,迅速整理出有意義的排序,也日以繼夜研究我們的慾望、行蹤與消費力,自動把最適合我們的選擇、我們的未來端到面前。但把事情翻個面看,出現在你面前的每則網路廣告與貼文都被精心設計過,也僅是常識。金融業者正爬著臉書,從一言一行中推估你的信用額度;政治人物也在計算你的年齡、性別與意識形態,在數位世界說出討好你的話爭取你的選票。

身為一個數學家以及金融海嘯的見證人,本書《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》作者凱西.歐尼爾想告訴你大數據和演算法已成為了這個時代的「數學毀滅性武器」。它們有多可怕?金融海嘯已重創世界經濟一次,凱西.歐尼爾還用實例告訴你,演算法已經深深危害到了美國人的治安、求職與保險市場。本文就拿最嚴重的「教育」與「金融」兩大部分向大家介紹。

金融海嘯是迷信數字的惡果

金融海嘯發生時,作者凱西正以德劭對沖基金量化分析師的身份,在震央華爾街親眼目睹一切。我們知道金融海嘯起因是把房貸打包成金融商品造的禍,但房貸擔保證券其實不是新鮮事,過去幾十年一直被華爾街認為是乏味的金融商品,是散戶與基金用來分散投資組合的工具。會發生問題,是因 2001 年 911 恐攻後美國央行積極壓低利率,之後幾年內助長了銀行大量發行房貸擔保證券。

房貸擔保證券本身問題也不是那麼大,問題大的,反而是那些銀行用著充滿瑕疵的「數學風險模型」,認為有專業的量化分析師嚴格控管風險,也不會有很多借款人同時還不出錢,天真認為靠著演算法次級房貸就不會出事情。「風險模型假定未來將延續過去的型態;弔詭的是,之前似乎功能強大的演算法(它們負責分析房貸風險,並將房貸打包成不同級別的證券,創造出房貸證券這個市場),在危機爆發後,原來對收拾爛攤子、計算這些證券的真正價值毫無作用。」作者嚴厲的控訴,

「這些演算法可以分析一些垃圾數據,但無法估算反映客觀現實的價值。」

作者凱西.歐尼爾本人也因此對華爾街的量化分析工作感到幻滅。但金融危機後,大數據與演算法更侵蝕了美國高等教育。

網路廣告,讓進入學店的窮人永不翻身

你聽過美國的「鳳凰城大學」嗎?沒聽過很正常,包括鳳凰城大學在內,很多美國學校被稱為文憑工廠(就是學店),往往以政府出資的學生貸款為主要財源(但這些貸款最後還是由學生要還!),而它們頒發的文憑在職場根本不受重視。在許多行業裡,這些學校所頒的文憑,並不比高中學位更有價值。

這些學校以脆弱的低下階層為目標市場,以向上流動為誘餌,致力吸引窮人報讀,也還會做出像捏造學生就業率、濫收學雜費等惡行。『提供職業訓練課程的翡特羅特學院(Vatterott College)是個特別惡劣的例子。美國參議院 2012 年一份有關營利學院的報告談到翡特羅特的招生手冊,其內容顯得十分邪惡。該手冊指示招生人員以這些人為目標:「領社會福利、有孩子的女性;懷孕的女士;最近離婚的人;自尊低落的人;從事低薪工作的人;最近有親友去世的人;曾受肢體或精神虐待的人;最近坐過牢的人;在戒毒的人;工作沒前途,人生沒希望的人。」

但本書介紹,「2004 至 2014 年間,營利大學入學人數增加了兩倍;這些學校如今占美國的大學學生人口 11%。」為什麼?答案很簡單:網路廣告。鳳凰城大學光是花在 Google 廣告上的支出,至今已超過 5,000 萬美元;該集團花在每位學生身上的行銷費為 22,25 美元,但真正用在教學支出,只有 892 美元。

你或許會反駁,由演算法組成的數位廣告工具客觀、公正,而且觀察入微,好用,是那些為惡的人濫用了它們。但這正是本書作者想告訴你的,大數據與演算法已經變成跟核彈一樣恐怖的「數學毀滅性武器」,不僅可能充滿黑箱、偏見,而且威力太強大了,只要有人稍微濫用,就會造成嚴重後果。

「數以百計的模型根據我們透露的偏好和行為形態,將我們分類,替我們排名次或是給予評分。這替正當的廣告活動建立了有力的基礎,但也助長了掠奪式廣告──這些廣告針對處境艱難的人,賣給他們虛假或過度昂貴的希望。它們盡情利用各種不平等的狀況賺錢,結果是鞏固了既有的社會階層結構,令當中種種不公平的情況一直延續下去。社會上最大的鴻溝,存在於體制的贏家與贏家的模型所掠奪的人之間。」

「掠奪式廣告往往就是典型的數學毀滅性武器。它們瞄準最迫切需要希望的人,以巨大的模型運作。在教育這領域,它們往往向目標顧客提供虛假的成功希望,同時計算如何從每一名潛在顧客身上賺最多錢。它們的運作造成巨大且非常惡劣的回饋環路,導致顧客背負巨額債務。受害者通常不知道自己是如何掉入陷阱的,因為這種運作是不透明的。那些廣告就是突然出現在電腦螢幕上,然後有人打電話來推銷產品。」

購書連結: 博客來

註:本文部分內容出自大寫出版《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》,INSIDE 獲授權引用。