Google 解雇 AI 倫理科學家 Timnit Gebru 激起 2000 名員工與 AI 業界人士連署抗議

Google 人工智慧倫理 (Google Ethical AI) 的部門技術主管 Timnit Gebru,她在 12 月 2 日於 Twitter 發布推文表示,她在向 Google 公司內部電子郵件列表「谷歌大腦女性聯盟」(Brain Women and Allies) 發送一封電子郵件後,就遭到 Google 不正當解雇。
評論
Credit: Google / 蜜雅截圖
評論

這次的導火線起因於 Timnit Gebru 與其他同事發表了一篇研究報告,指出Google 使用的 AI 技術是透過學習人為資料而運作,因此很有可能會模仿人類做出偏差行為或是發表仇恨言論,警告 AI 技術的使用必須非常謹慎。

Gebru 原本要在明年的研究會議發表報告內容,卻被 Google 的高層主管退回,她因此威脅要辭職,並且在一封內部電子郵件抱怨 Google 對於弱勢族群缺乏作為,Gebru 之後在 Twitter 上透露她因此遭到開除。不過 AI 部門的主管 Jeff Dean 表示,Gebru 的研究報告並沒有達到公開發表的標準,而且當初是她威脅要辭職,所以 Google 並沒有開除她。

傑出的黑人女性研究員

Timnit Gebru 畢業於史丹佛大學,主修電氣工程,之後加入 Apple,曾參與第一台 iPad 研究。她是著名的技術多元化倡導者,並曾創立「Black in AI」的黑人研究人員社群,在 BLM 期間也是指標性的搖旗吶喊角色。一直以來,她對科技公司對待黑人員工的方式都直言不諱地提出批評。

Gebru 加入 Google 之前,便已經是業界中著名的科學家,她曾在 2018 年與研究夥伴合著了一份被廣為引用的論文:他們發現 AI 臉部辨識技術在膚色較深的女性,出錯率比一般更高。

解雇過程充滿不正當性

科技媒體 Platformer 於事後公開 Gebru 引爆這次爭議的內部電子郵件,指稱 Google 上級要求她撤回發表研究論文,但同時沒有提供任何其他訊息,也沒說明論文有什麼問題,她壓根沒機會為自己辯護。 信件中她也很不滿 Google 口口聲聲要實現多元化,卻沒有做出任何實質性改變,更指出 Google 缺乏改變自身領導地位的根本動機。

Gebru 在接受 Wired 採訪時表示,她研究的爭議始於 11 月,當時 Google 的高階主管要求她將自己的名字從一份她合著論文中的作者欄移除,該論文由 Google 內部和外部研究人員共同撰寫。該篇論文重點在討論 Google 及其他科技公司可能利用人工智慧工具,模仿人類製造仇恨言論及偏見語言。

Gebru 表示:「研究員不可能只不斷提出順公司意的評論,那有違研究者的初衷。」

Gebru 表示曾試圖與 Google 進行談判,提出同意將她的名字從論文中刪除,以換取 Google 對反對論文一事的完整解釋,並希望討論將來該如何共同面對處理此類問題,如果公司拒絕,她將主動離開。

後來她卻收到 Google 告知,她的「辭呈」已經獲得批准,但她並未送出辭呈,且通知中還稱 Gebru 昨晚傳的郵件中,表達的觀點「有和公司管理人員期望不符的行為」。Google 更切斷了 Gebru 公司電子郵件的權限,執意將她開除。

業界人士積極抱不平

Gebru 突然的離職,在 Google 和整個 AI 研究領域中都造成很大的衝擊。如今有超過 2000 名 Google員工和 1500 名學術研究人員聯合聲援 Gebru,目前 Google 公司內部組成了一群罷工團隊,控訴公司對性騷擾和性別歧視的處理不當。連署內容表示,Google 越來越常出現有關種族主義、性別歧視等負面消息,在如今的公司環境中,研究完整性已經不再被重視,Gebru 被解聘更證明一名獨特多產的貢獻者反而面臨「戒心、種族主義、欺瞞、研究審查及報復性解聘」。

「Google 研究環境中的研究公正性不再穩當,而 Gebru 博士的解僱揭發了 Google 對旗下研究員研究自由的限制與控管。」抗議者在信中說道。

「我認為這是一個笑話,因為考慮到她的專業知識,她的技能,她的影響力,任何人解僱 Gebru 似乎都很荒謬,」前 Reddit 執行長 Ellen Pao 在Twitter上表示:「這是讓我認為科技行業根本沒有希望的事件之一。」

這次事件在未來是會繼續發酵,還是就此石沉大海,現在還很難說。但 Gebru 突如其來的離職,加劇了多年來各界對 Google AI 多元化研究的疑慮。宏觀上來看,Google 正在面臨新一輪的道德危機。

延伸閱讀:



【一圖看懂】民生基礎建設的資安防禦為何重中之重?ACW SOUTH 沙崙基地打造天然氣、石化、變電所三大測試場域為大眾保駕護航

這幾年的新冠疫情、俄烏戰事奪走許多寶貴生命,讓網路流行一句「你的歲月靜好,是有人為你負重前行。」當我們能夠安居樂業過著恬靜生活,其實是仰賴一群人在社會各個角落堅守崗位,多數人才能享受無虞的生活及安全的家園。
評論
Photo Credit:TNL Brand Studio
評論

我們在食衣住行許多方面皆與水、電、天然氣等資源息息相關,在高度數位化的現代,臺灣在面對這些資源的基礎建設時,網路安全的防禦為何比其他國家更需謹慎面對?這件事可以從俄烏戰爭獲得啟發。

Photo Credit:TNL Brand Studio

從俄烏戰爭居安思危,臺灣每月面臨 4000 萬次的網路攻擊

有人說如果有一天真的發生第三次世界大戰,那一定會發生在網路上。從近期的俄烏戰爭來看,除了使用傳統槍砲坦克,更值得注意的是雙方都派出大量 IT 駭客,攻擊對方的油水電重要基礎建設的伺服器、通訊設施,企圖阻斷即時資訊,藉此癱瘓敵方的民生設備運作。

事實上,一般駭客不會主動攻擊一個國家的基礎建設,大多是鎖定企業等級為目標,像是美國燃油管線營運公司,受到來自東歐的勒索病毒攻擊,被迫暫停營運同時還要支付新台幣 1 億 4,000 萬元的贖金,造成當地民眾恐慌,發生一波搶購燃油熱潮。

而臺灣因為政治戰略的因素,外部駭客總是虎視眈眈,想要癱瘓我國的民生關鍵基礎設施。過去幾年間臺灣每月平均受到 2,000 萬到 4,000 萬次外來攻擊,甚至懷疑一起大型惡意軟體攻擊,幕後的駭客是有國家力量在撐腰。

臺灣民生建設資安防禦迫在眉睫,ACW SOUTH 沙崙基地扮演關鍵角色

身為島國的臺灣,電力、石油、天然氣及水利等資源設備,是供應國內經濟發展及民生需求的重要資產。面對各項能源設備資安的防護,我國經濟部長王美花過去就曾公開表示,「油電水等關鍵設施假使被破壞,後果不堪設想,所以資安是重要基本功,一定要發展做好防護措施。

身為國內首屈一指的「ACW SOUTH 沙崙資安服務基地」(以下簡稱 ACW SOUTH 資安基地),承接起重責大任,提供資安實驗場域,模擬攻防演訓及產品驗測服務;也會邀請資安服務廠商與工控營運業者到沙崙場域,進行實作的技術交流。

ACW SOUTH 資安基地計畫團隊表示,「透過資安服務商與工控營運業者的交流分享,有助促進產業對於工控資安了解與場域運用;同時我們也會辦理工控資安等相關課程、研討會及交流會,鏈結資安與工控業者幫助雙方有更深入的技術合作。」

目前 ACW SOUTH 資安基地的「關鍵基礎設施工控場域」主要有「石化/化工、天然氣及變電所」三套系統,模擬五套攻擊劇本,協助相關基礎設備的管理者,在受到攻擊當下知道該如何反應,及早因應強化資安防禦實力。萬一遭遇偽造工作站監看數據、偽造命令操控電磁閥和空壓機、電驛傳輸通訊中斷等攻擊事件,就能立刻啟動應變流程。

走訪 ACW SOUTH 資安基地關鍵基礎設施,了解三大測試場域功能有多強

場域一、石化基礎設施
2020 年臺灣兩大石化公司接連傳出資安攻擊事件,部分資訊系統感染勒索軟體病毒,造成加油站的支付系統停擺,導致消費者付款機制受到影響。

ACW SOUTH 資安基地提供的化工模擬製程實體運作機櫃,是全台首座「石化/化工製程水位控制平台」,模擬情境為一般化工反應槽連續式循環水流水位控制,以水為循環流體模擬,可提供研究測試與訓練使用、自主開發攻防情境。來現場測試的業者,可透過視覺式監控介面與 DCS 收集現場監測儀表的即時資訊,做到收集完整數據紀錄及警報,具體測試資安防護設備與解決方案。

場域二、天然氣基礎設施
美國一家天然氣壓縮公司曾經受到勒索軟體攻擊,駭客透過魚叉式網釣攻擊入侵 IT 網路,再找機會滲透到 OT 網路,並在這兩個網路部署勒索軟體,導致人機介面、伺服器完全失能,公司業務被迫停擺兩天。

ACW SOUTH 資安基地的儲槽氣體壓力監控系統,模擬情境為天然氣廠氣體儲槽壓力,使用空壓機模擬天然氣體,當氣體壓力高於或低於警報值時,系統畫面警示工作站主機,並同時記錄數據變化、警報和事件。

場域三、變電所基礎設施
2021 年台電董事長說台電遭駭客攻擊幾乎每天發生;俄烏戰爭過程,俄羅斯駭客也曾嘗試對烏克蘭發電廠下手,利用資料破壞軟體發動攻擊,藉此癱瘓高壓變電所,讓烏克蘭當地無電可用。

電力系統無論在發電、輸電及配電的任一部分發生故障,都有可能影響整個供電系統異常,因此保護電驛的作用就在及早隔離故障,避免影響到後續的相關設備。ACW SOUTH 資安基地的保護電驛監控系統採用 IEC61850 標準來進行網路通訊,可用來監視、記錄電驛突發事件,藉此模擬變電所遭受攻擊的危機處理。

要讓臺灣關鍵基礎設施免於駭客襲擊,可說是天方夜譚,但我們能做的是提升資安、強化防禦韌性,更有餘裕時間來防禦或補救攻擊。ACW SOUTH 資安基地的關鍵基礎設施,目前打造了三大測試場域,擁有可實際演練的攻防腳本,並進行資安產品的驗測。

ACW SOUTH 資安基地深知臺灣以製造業起家,尤其近年半導體領域成為舉世聞名的護國神山;另外因應全球淨零碳排議題,綠能也是前景可期的重要產業。因此在 ACW SOUTH 資安基地除了有關鍵基礎設施,還設計智慧製造、智慧綠能、半導體及物聯網等主題,可為相關業者做攻防演訓及產品驗測,有助提升我國整體資安防禦力。

「經濟部工業局 廣告」