Google 解雇 AI 倫理科學家 Timnit Gebru 激起 2000 名員工與 AI 業界人士連署抗議

Google 人工智慧倫理 (Google Ethical AI) 的部門技術主管 Timnit Gebru,她在 12 月 2 日於 Twitter 發布推文表示,她在向 Google 公司內部電子郵件列表「谷歌大腦女性聯盟」(Brain Women and Allies) 發送一封電子郵件後,就遭到 Google 不正當解雇。
評論
Credit: Google / 蜜雅截圖
評論

這次的導火線起因於 Timnit Gebru 與其他同事發表了一篇研究報告,指出Google 使用的 AI 技術是透過學習人為資料而運作,因此很有可能會模仿人類做出偏差行為或是發表仇恨言論,警告 AI 技術的使用必須非常謹慎。

Gebru 原本要在明年的研究會議發表報告內容,卻被 Google 的高層主管退回,她因此威脅要辭職,並且在一封內部電子郵件抱怨 Google 對於弱勢族群缺乏作為,Gebru 之後在 Twitter 上透露她因此遭到開除。不過 AI 部門的主管 Jeff Dean 表示,Gebru 的研究報告並沒有達到公開發表的標準,而且當初是她威脅要辭職,所以 Google 並沒有開除她。

傑出的黑人女性研究員

Timnit Gebru 畢業於史丹佛大學,主修電氣工程,之後加入 Apple,曾參與第一台 iPad 研究。她是著名的技術多元化倡導者,並曾創立「Black in AI」的黑人研究人員社群,在 BLM 期間也是指標性的搖旗吶喊角色。一直以來,她對科技公司對待黑人員工的方式都直言不諱地提出批評。

Gebru 加入 Google 之前,便已經是業界中著名的科學家,她曾在 2018 年與研究夥伴合著了一份被廣為引用的論文:他們發現 AI 臉部辨識技術在膚色較深的女性,出錯率比一般更高。

解雇過程充滿不正當性

科技媒體 Platformer 於事後公開 Gebru 引爆這次爭議的內部電子郵件,指稱 Google 上級要求她撤回發表研究論文,但同時沒有提供任何其他訊息,也沒說明論文有什麼問題,她壓根沒機會為自己辯護。 信件中她也很不滿 Google 口口聲聲要實現多元化,卻沒有做出任何實質性改變,更指出 Google 缺乏改變自身領導地位的根本動機。

Gebru 在接受 Wired 採訪時表示,她研究的爭議始於 11 月,當時 Google 的高階主管要求她將自己的名字從一份她合著論文中的作者欄移除,該論文由 Google 內部和外部研究人員共同撰寫。該篇論文重點在討論 Google 及其他科技公司可能利用人工智慧工具,模仿人類製造仇恨言論及偏見語言。

Gebru 表示:「研究員不可能只不斷提出順公司意的評論,那有違研究者的初衷。」

Gebru 表示曾試圖與 Google 進行談判,提出同意將她的名字從論文中刪除,以換取 Google 對反對論文一事的完整解釋,並希望討論將來該如何共同面對處理此類問題,如果公司拒絕,她將主動離開。

後來她卻收到 Google 告知,她的「辭呈」已經獲得批准,但她並未送出辭呈,且通知中還稱 Gebru 昨晚傳的郵件中,表達的觀點「有和公司管理人員期望不符的行為」。Google 更切斷了 Gebru 公司電子郵件的權限,執意將她開除。

業界人士積極抱不平

Gebru 突然的離職,在 Google 和整個 AI 研究領域中都造成很大的衝擊。如今有超過 2000 名 Google員工和 1500 名學術研究人員聯合聲援 Gebru,目前 Google 公司內部組成了一群罷工團隊,控訴公司對性騷擾和性別歧視的處理不當。連署內容表示,Google 越來越常出現有關種族主義、性別歧視等負面消息,在如今的公司環境中,研究完整性已經不再被重視,Gebru 被解聘更證明一名獨特多產的貢獻者反而面臨「戒心、種族主義、欺瞞、研究審查及報復性解聘」。

「Google 研究環境中的研究公正性不再穩當,而 Gebru 博士的解僱揭發了 Google 對旗下研究員研究自由的限制與控管。」抗議者在信中說道。

「我認為這是一個笑話,因為考慮到她的專業知識,她的技能,她的影響力,任何人解僱 Gebru 似乎都很荒謬,」前 Reddit 執行長 Ellen Pao 在Twitter上表示:「這是讓我認為科技行業根本沒有希望的事件之一。」

這次事件在未來是會繼續發酵,還是就此石沉大海,現在還很難說。但 Gebru 突如其來的離職,加劇了多年來各界對 Google AI 多元化研究的疑慮。宏觀上來看,Google 正在面臨新一輪的道德危機。

延伸閱讀:



上雲猶如太空探險之旅,iKala Cloud AIOps Services協助企業輕鬆穿梭多雲環境

人類從上個世紀積極探索外太空,為了將太空人送上天際必須克服各式挑戰,而現代企業要從「地端」飛向「雲端」,困難程度有過之而無不及。iKala Cloud AIOps Services 提供多項關鍵服務,幫助 IT 團隊輕鬆悠遊多雲環境。
評論
評論

探索外太空,曾經是國際間的科技競賽,近年 Tesla 創辦人馬斯克更準備把太空旅行當成商業服務,預計 2026 年要帶著人類登陸火星。完成一趟星際旅行,需仰賴嶄新的科技及跨科學精密計算,但你知道嗎?現代企業要從「地端」飛上「雲端」,其實挑戰程度不亞於飛向太空。

對企業資訊管理者來說,有限的 IT 資源無法應付繁重的維運項目,加上同時管理公私有雲架構更顯困難、資安管理複雜,例如需要人工執行過濾警示,各種大大小小挑戰不勝枚舉。換言之,企業想航行雲端,就像打造火箭需要龐大資源及人力。不過,現在有更輕鬆穿梭雲端的方式,就是使用雲端技術服務商 iKala 所提供的 AIOps Services(自動化雲端託管服務)

火箭升空前的全盤規劃:iKala AIOps 擬定系統架構規劃、教育訓練

完成一趟太空之旅,必須做足各種研究,例如精準計算飛行軌道、降落定位點、燃料耗用數、與地球通訊設定…等。

對沒有雲端架構經驗的企業來說,就如同當時的科學家,必須用土法煉鋼的方式檢查數據是否有誤。換言之,企業 IT 在升級之前,就需要有經驗的「雲端顧問」來釐清需求、協助規劃「升雲」之旅。而 iKala 就是企業的最佳雲端顧問,旗下 iKala Cloud AIOps Services 會搭配一位專責的技術客戶經理,協助企業提供即時的技術服務與專業建議。

究竟 IT 升級之前,iKala Cloud AIOps Services 有哪些服務?首先是「系統設計規劃」,涵蓋系統架構規劃書、系統上線/遷移計畫書,可因應客戶產業需求,提供對應的解決方案以及顧問服務。而越來越多企業會使用到 Google 的雲端資源,iKala 也有提供 Google 雲端平台訓練服務。

GCP 教育訓練課程多元,包含 GCP 基礎架構(網路設定規劃、權限控管、計算資源等)、大數據與機器學習(大數據分析 Pipeline、BigQuery、ML 模型訓練與應用)、軟體開發技術與流程(容器化、CI/CD、DevOps)等。因為 iKala 團隊取得 10 多項 Google 專業技術證照,才能在企業規劃雲端轉型的前期就一步到位,規劃出整體藍圖,提供更全面的解決方案建議。

火箭升空中的精密操作:iKala AIOps 輔助即時技術維運、資安管理

當火箭準備就緒、升空倒數之際便是決定這趟太空之旅能否成功的關鍵時刻。從太空人的行前訓練與身體檢查,到火箭的引擎測試完成,如果有靜電或一點火花都可能引發爆炸事故。光是在升空階段,太空總部就要有結構、熱控、姿態控制、資料處理、電能、遙傳指令、推進以及飛行軟體等龐大的系統工程師在旁待命。

換言之,企業 IT 移轉雲端過程就像火箭發射的當下,需要有專業、經驗足夠的工程師,才能即時協助企業順利上雲,甚至快速排除緊急的狀況。對此,iKala Cloud AIOps Services 提供兩大關鍵的幫助:技術維運、資訊安全管理。

iKala Cloud AIOps Services 的技術維運服務內容,提供 7 x 24 的 Help Desk,像是緊急 GCP 問題報修、產品使用技術諮詢;或是事故管理,如搭建監控系統、設定規劃告警政策、規劃日誌收集與留存。每月也會提供企業維運報告,報告書有營運效率檢討、流程優化、新服務項目、營運系統建議等。

至於資訊安全管理方面,除了基本的 GCP 專案權限控管掃描、應用程式 OWASP(Open Web Application Security Project)前 10 大項目資安弱點掃描,同時也針對近年相當受重視的 DDoS 防護,iKala 可協助企業導入 GCP 平台的 DDOS 防禦機制。iKala 掌握多年軟體開發和雲端管理經驗,可分享給客戶 DevOps、AI 第一手實務的作法與經驗。

火箭升空後啟動自動導航:iKala AIOps 提供 AI 自動化監控、帳務管理

當火箭成功升空後,太空人為了執行下一階段任務,這時候火箭就需要轉換成自動駕駛模式,或在探索其他星球時,出動機器人來協助執行人力無法負荷的任務,讓太空人專心處理更關鍵的工作。換言之,上雲後的 IT 架構就像升空後的火箭,應該減少 IT 人員的負擔,甚至不需浪費例行時間,就能夠快速掌握整體資訊系統的運作狀況。

不過要讓 IT 架構像火箭具備自動駕駛功能,勢必需要相當高的技術門檻,而 iKala Cloud AIOps Services 正好有相對應的服務。如此一來,IT 人員的生產力就能投入在更具商業價值的研發專案,讓 IT 部門轉型成可創造產值的單位,而非單純的後勤支援角色。

盤點 iKala Cloud AIOps Services 在此環節共有三大類服務。其中一項是 AI 自動化監控與通報服務,幫助 IT 成員主動監控系統,掌握是否有異常操作狀況。其二是帳務方面的管理,幫助企業產出雲端服務月用量帳務分析報告,針對軟體授權需求,整合出帳至  Marketplace 與第三方服務商,自動化做到 License 採購管理。

第三項則是針對服務級別協定(SLA)iKala Cloud AIOps Services 提供 24 x 7、5 x 8 兩種模式,在重大 GCP 服務異常中斷服務時,提供電話、e-mail 聯繫。而且每月會舉辦 1 次月會(以 on-site 或遠端視訊會議方式)提交書面報告。目前 iKala 的企業客戶服務超過 400 多家、涵蓋數 10 種產業,可說是企業成功上雲,最能安心託付的合作夥伴。 

事實上,雲端託管服務(CMS)是目前最夯的新趨勢,根據市調公司 MarketsandMarkets Research 報告指出,全球雲端託管服務的市場規模,預計從 2020 年的 624 億美元,到 2025 年成長至 1,162 億美元,複合年增長率(CAGR)為 13.3%。代表未來有大量企業採用 CMS,以降低 IT 基礎設施的投資成本及風險,藉此提升企業營運的競爭力。

由此看來,企業的數位轉型,就像上個世紀的太空軍備競賽一樣。「時間就是決勝點」,越晚起步的公司與其他數位能力領先群的企業相比,差距只會越來越大。現在就攜手 iKala 嘗試 iKala Cloud AIOps Services,打造穩定的 IT 系統、邁向數據驅動的商業模式,讓企業在數位世代站穩腳步,輕鬆穿梭多雲之間。

了解更多 iKala Cloud AIOps Services