學者發現:AI 如小孩模仿父母般,會學到既有偏見、歧視

Google 照片應用程式( Google Photos app)2015年就被逮到將非裔美國人標記為「大猩猩」。孟洛博士也發現其他 AI 系統中對女性和有色人種的偏見。
評論
△ Photo Credit: Shutterstock/ TPG Images
評論

         本篇來自合作媒體中央社,INSIDE 經授權轉載。

人工智慧( AI )系統依循演算法學習數位化書籍、新聞文章等所含資訊,但科學家發現,在過程中它們也吸收了資訊隱含的偏見,有時甚至出乎開發者意料以外。

△ Photo Credit: Shutterstock/ TPG Images

去年秋天,科技巨擘 Google 推出名為 BERT 的突破性新 AI 技術,目前已用於諸如 Google 搜尋引擎等服務。它可吸收大量數位化資訊,但其中隱含的偏見,包括存在數十、數百年之久以及新近出現的,它也一併內化,一如孩童對父母的不當行為有樣學樣。

舉例而言, BERT 及類似系統傾向將資訊工程與男性聯結,且往往也輕視女性。隨著 AI 科技推陳出新、日益精細,且應用產品越來越廣泛,科技企業防堵 AI 學習人類既有偏見的壓力將日增。

不過,科學家仍在研究 BERT 這類通用語言模型的運作方式。新 AI 技術所犯錯誤常讓他們感到意外。

舉例而言,電腦科學家孟洛(Robert Munro)近日將100個英文單詞輸入 BERT 的資料庫,其中包括「珠寶」、「寶寶」、「馬匹」、「房屋」、「金錢」、「行動」等。結果顯示, BERT 將這些字詞與男性聯結的機率高達99%,唯一例外是「媽媽」(mom)。

擁有電腦語言學博士、曾負責雲端運算平台「亞馬遜網路服務」(Amazon Web Services)自然語言和翻譯技術的孟洛指出:「這一如我們一直看到的歷史不平等。」有了 BERT 這項科技,孟洛擔心,偏見將會持續。

孟洛近日也在網路撰寫文章,描述他如何檢視 Google 和亞馬遜網路服務的雲端運算。根據他的說法,兩套系統都無法將「她的」(hers)辨識為代名詞,雖然它們可以正確判讀「他的」(his)。

Google 發言人表示,公司知悉相關議題,目前正採取必要措施來處理並解決問題。他還說,減少系統中的偏見既是 Google 的 AI 原則,也是優先事項。

亞馬遜則發表聲明指出,公司投入大量資源確保自家科技高度精確並減少偏見,方法包括設定嚴格基準、多方測試和投入多元訓練用資料數據等。

事實上,研究人員早就警告 AI 隱含偏見一事,實例包括警方和其他政府單位採用的人臉辨識系統,以及臉書(Facebook)和 Google 等科技業巨頭所提供的高人氣網路服務。 Google 照片應用程式( Google Photos app)2015年就被逮到將非裔美國人標記為「大猩猩」。孟洛博士也發現其他 AI 系統中對女性和有色人種的偏見。

BERT 與類似系統則更為複雜,人類難以預測它們最終會有什麼樣的行為。

華盛頓大學(University of Washington)專攻電腦語言學的教授班德(Emily Bender)表示:「甚至連建立這些系統的人,都不了解它們的行為方式。」

    責任編輯:蜜雅
   核稿編輯:Chris


王品集團藉 IT 升級抗疫,雲端化數位體質成致勝關鍵

看臺灣餐飲龍頭王品集團如何善用遠傳的雲端服務打造 IT 升級轉型,找到抗疫的關鍵能力,打造靈活致勝關鍵。
評論
Photo Credit::王品集團提供
評論

一場侵襲全球的疫情讓許多產業鏈都重新洗牌,特別是餐飲業在很多市場都變成「慘」業。台灣近期突然升溫的疫情態勢,讓許多企業面臨危機,但也有部分超前部署的業者在衝擊之下快速應變,找到新的營運與服務模式來降低衝擊。且看王品如何善用遠傳的雲端服務打造 IT 升級轉型,找到抗疫的關鍵能力。

機房雲端化降載人力負擔   啟動 IT 轉型奠定數位化創新基礎

臺灣餐飲龍頭王品集團,從 2015 年即開啟了 IT 轉型之路,在完成核心系統整併之後,2016 年開始推動機房雲端化,與遠傳合作把核心的 ERP 和 POS 系統正式轉移到遠傳 FET Cloud 雲端平台,打造更彈性靈活的 IT 架構,也為後續數位化發展奠定強大的基礎,也因為超前部署的數位思維,在去年開始因為疫情帶來餐飲服務模式的衝擊之下,得以快速轉變因應。

內圖1_機房雲端化
Photo Credit::遠傳提供

王品在 2016 年決定擁抱雲端,即是著眼於唯有卸除繁複的機房維運管理工作, IT 部門才有更多的資源來從事創新與營運優化,成為企業內部推動轉型的推手。為了維持核心系統服務不中斷,王品與遠傳雲端團隊前後經過一年的縝密規劃與累積信任,並透過積極靈活的內部推演,最後只花了比預期少一半的時間,即在前端門市絲毫沒有察覺的情況下,無痛完成 ERP 和 POS 系統的龐大資料搬遷上雲。

核心系統上雲後,有遠傳雲端團隊協助 7x24 的維運管理及監控,並採用遠傳電信的骨幹網路,不僅為王品大幅降載 IT 人力負擔,也同時提升系統效能、穩定度與可靠度。王品集團也在此雲端平台上積極展開各項由內而外的服務創新,包含王品集團官網、「王品瘋美食」APP 及 5 月底甫推出的「王品瘋美食購物網」等電商平台都架設在遠傳 FET Cloud 雲端平台上。

內圖2_APP點餐
Photo Credit::遠傳提供

王品集團靠超前部署 IT 轉型快速轉戰電商   遠傳雲端平台扮演穩定後援

因應全國升級三級警戒、餐廳禁內用衝擊之下,餐飲業被迫加速轉型。王品集團原本就有發展電商的計畫,除了與外送平台合作之外,更火速推出「王品瘋美食購物網」,以王品嚴選的概念,將頂級生鮮食材與旗下餐廳的美味料理透過宅配送到消費者的餐桌,搶攻「宅經濟」商機。

Photo Credit::王品集團提供

疫情考驗企業的應變能力,幸好王品早已超前部署雲端化,加上遠傳團隊即時彈性協助擴充雲端資源,多年累積的數位轉型成果在此刻充分展現。這是早期自建自維機房,當有新的服務需求開出時,需從硬體資源擴充開始漫長的導入及上線流程,所難以比擬的速度,也正是 IT 協助企業升級轉型的價值所在。

遠傳以自身轉型經驗出發   助企業找到最合適的 IT 升級轉型模式

遠傳深知數位轉型沒有一步到位的捷徑,而是一場漫長的旅程。身為國內大型企業的代表,遠傳從組織、流程均已踏上數位轉型之路,更結合自家 IT 與「轉型辦公室」的服務能量,將成功經驗「再服務化」,以顧問模式協助企業客戶找到 IT 升級轉型最合適的切入點,並由遠傳專業雲端團隊提供量身訂製的公有/私有/混合雲服務,以及整合大數據、人工智慧、物聯網等「大人物」創新應用的產業解決方案,致力成為企業數位轉型的最佳夥伴。

本文章內容由「遠傳」提供,經關鍵評論網媒體集團廣編企劃編審。