學者發現:AI 如小孩模仿父母般,會學到既有偏見、歧視

Google 照片應用程式( Google Photos app)2015年就被逮到將非裔美國人標記為「大猩猩」。孟洛博士也發現其他 AI 系統中對女性和有色人種的偏見。
評論
△ Photo Credit: Shutterstock/ TPG Images
評論

         本篇來自合作媒體中央社,INSIDE 經授權轉載。

人工智慧( AI )系統依循演算法學習數位化書籍、新聞文章等所含資訊,但科學家發現,在過程中它們也吸收了資訊隱含的偏見,有時甚至出乎開發者意料以外。

△ Photo Credit: Shutterstock/ TPG Images

去年秋天,科技巨擘 Google 推出名為 BERT 的突破性新 AI 技術,目前已用於諸如 Google 搜尋引擎等服務。它可吸收大量數位化資訊,但其中隱含的偏見,包括存在數十、數百年之久以及新近出現的,它也一併內化,一如孩童對父母的不當行為有樣學樣。

舉例而言, BERT 及類似系統傾向將資訊工程與男性聯結,且往往也輕視女性。隨著 AI 科技推陳出新、日益精細,且應用產品越來越廣泛,科技企業防堵 AI 學習人類既有偏見的壓力將日增。

不過,科學家仍在研究 BERT 這類通用語言模型的運作方式。新 AI 技術所犯錯誤常讓他們感到意外。

舉例而言,電腦科學家孟洛(Robert Munro)近日將100個英文單詞輸入 BERT 的資料庫,其中包括「珠寶」、「寶寶」、「馬匹」、「房屋」、「金錢」、「行動」等。結果顯示, BERT 將這些字詞與男性聯結的機率高達99%,唯一例外是「媽媽」(mom)。

擁有電腦語言學博士、曾負責雲端運算平台「亞馬遜網路服務」(Amazon Web Services)自然語言和翻譯技術的孟洛指出:「這一如我們一直看到的歷史不平等。」有了 BERT 這項科技,孟洛擔心,偏見將會持續。

孟洛近日也在網路撰寫文章,描述他如何檢視 Google 和亞馬遜網路服務的雲端運算。根據他的說法,兩套系統都無法將「她的」(hers)辨識為代名詞,雖然它們可以正確判讀「他的」(his)。

Google 發言人表示,公司知悉相關議題,目前正採取必要措施來處理並解決問題。他還說,減少系統中的偏見既是 Google 的 AI 原則,也是優先事項。

亞馬遜則發表聲明指出,公司投入大量資源確保自家科技高度精確並減少偏見,方法包括設定嚴格基準、多方測試和投入多元訓練用資料數據等。

事實上,研究人員早就警告 AI 隱含偏見一事,實例包括警方和其他政府單位採用的人臉辨識系統,以及臉書(Facebook)和 Google 等科技業巨頭所提供的高人氣網路服務。 Google 照片應用程式( Google Photos app)2015年就被逮到將非裔美國人標記為「大猩猩」。孟洛博士也發現其他 AI 系統中對女性和有色人種的偏見。

BERT 與類似系統則更為複雜,人類難以預測它們最終會有什麼樣的行為。

華盛頓大學(University of Washington)專攻電腦語言學的教授班德(Emily Bender)表示:「甚至連建立這些系統的人,都不了解它們的行為方式。」

    責任編輯:蜜雅
   核稿編輯:Chris


逆勢而上!阿物科技運用 AI ,加速旅遊咖疫後復甦

COVID-19 疫情爆發至今,持續衝擊台灣本土旅遊業者發展。awoo 阿物科技透過線上座談會,探討後疫情時代的數位轉型策略,分享現今旅遊業應如何部署,在疫情解封後迎戰「報復性旅遊潮」的商機。
評論
Photo Credit:阿物科技
評論

自 COVID-19 疫情爆發至今,全球不見趨緩,在台灣三級警戒近兩個月中,持續衝擊台灣本土旅遊業者生存發展。awoo 阿物科技憑藉豐富的數位轉型成功案例、多年的 MarTech 技術與 SEO 經驗,透過線上座談會,探討後疫情時代的數位轉型策略,邀請到 Tripresso  旅遊咖創辦人暨執行長洪明楓、awoo 阿物科技副總經理吳一凡、awoo 阿物科技行銷經理林秉寬,分享現今旅遊業應如何部署,在疫情解封後迎戰「報復性旅遊潮」的商機。

Photo Credit:阿物科技
awoo 行銷自動化服務應用講座,分享如何協助旅遊咖數位轉型。左起為 awoo 科技行銷經理 林秉寬;awoo 科技副總經理吳一凡;Tripresso 旅遊咖創辦人暨執行長 洪明楓

Tripresso 旅遊咖趁疫情整合底層供應鏈,滿足消費者更多場景需求 

Tripresso 旅遊咖自 2016 年以 B2C 一站式的旅遊平台起家,2018 年隨著業務的成長推出 TripSaaS 服務,再到 2019 年推出出差旅費管理系統 COMMEET,旅遊咖的客戶多為傳統旅行社,且多數仍以實體服務為主。但自疫情爆發後,旅行社無力應對國旅、海外旅客銳減的衝擊,洪明楓表示,業者應趁疫情期間整合底層供應鏈,來滿足未來消費者多元的需求。

提早佈局!旅遊咖攜手 awoo 阿物科技,誓言打造旅遊電商生態圈

從團體旅遊服務起家的Tripresso 旅遊咖,為整合旅遊供應鏈,提供大型旅行社、小眾旅行社的服務系統化、數位化的運營,於 2019 年成立了 TripSaaS 公司,為傳統旅行社提供許多線上服務、快速架設網站、上架行程、管理訂單等。

整頓了底層供應鏈的需求後,旅遊咖卻面臨了在網站取得訂單的困境,從取得顧客到實際轉換,甚至因為旅遊產品的顧客特性,導致回訪率低的問題,都需要大力優化。從 2020 年起,Tripresso 旅遊咖多次尋訪台灣的數位轉型服務領導品牌,最終找上 awoo 阿物科技,其以 AI MarTech 的行銷平台聞名台日兩國,有效加速打造旅遊電商生態圈的進程。

awoo 阿物科技以理解商品出發,助攻旅遊業數位轉型,創造最懂消費者的網站體驗

Tripresso 旅遊咖整合旅遊供應鏈的服務,涵蓋航空公司、旅館、地面交通、替代住宿相關的旅遊資訊。過往這些服務旅行社需跨部門、跨公司接洽與溝通,導致花費許多時間與人力成本。雖然現在多數旅行社皆有提供線上下訂服務,但業者與旅行社仍難以清楚知道下訂使用者背後的真實「想法」,在下訂機票的同時,如何同時推薦使用者訂當地的旅館?如何把使用者的停留時間拉長,並提高轉換率?

為此,awoo 阿物科技提供了多達 20 種關鍵產品的功能,透過拆解商品背後的消費者意圖洞察,創造最懂消費者的網站體驗,從顧客獲取、行動喚起、創造營收到維持顧客, All-in-One  行銷平台協助旅遊業獲得最佳成效。另外 awoo 阿物科技在電商產業屢獲佳績,近期更協助 50 餘年歷史的 3C  零售商 EcLife 良興購物網,以 awoo AI 自動化降低人力,並創造轉換率大增 2 倍的亮眼成效 。 

電商數位轉型刻不容緩,awoo 阿物科技積極協助各行各業找出痛點

數位轉型是各行各業在面對新冠疫情時,都曾思考或煩惱的問題,但是如何轉型及應用、到商業策略中變現才是各產業界關心的議題。阿物科技為國內少數擁有利用 AI 將產品資料與消費者進行關聯性比對的系統,並使用消費紀錄、會員資料、網路上的商品分類等數據分析後,給予業者在商品陳列、庫存優化、適合的活動主題與企劃等建議。

 AI 結合大數據分析功能,能帶來實質的銷售業績成長與消費者反饋,阿物科技副總經理吳一凡表示,阿物身為 AI MarTech 新創,長期致力於協助實體零售解決產業數位轉型的痛點時,發現到數位轉型不僅僅只是領導者與老闆的責任,而是整個公司及員工都需要合作才有可能成功。另外,不論是廣義的實體服務或零售的數位轉型,電商的數位轉型之路都需要花費相當多的時間來磨合。

掌握零售電商數位行銷秘技,了解更多數位轉型案例,立即下載白皮書

瞭解更多:阿物科技的 MarTech 趨勢解密

本文章內容由「 awoo 阿物科技」提供,經關鍵評論網媒體集團廣編企劃編審。