臉書動真格?用 AI 篩選刪除仇恨言論,卻遭外媒質疑成效灌水

臉書近期在官方部落格宣傳 AI 打擊仇恨言論內容成績,但卻被自家工程師反駁,並沒有外界想像的那麼優異。
評論
REUTERS/達志影像
評論

《華爾街日報》上週日的最新文章中指出,臉書透過 AI 抓取到的仇恨言論內容比例其實只有 2% 左右,而且從臉書內部流出的文件發現,臉書已降低人工審查的時間配比,並把多數資源投注在 AI 自動言論審查上。

但臉書近期在官方部落格中表示,在臉書上流傳的仇恨言論相比 Q3 以前下降約 50 %,亦即代表臉書對仇恨言論的審查及技術發展,已經擁有一定程度的能力。

但在報導中不具名臉書工程師表示,除非臉書特別調整戰略方向,不然要讓 AI 抓取篩選臉書仇恨言論的比例至 10% 到 20% 都很困難。

不具名工程師指出,臉書 AI 言論審查系統成績並沒有官方表述的那麼好

在華爾街日報的報導曝光後,臉書誠信部門副總 Guy Rosen 特別針對這項報導在官方部落格中提到:「在過去三年內在臉書上流傳的仇恨言論已下降 50%,那些說我們打擊仇恨言論技術不足的言論,是故意在歪曲我們的進步」。

Photo Credit:臉書

但臉書一名員工自 3 月發現到,其 AI 言論審查系統成功下降仇恨言論的比例只有約 3 到 5% 而已,抓到全部違反臉書言論審查制度的內容也才 1% 左右,所以會被華爾街日報踢爆指出臉書 AI 言論審查系統名不符實,其實有跡可循。

不過從臉書 Q2 的公開資料內容中進一步了解,臉書每筆 10,000 瀏覽人次的內容平均有 5 筆仇恨言論相關字詞,相比 2020 年的 10 筆仇恨言論次詞來看是有改善的,但差別在於是臉書真的有把成效灌水,還有華爾街日報為何特別針對此事特別報導?

自 2016 年以來,臉書在安全和防護上花費近 130 億美元,佔臉書總營收的 4%,所以臉書並不是沒有在言論審查上付出努力,再來早先臉書人工審查機制是因為多數舉報人為臉書使用者,現今臉書撤裁部分人工作業轉往 AI 言論審查,很大的可能是來自每週需要花費 200 萬美元、每年 1.04 億美元的鉅額成本的緣故,而且人力部分就吃掉 75% 的預算。

目前言論審查制度與系統最大的挑戰在於多國語言和每個國家、地區的生活用語習慣,要怎麼判斷這些話語跟仇恨言論關?像前陣子推特就有來自塔利班激進份子宣揚塔利班的軍事行動,要怎麼拿捏這些介於軍事、言語暴力、多國語言間的仇恨內容,才是 AI 言論審查系統需要面對的真正問題。

責任編輯:Archer
核稿編輯:Chris

延伸閱讀:



Akamai 擁有最卓越的執行能力,獲《Critical Capabilities》肯定

Akamai 是全球最受信賴的數位體驗保護和遞送解決方案供應商,連續四年獲得《Magic Quadrant for Web Application and API Protection (WAAP)》評選為領導者。
評論
圖片來源:Akamai
評論

Akamai Technologies, Inc. 是全球最受信賴的數位體驗保護和遞送解決方案供應商,在 2021 年《Magic Quadrant for Web Application and API Protection (WAAP)》(網路應用程式與 API 保護 (WAAP) Magic Quadrant) 中,獲 Gartner 評選為領導者。

Gartner 分析師評鑑 11 家廠商,並依據各廠商願景之執行力和完整度給分。在採用新命名的報告中,Akamai 在執行能力方面獲得最高評價。這份報告是 Gartner《Magic Quadrant for Web Application Firewalls》(網路應用程式防火牆 Magic Quadrant) 的進化版本,而 Akamai 在過去四年連續獲 Gartner 於該報告中評選為領導者。

Gartner 也發表了 2021 年《Critical Capabilities for Cloud Web Application and API Protection》(雲端網路應用程式與 API 保護的關鍵功能) 報告。這是 Gartner《Magic Quadrant for Web Application and API Protection》(網路應用程式與 API 保護 Magic Quadrant) 的配合報告,此報告評估了 WAAP 產品保護網路應用程式與 API 的能力。在此報告內,Akamai 於四大使用案例的其中三項皆獲得最高分,包括 API 安全與 DevOps (3.60/5)、高安全性 (3.76/5),以及網頁規模的業務應用程式 (3.91/5)。

根據 Gartner《Hype Cycle for Application Security, 2021》(2021 年應用程式安全技術成熟度曲線) 指出:「雲端網路應用程式和 API 保護產品是雲端遞送式多功能網路應用程式安全產品,且須整合至少四項核心功能:網路應用程式防火牆、DDoS 保護、機器人程式管理和 API 保護。WAAP 是網路應用程式防火牆所扮演之角色的進化版,而此進化是因為企業需要更有效地防禦多種威脅手法,同時大幅增加對外公開的網路應用程式和 API。」

Akamai 親眼見證叫用 API 的幅度大幅增加。為了確保 API 安全,需要量身打造的解決方案,以因應深度 API 訊息檢查、API 規格管理、驗證與授權,以及反自動化等問題。

Gartner 表示:「安全與風險管理領導廠商所選用的 WAAP,應能夠提供容易使用的控制功能,並可針對先進機器人程式與日益進化的 API 攻擊,提供更為專門的保護。」根據 Gartner 指出:「到 2026 年時,40% 的組織會根據進階 API 保護及網路應用程式安全功能來選擇 WAAP 供應商。」

Akamai 相信,全方位的網路應用程式和 API 保護解決方案需包含相鄰安全功能,以涵蓋範圍不斷擴張的威脅。在 2020 年,Akamai 推出首款引進自動化 API 探查與分析功能的雲端 WAAP 解決方案。

Akamai 在今年推出調適性安全引擎,這是其網路應用程式安全產品組合的核心基礎,其設計可自動因應攻擊的複雜程度來調整防護,同時減少維護和調整規則的工作。另外亦包含機器人程式能見度與緩解能力,以針對機器人程式對數位資產的影響提供深入剖析。

Akamai 應用程式與網路安全產品管理副總裁 Amol Mathur 表示:「網路應用程式與 API 安全有一項不變的特質,那就是變化 Akamai 持續在 WAAP 產品中推動大幅進展,讓我們的客戶能更輕鬆跟上迅速加快與變動的威脅情勢,同時提高營運效率並增加開發人員工具。我們相信 WAAP 產品組合的這些重要進展,是讓我們在 Gartner《Magic Quadrant》報告中贏得領導廠商地位的功臣。」

Akamai 技術支援和管理服務,持續獲得客戶肯定

根據報告指出:「Akamai 的客戶在客戶支援體驗方面,給予該廠商極高評價,包括他們從技術支援和管理服務獲得的專業知識和協助。」

此外,Akamai 保護資料、網站和應用程式的能力,以及其網路安全解決方案的使用簡便性,均獲得客戶的認可。

根據 2021 年 9 月 20 日的 Gartner Peer Insights 評論,以下是 Akamai 客戶的意見:

  • 一位服務業的技術主管表示:「這套軟體 (Kona Site Defender) 擁有絕佳的功能,可保護企業資產和組織資源免受 DDoS 攻擊和各種網路威脅的影響。它在處理威脅時能提供高準確度。它能以更準確的方式保護網站和裝置,包括行動裝置在內。它能封鎖與廣告相關的惡意網站和內容,這些都可能損害企業安全。」
  • 一位零售業的軟體開發工程師表示:「適用於 DDoS 和網路應用程式攻擊的最佳安全產品。KSD 是我用過最好的安全工具。它簡單易用,而且具有出色的支援能力。KSD 提供可自訂的保護機制,這非常有用,且其功能都相當實用又切中要點。」
  • 一位金融業的網路自動化專家表示:「我們與 Akamai 合作以保護我們的核心資產,而每一分錢都值回票價。我們每年都會進行一次 DDoS 模擬演習,以測試 Akamai DDoS 和 WAF 的控制功能,而測試結果證明我們的投資是值得的。」
  • 一位金融業網路產品經理指出:「Kona 提供了顯著的安全改善,並且賦予我們過去無法獲得的可見度。它是我們的策略中的核心產品,以確保提供給客戶的應用程式安全無虞。」

歡迎於此處免費參閱 2021 年 9 月 20 日所發表的 Gartner《Magic Quadrant for Web Application and API Protection》(網路應用程式與 API 保護 Magic Quadrant) 完整報告,內含 Magic Quadrant 圖表。如需有關 Akamai WAAP 產品的額外資訊,請造訪此處

本文章內容由「猿聲串動」提供,經關鍵評論網媒體集團廣編企劃編審。