AI 維護社群和平?臉書辦記者會解釋 AI 如何左右內容審查

AI 幫助人類團隊進行自動審查,以及建立起審查的優先排序,讓團隊可以更加快速進行決策。
評論
Photo Credit: REUTERS/達志影像
評論

臉書於台灣時間昨日(17 日)下午發布「Facebook 運用 AI 執行社群守則」線上記者會,邀請來自 Community Integrity 部門的工程師  Chris Palow 與產品經理 Ryan Barnes,針對 AI 如何被應用且執行社群守則,以及影響內容審查、演算法的議題,做出說明與解釋。

臉書如何使用 AI

工程師 Palow 首要說明 AI 如何被應用。首先,工程部門會先將有害的內容(即需要被審查出的內容)與正常的一般內容,同時餵給機器學習,讓機器學會去分辨哪些社群內容是違反規範的,並且使之自動貼上標籤,提供一份清單給人類團隊做進一步的分析,看是否真的有問題。

「雖然沒有百分之百的正確率,但目前為止團隊覺得都還蠻準確的。」Palow 坦率地說。

臉書的內容審查架構

臉書總共有三個部分一起協力推動平台安全:內容政策組(content policy)、社群誠信組(community integrity)、全球營運組(global operation)。內容政策組負責制定社群規範,邀請各個領域、多元議題的專家學者協助設立正確、全面的條例,例如孩童安全、反恐、人權等。全球營運組負責執行這些被制定好的社群規範,主要以人力的方式,15,000 位內容審查員全年無休、全天候進行檢視服務。而最後是社群誠信組,以 AI 技術去協助內容審查更全面、更有效率。

減少使用者不良體驗的盛行率(Prevalence),包含為有害內容及濫權的使用者做出主動且實際的規範行動。

這就是社群誠信組的使命,希望能用積極、主動、快速的方式,去喝止對平台使用者有害的不良行為。當然,也希望偵測錯誤的機率可以降低。Barnes 坦言,色情內容很明顯,因此可以不出數秒就能被偵測到。但例如仇恨言論的內容難以偵測,因此較容易有犯錯的問題。

Barnes 進一步解釋何謂「盛行率」(Prevalence):接觸到不良內容的發生機率。計算方式就是將其觸及率、觀看率,除以平台上所有內容的觸及率、觀看率,即可得此盛行率。通常會以「取樣」方式來進行,以計算盛行率。

因此,盛行率成為衡量有害內容在平台上擴散的指標性數據。而社群誠信組也已降低有害內容的盛行率為組織目的。

AI 如何協助臉書執行內容審查

十年的改變

這十年間,臉書的內容審查有相當巨大的改變。過去,臉書較仰賴使用者的主動舉報,舉報後再由人工的方式去徹查是否違規。而現今,審查管道除了舉報之外,臉書會透過 AI 科技先進行一輪自動審查,再由人工雙重確認是否違規,增加效率。

根據臉書於記者會中提供的數據,AI 自動審查的準確率平均可達 95%,絕大多數被移除的內容都是主動偵測而發現的,相當厲害。但在霸凌和騷擾的準確率,卻只有 13.3%,可見這類內容具灰色地帶,且容易被在地化因素左右,讓機器仍無法準確預防。

建立優先排序

不論過去和現在,最終都還是需要人工檢查。AI 除了先進行自動審查外,還幫助人類團隊先做「優先排序」,提升決策效率。依照不同的差異將有可能違規的內容,進行過濾與排序,而決定差異的因素有三:

  1. 傳播性(Viralty):觸及率越高、越快被大眾瘋傳的內容,會優先進行審查,以免有害或錯誤的資訊被快速擴散出去。
  2. 嚴重性(Severity):臉書強調他們非常重視「真實世界的傷害」,因此若造成的傷害越大,越會將排序往前調整。
  3. 確定有害的可能性(Likelihood of violation):有些內容很明顯就是有害(例如色情圖片),但很多內容存在灰色地帶,無法直接分辨是否真的需要被撤除,這時就需要這樣的衡量標準,幫助人類快速先撤除確定有害的內容。

總而言中,臉書運用 AI 科技,先進行自動審查,再配合上述因素,排序優先順序,加快內容審查的效率與速度,針對最有害的內容快速止血,將傷害降到最低。

而 AI 也變得更加聰明,在審查中加入了一款名為XLM-R 的自有開發新技術,先用某個語言來訓練 XLM-R 的模型,再將它直接套用到其他語言,可同時理解多種語言的文字,加強準確度。

Facebook 也開發了 Whole Post Integrity Embeddings(WPIE)的技術。簡單來說,這項技術會檢查貼文的完整內容,讓 AI 去理解語境脈絡(context),而非單一圖像或文字,使審查更加準確。

對社群的好處與壞處

AI 協助人類團隊,讓人類團隊可以有更多時間去決定最複雜的決策,讓簡單、容易被辨認的有害內容在第一時間就被檢測出來,大幅節省時間。也培養機器學習有害內容的潛在趨勢,以整體的角度去監測流行的不良內容為何,讓團隊可以提早做出預防。

但因為各地文化有所不同,就算有放諸四海皆準的社群守則,某些內容是否對當地民眾造成傷害,也無法使用 AI 快速辨認,因此在這一塊還是需要在地人力去執行,並且致力於將 AI 模型建構地更加在地化,以因應不同語境下的傷害。

除此之外,AI 還有其他隱憂。對比人類律法的無罪推定,AI 審查是否會有未判先審的問題?臉書在記者會中提到,AI 能自動找到恐怖份子組織成員的臉書,並且優先標記甚至關閉帳號,像這樣權限的疑慮,也值得深思。

另外,機器學習跟 AI 演算仍然像是個黑箱子,隨著人類團隊越來越依賴 AI 自動審查的結果,再來進行人工決策,那機器如何學習?仰仗甚麼樣的資料庫進行學習?都是重點問題,仍需大眾與第三方團體持續監督。

核稿編輯:Anny

延伸閱讀:



疫情升溫,數位轉型不能等!報名 6/30 AWSome Day 即刻啟動企業上雲

疫情正大力促進數位轉型,而我們只能選擇跟上。免費報名全球雲端服務供應龍頭 AWS 於 6 月 30 日下午舉辦的「AWSome Day 線上雲端培訓日」,展開雲端之旅重要第一步。
評論
評論

台灣疫情升溫,每日確診人數已破萬人大關,愈來愈多民眾被匡列居家隔離,遠端工作、混合辦公模式成為企業不得不採取的措施。此時此刻,台灣才正要體驗過去兩年國外經歷過的「疫情現實」,這也意味著企業必須立刻採取行動進入雲端、展開數位轉型;而個人也必須提升雲端技能,以維持在疫情時代的競爭力。

為了幫助企業/個人能迅速具備數位轉型思維與基礎技能,雲端服務供應商龍頭 AWS(亞馬遜網路服務公司)於 6 月 30 日下午舉辦「AWSome Day 線上雲端培訓日」,開放任何想了解雲端服務與數位轉型的人士免費報名參加

疫情正大力促進數位轉型,而我們只能選擇跟上。

企業上雲、數位轉型是必然趨勢

網路時代與經濟全球化,企業必須不斷創新與成長,才能在市場上保有生存空間與競爭力。而數位轉型的思維、善用雲端工具,是必然的趨勢。數位轉型是一趟漫長且無止盡的路,而且幾乎當代所有的企業(無論規模大小)都必須迎接這項考驗;「數位轉型」意味著善用科技工具,為每一項任務帶來最有彈性且高效率的結果。

對此,Amazon web services(亞馬遜網路服務公司)從很早開始便分享自身經驗與雲端服務技術,帶領全球包含輝瑞、Meta 臉書及 BMW 等知名企業踏上數位轉型及創新之路,邁向穩定的成功。具體而言,AWS 可以幫助企業做到至少這三件事:

  1. 花更少的時間來構建與管理 IT 基礎架構,使企業專注本業創新
  2. 將地端固定成本(資料中心、實體伺服器等)轉化變動費用,透過規模經濟大幅節省企業支出
  3. 提供高可用、高擴展具彈性的雲端服務與技術,因應企業各種業務需求

立即報名 6 月 30 日 AWSome Day 線上雲端培訓日

AWS 雲端服務能為企業帶來最安全、節省的解決方案

對初探雲端世界或數位轉型剛起步的使用者來說,常見的迷思不外乎是「資安、費用」兩大項,對此,AWS 也都給予真實且有效的回應。AWS 作為全球數一數二的雲端供應服務商,資安等級不言而喻,AWS 打造的核心基礎架構可滿足軍隊、全球銀行及其他高度機密組織的安全性需求。支援 90 項安全標準和合規認證,且儲存客戶資料的所有 117 項 AWS 服務均提供加密該資料的能力。

此外,AWS 更不斷創新功能,確保資安維護無虞。而採用 AWS 的雲端服務,是依據實際雲端服務使用量採取實支實付,更能幫企業節省成本。AWS 提供跨產業、跨規模、跨技術的雲端服務,無論是廣告行銷、金融服務、遊戲技術、媒體娛樂的產業需求,或是尋找分析和資料湖、機器學習、無伺服器運算、儲存等解決方案,都能在 AWS 找到解答,甚至進一步透過 AWS 獲得來自全球的資源與合作夥伴。

因此,無論是資訊主管、IT 及技術經理、開發團隊、工程師,或是毫無背景但有志成為雲端技術服務的從業人員,甚至雲端小白,都能在 6 月 30 日 AWSome Day 線上雲端培訓日有所收穫,為自身企業需求開啟重要的第一步。

立即報名 6 月 30 日 AWSome Day 線上雲端培訓日

立即報名 6 月 30 日 AWSome Day 線上雲端培訓日,展開雲端之旅

總之,AWS 雲端服務的強大功能與優勢,唯有親身體驗才知道。在 AWS 定期舉辦專為入門者打造的「AWSome Day 雲端培訓日」中,將有原廠資深課程講師深入淺出地實作示範,一步步帶領大家了解雲端技術以及 AWS 服務,並且一一破解雲端議題相關的迷思。此外,報名活動並全程參與線上培訓者,還有多重好禮與抽獎機會(詳見下圖),歡迎對雲端世界有興趣的初心者報名參加。

立即報名 AWSome Day 雲端培訓日!報名即享免費試用服務

  • 時間:2022 年 6 月 30 日(四)13:30-16:45
  • 地點:線上參加,報名後將收到專屬連結
  • 注意事項:
  1. 請點選報名連結,填寫資料後即可完成報名。
  2. 在本課程中,專業講師也會分享如何透過 AWS 帳戶免費使用高達 200 多種服務,為提高課程參與,建議您可於課前註冊 AWS 帳號,以便在課程中同步操作體驗。
  3. 於 5/ 20~7/8 間完成新戶帳號註冊,還可獲得 AWSome day 加碼限定好禮「AWS客製三合一數據線」!(AWS 帳號註冊為免費,註冊完成會試刷一筆 1 元美金驗證您的信用卡,並於下期帳單退還;AWS 帳號註冊須提供英文住址,可參考中華郵政中文住址英譯服務。)
  • 講師陣容與精彩議程如下圖: