如何判定仇恨言論?Facebook 說明內容審查運作機制,AI 主動偵測且移除率高達 97.1%

在 AI 科技方面,為了能提高內容辨識的效率及精準度,Facebook 團隊也致力提升「多語言理解」、「完整貼文理解(WPIE)」、「排序優先順序」的功能。
評論
Photo Credit: iStock
評論

社群平台上的仇恨言論一直都是頭痛又難以處理的議題,並且會隨著特定社會事件的發生(例如:選舉)而造成更加嚴重的趨勢。Facebook 亞太區內容政策經理 Manu Gummi 於今日(6/3)親自說明 Facebook 上的仇恨言論問題,主導內容審查與管理的她,除了分享 Facebook 如何定義何謂仇恨言論外,也揭曉目前內部的審查運作機制,以及現階段的進展為何。

Photo Creidt: Facebook
Facebook 亞太區內容政策經理 Manu Gummi。

社群守則:為了保障 20 億用戶表達意見的權利

Gummi 表示,Facebook 和 Instagram 合計共有超過 20 億名的全球用戶,共享不同的語言及文化,為了讓大家能夠自由、安全表達意見,所以制定了社群守則來規範平台上內容,確保並不會出現有害內容,或是假新聞、不實資訊的流竄。

Facebook 的社群規範包含五大核心價值:「意見」,表達意見是自由人權的一部份,但網路恐怕帶來其濫用的機會,為了確保用戶有表達的自由,因此意見的安全性非常重要;「真實性」,用戶該為平台上的一舉一動而負責,因此必須保障其真實性,確保用戶不會假冒身分,來做出虛假、不負責任的行徑;「安全」,是 Facebook 非常看重的一點,社群上不允許威脅、恐嚇、傷害他人的行為或言論出現;「隱私」,社群是用戶分享資訊的平台,但同時也必須保有隱私,以免遭有心人士濫用;「尊嚴」,社群上人人平等,用戶須公平遵守社群歸返,尊重自己也尊重他人的意見。

Facebook 如何制定內容審查政策?

內容政策制定小組分散在全球 11 個辦公室中,每隔兩周舉行一次「政策論壇(Policy Forum)」,政策論壇由多方領域的專家組成,共同討論當前社群守則的變革與制定,並且分享最近有什麼趨勢恐會導致有害內容,需要 Facebook 去特別關注。

在政策論壇結束後,制定小組會針對討論內容去諮詢相關議題的內部和外部利害人,包含學者及實務界專家;接著,蒐集用戶如何使用或濫用臉書平台的資料,觀察其行為與語境;最後,又到了開「政策論壇」的時間,由小組根據上述研究提出建議,再由各方專家一同討論提出具體建議,並放入政策實行之。

Facebook 如何定義仇恨言論

為什麼處理仇恨言論對社群平台而言,是一大挑戰呢?Gummi 表示主要有四個原因——

  1. 全球並沒有對仇恨言論有放諸四海皆準的公認定義。
  2. 每個人對言論的容忍度不同。
  3. 仇恨言論不能單看一字一句,必須考慮到發言者與接收者的語境與脈絡。
  4. 仇恨言論的詞彙是動態的,隨著時間會不斷改變、新增詞彙的意涵,因此很難掌握其變動性。

雖然難以定論何謂仇恨言論,但 Facebook 仍歸類了仇恨言論的要素。第一,需有「攻擊」行為,包含暴力、刻板印象、貶低他人、輕蔑、咒罵等行徑;第二,攻擊針對對象的「受保護特徵」,包含種族、民族、國籍、身心障礙、宗教信仰、社會階級、性別、性傾向進行攻擊,或是特別諷刺其年齡、職業、年齡,都是仇恨言論的範疇。

Facebook 在考慮當地脈絡與情境後,將仇恨言論分類出三個等級,從最嚴重到最輕微依序為——

  • 第一級(最嚴重的等級):包含暴力言論、抹滅人性(非人化)言論、嘲弄仇恨犯罪的概念或受害者、特定抹滅人性(非人化)的比喻。舉例來說,將非裔明星的臉與猴子後製融合,疑似將「黑人」比喻成「動物」,這就是「特定抹滅人性(非人化)的比喻」。
  • 第二級:貶低詆毀他人的陳述(攻擊生理、心理、道德缺陷)、表達輕視/憎惡/厭惡、咒罵。
  • 第三級:號召排擠或隔離對待的行為(在政治、經濟或社會剝奪權力或隔離)、毀謗/詆毀。

Facebook 目前的內容審查成果

Facebook 從 2017 年開始執行內容審查相關政策,並在 2018 年投入 AI 人工智慧作為輔助工具,數年來也一直在科技上進行投資,以提高內容審查效率,並不斷增加更多元的內容讓政策更完整,保障更多用戶安全。

Gummi 根據社群守則執行報告分享,2019 年 12 月至 2020 年 12 月期間,Facebook 針對仇恨言論採取行動的效率增加了 389%。並且 Facebook 運用 AI 科技主動偵測(不須用戶手動檢舉)並移除仇恨言論的比例為 97.1%,對比 2017 年 Q4 的 25% 有顯著進步。

Facebook 如何進行內容審查?首先,AI 會不間斷進行主動偵測,依照上述的仇恨言論分級將不當內容進行排序,再交由人類審查員檢視。目前,Facebook 負責社群安全的團隊人數高達 35,000 人,並有 15,000 名內容審查員全天候地進行人工分析。當然,用戶也可以主動檢具不當內容,Facebook 保證在 24 小時內即可完成審查。

在 AI 科技方面,為了能提高內容辨識的效率及精準度,Facebook 團隊也致力提升「多語言理解」、「完整貼文理解(WPIE)」、「排序優先順序」的功能。

最後,除了平台提供的內容體驗,用戶也能自由管理自己在臉書上的隱私或動態牆設定,例如留言控制選項(Comment controls)、標籤審查動態時報審查暫停追蹤取消追蹤隱私設定檢查檢視角度分享對象選擇器,這 6 項工具都能幫助使用者降低不當內容的出現。

核稿編輯:Anny

延伸閱讀:



雲隨商轉.建構由我!2021 AWS 台灣雲端高峰會,9 月 2 日線上磅礴登場

2021 AWS 台灣雲端高峰會將在 9 月 2 號登場,全天候透過線上舉行,免費接軌業界資源、技術交流不斷電,任何需要開拓雲端新經濟或是自我加值的工作者,都不該錯過這場盛會。
評論
Photo Credit:AWS
評論

AWS 公布今年度的雲端技術盛會訊息:2021 AWS 台灣雲端高峰會 ( AWS Summit Online ) 即將在 9 月 2 號登場!全天候透過線上舉行,讓業界的交流與創新不間斷。今年的活動主題定為「雲隨商轉.建構由我」,強調 2021 年企業仍持續尋找新常態的求生法則,不分產業擁抱數位轉型,以及掌握雲端驅動力,人人都應具備開創新局的力量。

2021 AWS 台灣雲端高峰會,聚焦七大雲端主題

Photo Credit:AWS

今年度的 AWS 台灣雲端高峰會,不只將一次集結 AWS 重量級技術專家與產業代表,共同分享最前瞻的技術發展、商業洞見及最佳實務,還有線上互動展覽、hands-on 實作課程、demo 實機展演、一對一線上諮詢等多元體驗,帶領參與者充分掌握雲端技術動態,實現創新藍圖。

透過 2021 AWS 台灣雲端高峰會的活動平台,無論是 AWS 技術與服務的初學者或資深使用者,都可以在高峰會上學習到新事物,並透過七大雲端主題聚焦學習,為自己的能力加值。

2021 AWS 台灣雲端高峰會七大雲端主題,包含:

  • AI 與機器學習
  • 最佳實務分享
  • 資料分析
  • IT 管理
  • 資安與合規
  • 創新思維
  • 應用程式現代化

另外,參與者還可以根據個人的工作執掌、興趣和產業相關課程、技術能力,找到量身定制的議程。以下是 AWS 台灣雲端高峰會官方提供的技術能力分級參考,建議有興趣的與會者不妨以此作為基準,為自己安排相對應的議程。

  • Level 100(初級):課程將涵蓋服務、特色及效益的概觀說明,無須任何課前先修知識。
  • Level 200(中級):課程將聚焦於最佳實務、服務特色詳情以及展示或程式碼範例。需具備初級主題知識。
  • Level 300(高級):課程將深入說明服務特色、經驗分享、部署及架構範例。參與此課程,需對 AWS 服務及 AWS 平台有深入的了解。
  • Level 400(忍者):課程將集中說明更為複雜的主題,如進階編碼、架構、基礎結構設計和解決方案。需具備對主題的深入了解。

立即報名:2021 AWS 台灣雲端高峰會

不限專業大師或怪獸新人,你也應該參加 2021 AWS 台灣雲端高峰會

AWS 台灣雲端高峰會不限於技術開發人員或是企業高階主管,無論是想了解最新趨勢的雲端初心者、尋求技術突破的資深使用者,或是想在有限預算內提升營運效率的企業主,都有機會在「2021 AWS 台灣雲端高峰會」上找到答案。

2021 AWS 台灣雲端高峰會參加對象,包含:

  • 別創新格 - 開發人員
  • 邏輯清晰 - 工程師
  • 足智多謀 - 解決方案或系統架構師
  • 技術神展開 - IT專業人員或技術支援經理
  • 硬體擔當 - 系統管理員
  • 日理萬機 - 創辦人或經營決策者
  • 自我充實 - 學生、教職或研究員

最重要的是,2021 AWS 台灣雲端高峰會可免費報名參加,任何需要開拓雲端新經濟還自我加值的工作者,都不該錯過這場盛會!

立即報名:2021 AWS 台灣雲端高峰會

AWS DeepRacer 人工智慧賽車同步登場!快交出你最夠勁的模型

Photo Credit:AWS

每年跟著台灣雲端高峰會前會舉行的 AWS DeepRacer 智慧自駕車競賽,今年亦不缺席,即日起至 2021 年 10 月 31 日都可以提交模型參加競賽。

為什麼要參加 AWS DeepRacer?因為這是全球首個自動駕駛賽車聯盟盃賽,讓機器學習驅動的賽車模型在場上奔馳,除了要激起開發者的鬥志,也可更加精進與磨練機器學習(ML)、強化學習(RL)技術,是 AWS 送給所有工程師最棒的寓教於樂場域。當然,參加 AWS DeepRacer 競賽不只能贏取獎品和榮耀,也可獲得晉級 AWS DeepRacer 冠軍賽的機會

立即報名:2021 AWS 台灣雲端高峰會