如何判定仇恨言論?Facebook 說明內容審查運作機制,AI 主動偵測且移除率高達 97.1%

在 AI 科技方面,為了能提高內容辨識的效率及精準度,Facebook 團隊也致力提升「多語言理解」、「完整貼文理解(WPIE)」、「排序優先順序」的功能。
評論
Photo Credit: iStock
評論

社群平台上的仇恨言論一直都是頭痛又難以處理的議題,並且會隨著特定社會事件的發生(例如:選舉)而造成更加嚴重的趨勢。Facebook 亞太區內容政策經理 Manu Gummi 於今日(6/3)親自說明 Facebook 上的仇恨言論問題,主導內容審查與管理的她,除了分享 Facebook 如何定義何謂仇恨言論外,也揭曉目前內部的審查運作機制,以及現階段的進展為何。

Photo Creidt: Facebook
Facebook 亞太區內容政策經理 Manu Gummi。

社群守則:為了保障 20 億用戶表達意見的權利

Gummi 表示,Facebook 和 Instagram 合計共有超過 20 億名的全球用戶,共享不同的語言及文化,為了讓大家能夠自由、安全表達意見,所以制定了社群守則來規範平台上內容,確保並不會出現有害內容,或是假新聞、不實資訊的流竄。

Facebook 的社群規範包含五大核心價值:「意見」,表達意見是自由人權的一部份,但網路恐怕帶來其濫用的機會,為了確保用戶有表達的自由,因此意見的安全性非常重要;「真實性」,用戶該為平台上的一舉一動而負責,因此必須保障其真實性,確保用戶不會假冒身分,來做出虛假、不負責任的行徑;「安全」,是 Facebook 非常看重的一點,社群上不允許威脅、恐嚇、傷害他人的行為或言論出現;「隱私」,社群是用戶分享資訊的平台,但同時也必須保有隱私,以免遭有心人士濫用;「尊嚴」,社群上人人平等,用戶須公平遵守社群歸返,尊重自己也尊重他人的意見。

Facebook 如何制定內容審查政策?

內容政策制定小組分散在全球 11 個辦公室中,每隔兩周舉行一次「政策論壇(Policy Forum)」,政策論壇由多方領域的專家組成,共同討論當前社群守則的變革與制定,並且分享最近有什麼趨勢恐會導致有害內容,需要 Facebook 去特別關注。

在政策論壇結束後,制定小組會針對討論內容去諮詢相關議題的內部和外部利害人,包含學者及實務界專家;接著,蒐集用戶如何使用或濫用臉書平台的資料,觀察其行為與語境;最後,又到了開「政策論壇」的時間,由小組根據上述研究提出建議,再由各方專家一同討論提出具體建議,並放入政策實行之。

Facebook 如何定義仇恨言論

為什麼處理仇恨言論對社群平台而言,是一大挑戰呢?Gummi 表示主要有四個原因——

  1. 全球並沒有對仇恨言論有放諸四海皆準的公認定義。
  2. 每個人對言論的容忍度不同。
  3. 仇恨言論不能單看一字一句,必須考慮到發言者與接收者的語境與脈絡。
  4. 仇恨言論的詞彙是動態的,隨著時間會不斷改變、新增詞彙的意涵,因此很難掌握其變動性。

雖然難以定論何謂仇恨言論,但 Facebook 仍歸類了仇恨言論的要素。第一,需有「攻擊」行為,包含暴力、刻板印象、貶低他人、輕蔑、咒罵等行徑;第二,攻擊針對對象的「受保護特徵」,包含種族、民族、國籍、身心障礙、宗教信仰、社會階級、性別、性傾向進行攻擊,或是特別諷刺其年齡、職業、年齡,都是仇恨言論的範疇。

Facebook 在考慮當地脈絡與情境後,將仇恨言論分類出三個等級,從最嚴重到最輕微依序為——

  • 第一級(最嚴重的等級):包含暴力言論、抹滅人性(非人化)言論、嘲弄仇恨犯罪的概念或受害者、特定抹滅人性(非人化)的比喻。舉例來說,將非裔明星的臉與猴子後製融合,疑似將「黑人」比喻成「動物」,這就是「特定抹滅人性(非人化)的比喻」。
  • 第二級:貶低詆毀他人的陳述(攻擊生理、心理、道德缺陷)、表達輕視/憎惡/厭惡、咒罵。
  • 第三級:號召排擠或隔離對待的行為(在政治、經濟或社會剝奪權力或隔離)、毀謗/詆毀。

Facebook 目前的內容審查成果

Facebook 從 2017 年開始執行內容審查相關政策,並在 2018 年投入 AI 人工智慧作為輔助工具,數年來也一直在科技上進行投資,以提高內容審查效率,並不斷增加更多元的內容讓政策更完整,保障更多用戶安全。

Gummi 根據社群守則執行報告分享,2019 年 12 月至 2020 年 12 月期間,Facebook 針對仇恨言論採取行動的效率增加了 389%。並且 Facebook 運用 AI 科技主動偵測(不須用戶手動檢舉)並移除仇恨言論的比例為 97.1%,對比 2017 年 Q4 的 25% 有顯著進步。

Facebook 如何進行內容審查?首先,AI 會不間斷進行主動偵測,依照上述的仇恨言論分級將不當內容進行排序,再交由人類審查員檢視。目前,Facebook 負責社群安全的團隊人數高達 35,000 人,並有 15,000 名內容審查員全天候地進行人工分析。當然,用戶也可以主動檢具不當內容,Facebook 保證在 24 小時內即可完成審查。

在 AI 科技方面,為了能提高內容辨識的效率及精準度,Facebook 團隊也致力提升「多語言理解」、「完整貼文理解(WPIE)」、「排序優先順序」的功能。

最後,除了平台提供的內容體驗,用戶也能自由管理自己在臉書上的隱私或動態牆設定,例如留言控制選項(Comment controls)、標籤審查動態時報審查暫停追蹤取消追蹤隱私設定檢查檢視角度分享對象選擇器,這 6 項工具都能幫助使用者降低不當內容的出現。

核稿編輯:Anny

延伸閱讀:



「微企e時貸」為你的大夢想「助燃」!利用手機1天內快速取得企業資金

國銀中小企業放款龍頭第一銀行,蟬聯11年中小企業放款第一名,堅持做企業最強後盾。現在只要利用手機,簡單資料填寫即可審核、快速撥款,申請貸款不再受營業時間和地點限制。想要踏出夢想第一步,「微企e時貸」讓你隨時都可以出發。
評論
Photo Credit:第一銀行
評論

 …從事金屬加工業的阿展,是一間中型工廠的老闆。多年營運穩定,本來和2至3家民營銀行往來,但阿展始終覺得應該分散風險,希望授信往來銀行可以增加公股銀行,透過「微企e時貸」進件申貸,順利獲得300萬的周轉金額度。…

…小芳今年初開了一間包裝禮盒設計店,她最喜歡收到客戶「開箱」包裹後的欣喜回饋,雖成立未久,但業務仍是持續成長。豈料,5月時遇到疫情,嚴重影響訂單,原本僅和民營銀行存款往來的她,疫情期間申貸也僅獲得很少的額度,適逢年底大節日將至,缺乏備料資金又急需接訂單,頓時陷入雙重困境。幸好,小芳在網路上看到「微企e時貸」廣告,用手機成功申貸300萬元紓困。…

即便是鴻海集團,也是從10萬元標會金開始

這是阿展與小芳的故事,也是第一銀行「微企e時貸」的真實客戶故事,更是台灣社會許多小老闆的縮影。根據統計,2020年台灣中小企業家數將近155萬,佔全體企業98.9%,囊括全台就業人口的8成,「若我們能照顧好小微企業,等同照顧整個社會。」

Photo Credit:The News Lens Brand Studio

第一銀行法人金融業務處副處長林峻嘉談起「微企e時貸」的創立初衷,就是希望能協助中小企業發展,或是比中小企業更小規模的微型企業,因為所有大夢想的開端,都需要小火種助燃,「所有大企業、上市櫃公司,都是從小公司發展而來,鴻海集團的最一開始,也是郭董(郭台銘)的媽媽標會10萬、20萬,一點一點打拼成型。」

一銀已蟬聯國銀中小企業放款龍頭11年,深知中小企業信用資料向來不易評估,剛創業的微型企業更是難以拿出漂亮的申請文件,為因應數位金融、普惠金融以及中小企業放貸市佔率第一名的趨勢和優勢,一銀希望藉由融合AI的金融數位化服務,提供簡便、快速的服務。

快速、簡單、便利的一銀微企e時貸

為什麼選擇手機作為主要申請介面?因為即便是實體服務也有顧及不全的地方。曾有一間在一銀附近開業近50年的老店家,因為網路服務這才第一次接觸到一銀,「還有個好處是,不受時間、地點限制,結合線下服務,銀行端也能同步拜訪客戶,協助解決申貸問題並提供企業發展建議。」網路申貸甚至間接解決企業老闆們的面談壓力,線上核貸過程即便受到拒絕,也相對不會造成太大心理壓力。

林峻嘉也透露,「微企e時貸」每日申貸高峰時間為晚間9時至12時,「這代表我們有打到企業主的使用痛點,白天大家要忙著打拼沒空,晚上才是能鬆一口氣好好處理資金需求的時段。」現在只要透過手機,就能簡單填寫資料即可審核、快速撥款,充分展現線上申貸解決時間地點限制的優勢。

今年上半年,許多商家營運受到疫情波及,導致信用或資產紀錄不佳,想順利籌資度過難關更是難上加難。而「微企e時貸」卻能奠基一銀長期以來協助中小企業發展的經驗,更能確切評估企業的未來性、競爭力,以及未來是否能轉換為可行的商業模式,加上搭配移送政府信保基金,亦能確保資金用途明確、還款來源可靠、信用無瑕疵、具發展潛力,但擔保品不足的資金需求者,順利取得融資。

「微企e時貸」對於申貸無企業成立年限要求,貸款額度最高500萬,貸款期限最長可至5年,只要是所有銀行總融資額度在50萬元以下且取得信保成數9.5成的中小企業,都能透過手機進入平台填寫基本資料試算額度,線上送件後就有專員聯繫提供申貸所需資料。

夢想推手的下一步

目前「微企e時貸」已協助2萬名資金需求者進件,其中1.6萬戶成功撥款,累放款金額達到300億元。這成績早已超出一銀原先預期,未來若法規再鬆綁,有更簡便的方式協助企業主提供備齊相關財務資料、核准設立文件、近三年財務報表及最近一期暫結報表、負責人及保證人身分證影本等貸款相關文件,一銀即可在現有基礎上快速建立線上對保功能,加速核貸。

Photo Credit:第一銀行

只要透過「微企e時貸」平台申貸,可有前3個月1.68%以上的年利率優惠,如果對於試算額度不滿意,也可選擇由專人聯繫,客製化貸款額度和貸款利率。一銀期待,能與中小企業與微型企業主相互學習,一同找到營運平衡點、發展出長遠經營策略,並協助企業主在追尋夢想的過程中,獲取另一條順利融資的管道。

☞現在就申請微企e時貸