【Tenz 科技評論】從我的平台營運經驗談科技巨頭的內容管制

如果多數的網路使用者,能對自己和科技巨頭間的不對等權力關係,有更清楚的認識,那就比現況要進步太多。換句話說,我們在 do something 之前,最先需要的是整個社會的數位啟蒙、數位覺醒。
評論
Photo Credit: Shutterstock
Photo Credit: Shutterstock
評論

近來美國因為國會山莊暴動事件,引發一連串科技巨頭的內容管制與言論自由爭議;先是Twitter、Facebook、Twitch、Instagram、Shopify、Reddit 等平台,相繼封鎖或限制了川普總統的帳號使用權,接著又發生 Parler 的 App 被 Google、Apple 下架、各雲端服務平台包括 AWS、MailChimp、Zendesk 等也同步停止對 Parler 提供服務的事件。

這一連串事件使社會大眾對於平台權力之大、影響之深,再次感到震驚;對於平台針對內容進行管制的必要性、是否侵害言論自由、是否應該以各種方式來節制平台的強大力量,有各種不同的反應與討論。

有討論當然是好事,但我發現多數的討論,看起來似乎只想得到快速的結論或解法。事實上,這個問題非常複雜,必須從司法框架、平台營運實務、言論自由尺度和政治效應等多個面向來理解,而且很可能並不存在絕對正確、單一的解答。

我因為有過網路平台的營運經驗(曾在 Yahoo!奇摩擔任無名小站、知識+、Flickr 的社群經理,現任方格子平台營運總監),因此想從我的平台服務經驗出發,從不同的角度,談談這個困難的題目。

為什麼平台必須管理內容?

內容管理對平台來說,可以用一句話來形容,就是「不可承受之重」。平台如果可以選擇,沒人想要管理上頭的內容;但因為經營上的實際需求,以及法律框架的要求(這裡指的是美國的法律框架),所以平台不得不去管內容,但注定管不好,注定被罵。

這樣說並不是要幫平台開脫責任,而是這就是平台經營每天都要硬著頭皮面對的難題:大家會在平台上上傳各種各樣的內容。這麼多內容,除了絕大多數是正常用戶上傳的合法內容之外,還有會有許多千奇百怪的「不當」內容,包括色情、盜版、仇恨言論、歧視、假訊息、暴力、自殘、騷擾,以及各種違法的內容。

就平台營運的實務來看,如果平台不將這些不當的內容,以各種方式管理、處理,讓它們赤裸裸地顯示在用戶眼前,用戶一定會覺得這個平台上頭都是不堪入目的東西,使用體驗就會變差;這時用戶就會用腳投票,轉用其他競爭平台。

所以,各平台都有許多管理內容的規定和手法。在規定方面,平台都會「醜話說在前面」,在使用條款中明訂各種不允許的內容類型或使用行為;如果用戶被抓到違反這些規定,就會依條款上載明的方式來處理。

然而,光是在使用條款裡規定是不夠的,平台還必須有效執行管理內容,把不好的內容掃乾淨,而這就是一件極為困難的事。

認定的標準

我們就以平台上比較常出現的「色情」內容來說好了,管理色情內容,對平台來說十分頭大:到底什麼叫做色情?特別是對相片或影音平台來說,想區分色情和藝術,根本就找不到一個簡單、大家都能接受的共同標準;對你來說是藝術的作品,在衛道人士眼裡,可能是淫穢不堪,必欲除之而後快的色情內容。

之前我在 Flickr 當過社群經理。Flickr 的社群指南中有一條這麼寫:「Flickr 嚴肅處理未經用戶同意分享其色情相片的情況 」;問題來了,我們平台業者怎麼可能知道上傳來的色情照片,有沒有經過當事人的同意?實務上也曾發生過當事人一開始同意,後來又反悔的案例,所以即使平台要照自己規定的使用條款來落實管理,實際運作上還是困難重重。

規模帶來的難題

社群平台的用戶一多,上傳到平台的內容、以及用戶彼此間的互動,也會呈等比級數增加;這對平台來說是非常沉重的負擔。

舉例來說,Facebook 一天有 18 億個活躍用戶;假設每個用戶,每天都只發一條更新,一天就有 18 億條新內容要管理。這麼大量的內容,當然不可能以人工審核(即使人工審核,也一樣有認定標準的問題),所以大型平台都會用演算法來先過濾,試圖自動抓出一些不當內容,自動加以處理。

問題是,演算法也是人寫的程式,會犯錯是必然的。Facebook 有個經典案例:2016 年九月時,Facebook 的演算法,把一張震撼全球、得過普立茲奬的照片判定為兒童色情,照片被自動下架;那張照片的主題,是越戰時一個被美軍投擲的燃燒彈燒光衣服,全身大片灼傷,正在一邊啼哭一邊逃命的小女孩。

許多 Youtuber 抱怨自己的影片被莫名其妙標上「黃標」,失去廣告分潤的資格;大抵也是內容自動判定機制出了問題;但大平台的客訴處理通常很糟,也因此讓許多 Youtuber 非常不滿。

法律的框架

平台必須進行內容管理,還有一個原因,就是法律的要求。

在這次爭議事件中,關於平台侵害言論自由的部分,很多人提到美國憲法第一修正案,但這是個誤解;因為第一修正案規範的對象,是美國政府而非個人或私人企業;這次爭議事件中真正關鍵的法律,是《通訊規範法》第 230 條。

這個通稱 Section 230 的法條,其立法目的是為了促進各種資訊服務的發展,因此規定「提供互動電腦服務的業者」,當有用戶在其服務發表不當內容時,「不會被視為該不當內容的發布者」;換句話說,平台可以免責。

但平台的免責有一個大前提,就是業者必須善盡「善良管理人」的責任,對其服務內的不當內容進行管理,而其管理的手法也可以因而免責。

也就是說,如果業者想要把 Section 230 當做免死金牌,當用戶發表了違法不當內容時,不想跟著一起變成犯罪當事人,業者就得要管理自己服務裡的不當內容;這就是平台必須管理內容的第二個主要原因。

Parler 真的非常倒楣

有了這層認識,我們就可以理解為什麼 Parler 這次會被多家網路服務業者「聯手」取消服務。

首先,Section 230 規範的對象是「提供互動電腦服務的業者」,不只 Facebook 和 Twitter 符合這個描述,幾乎所有網路業者,從 ISP、DNS、Hosting、Email、CDN 等,也都在其管轄範圍內;所以當客戶涉及不當使用時(以 Parler 的例子,就是上面的大量仇恨言論),如果不處理,服務商就無法免責。

也因此,當大量支持川普的極右派人士,在短時間內湧入 Parler 開帳號,導致 Parler 上出現大量仇恨言論,而 Parler 自己既不想管,也沒有技術能力和資源來管理暴增的不當內容時,會被所有的服務商 ban 掉,就是躲不掉的命運了,只差還沒被斷水斷電而已。

當然,我們可以檢討這些服務業者的做法是否恰當。像 Google 二話不說,直接下架 Parler 的 Android app;蘋果雖然給 Parler 時間,要他們提供「完整的內容管理計畫」,但只給人家區區 24 小時,一天後 Parler 的 iOS app 一樣被下架;這些做法都有不少批評。

不過話說回來,當下美國的政治氛圍和風向,恐怕由不得這些服務商對 Parler 睜一隻眼閉一隻眼;所以 Parler 真的是千夫所指,不得不死。

而當 Parler 掛掉後,這些極右派過激分子改往 gab.com 和 Mewe 移動;我想這兩個服務恐怕也會遭到相同的命運,被各種雲端服務商 ban 掉而關門大吉,恐將難以避免。

誰讓科技巨頭坐擁如此權力?每個人!

這次事件激發出一個討論:為什麼科技巨頭手上的權力如此之大,足以影響這麼多人的發言權和生存權?很多人試圖找到唯一的「戰犯」,但我覺得包括使用者在內,其實每個人的選擇,集體促成了科技巨頭宰制全局的現況。

這些科技巨頭之所以擁有這麼多的用戶,是因為他們的產品確實很好用,解決許多人的困難,滿足許多人的需求;然而它也造成一個現象,就是我們把幾乎各種事情都「外包」給這些科技巨頭,因而造成對這些科技巨頭的集體極度依賴。

這種依賴問題,在 Parler 事件中表現得淋漓盡致。像 Parler 這樣只有 30 個人的小規模新創公司,為了提高效率、節省成本,把所有過去可能得自己做的事,全都外包給各種雲端服務商:網站交給 AWS 代管、Email 外包給 MailChimp、客服外包給 ZenDesk 等,這就使得 Parler 極端依賴這些服務。而當這些服務一起拒絕 Parler 時,Parler 就無法運作了。

同樣的問題也發生在我們個人身上。舉例來說,大多數人沒有能力自己架 Email、自己搞定網域名稱和各種設定,所以我們會去用方便好用的 Gmail、把自己的社交關係搬到 Facebook、想寫文章就放到方格子、Medium、痞客邦,通訊需求就都用 LINE⋯⋯結果也是造成我們個人對這些科技巨頭的極度依賴。

更糟的是,在某些關鍵應用上,我們似乎沒有其他的選擇。舉例來說,大家都知道中國的微信會審查言論內容,講話要很小心,不然除了帳號或內容可能被消失,如果身在中國的話,搞不好連人身安全可能都有危險;但只要你必須和人在中國的親友或生意伙伴通訊,除了微信或翻牆外,你幾乎沒有別的選擇。

再舉個例子,很多 YouTuber 對 YouTube 亂給黃標非常不滿;但如果想要做影片給大量觀眾觀看,來賺取廣告分潤或業配收入,你也幾乎沒有別的選擇。

我們還有各種各樣的「數位資產」儲放在這些我們依賴至深的平台:你的相片、影片、文章、通訊錄、行事曆、通聯內容、社群關係、數位身分、甚至金錢;一旦這些平台出包、封鎖你,或平台倒掉,而你沒有備份或備案時,造成的損失恐怕會遠遠超乎想像。

如果說 Parler 事件能對我們帶來什麼啟發,我希望大家會經由這次事件,真正認識到自己對這些科技巨頭的依賴關係,並且及早準備備案和備份,分散風險,降低對少數平台的依賴。

不然,我們也很可能變成下一個 Parler。

改變現況的原動力:啟蒙和覺醒

這次事件中,也有很多人覺得應該打破這些巨頭的壟斷地位,像是利用反托拉斯法,強制拆分大型科技公司等等。不過,我認為這些做法一來要打很長的法律戰,緩不濟急,二來就算把現有的科技巨頭強制拆掉,也難保不會出現新的科技巨獸取而代之;換言之,情況不會真正改善。

在科技巨頭的壟斷地位,短期之內難以撼動的現實下,要求這些科技巨頭採取更負責任、更能符合社會共識和共同利益的做法,反而比較實際。

長期以來推動網路人權與網路言論自由的美國電子前鋒基金會(Electronic Frontier Foundation, EFF),在這波事件發生後,發表了兩篇重要的論述;其中一篇指出,我們應該盡各種力量,要求社群平台除了要讓內容管理的原則與做法更加公開透明,讓大家能夠參與改進,更應在管理內容時採取一致的標準(例如 Twitter 標註川普的可疑內容,卻對華春瑩、胡錫進、郭文貴以及諸多問題帳號發表的問題內容視而不見)。

EFF 的另一篇文章則以 Parler 被所有服務封殺的案例,指出這些不同層級的網路服務,由於上述的依賴關係,在這次事件中,就成為言論自由的「窒息點」;單一服務業者如果握有太大的審查權,對網路的民主自由就可能形成傷害。

EFF 的警告固然震聾發瞶,但真正的問題是如何做到;我認為這絕非一蹴可及之事,但如果多數的網路使用者,能對自己和科技巨頭間的不對等權力關係,有更清楚的認識,那就比現況要進步太多。

唯有大多數人都建立起這種認識,才能促成真正有意義的對話和討論,並對這些科技巨頭,以及多少擁有一些制約力量的國家,形成進步的壓力,讓業者的運作方式和法律制度的制定與執行,都更符合社會的共同利益。

換句話說,我們在 do something 之前,最先需要的是整個社會的數位啟蒙、數位覺醒。

責任編輯:李柏鋒
核稿編輯:Anny

延伸閱讀:
【Tenz 科技評論】給孩子的智慧手錶,資安隱憂該怎麼看待?
【Rosy聊科技】《230條款》言論免責保護傘一破,科技巨頭還能雨中跳舞嗎?
【硬塞評論】難道全網沒有任何社群媒體容得下川普?



精選熱門好工作

Software development Lead

香港商易購全球有限公司台灣分公司
臺北市.台灣

獎勵 NT$15,000

資料庫管理人員 (總公司)

明台產物保險股份有限公司
臺北市.台灣

獎勵 NT$15,000

市場運營企畫專員(英語)

格睿科技有限公司
臺北市.台灣

獎勵 NT$15,000