原文來自 Wired《Researchers Have a Method to Spot Reddit’s State-Backed Trolls》，作者 Chris Stokel-Walker。台灣康泰納仕集團授權提供，由 Linden Chen 翻譯並經 INSIDE 編審。
Reddit 用戶 Bootinbull 在 2015 年 10 月 14 日註冊帳戶。當日凌晨 2 點 45 分，他到遊戲子群組，向社群提出問題：《異域傳說》系列遊戲是否受到美國作家丹・席蒙斯（Dan Simmons）《海伯利安詩篇》（Hyperion cantos）的影響？
雖然這個問題可能已經深烙在 Bootinbull 腦海，但這並沒有激起 Reddit 其他人討論。該貼文沒有半個評論。儘管如此，Bootinbull 依然繼續前進，在討論網路次文化的 r/4chan 版、遊戲版、貓版上發文。兩週以後，他們交給 r/aww 版一張躺在椅子上的狗照片，同時也參與網站上關於歐洲湧入難民潮、土耳其地緣政治策略挑戰的討論。
Bootinbull 繼續在 Reddit 上發表內容，一邊討論中國和俄羅斯未來在世界上的角色，一邊發布小狗可愛照片。但 Bootinbull 並不是個真實人物——至少在我們傳統理解中不是。他是來自俄羅斯的網路巨魔帳號，可能由國家資助，試圖帶風向，並將和俄羅斯相關的話題推給其他人。這個帳戶是英國、美國和歐洲大學聯盟研究人員所指認的 1248 個帳戶之一，是由俄羅斯贊助的巨魔。學術界追蹤 Reddit 在 2017 年認證為巨魔的 335 位使用者行為後，確定這些帳戶有問題。Reddit 持續追蹤垃圾郵件機器人和巨魔，在 2021 年第二季處理 790 萬份「內容操縱」報告。
「這些帳戶由真人控制，」波士頓大學助理教授吉安路卡・史翠西尼（Gianluca Stringhini）說。他和其他研究人員是使用一種他們稱為巨魔放大器（TrollMagnifier）的工具來識別巨魔帳戶。該工具是一種人工智慧模型，根據已經俄羅斯巨魔帳戶的行為進行訓練，聲稱能識別在 Reddit 上活躍、新的且沒被發現的巨魔帳戶。（研究結果發表在一篇尚未發布到 arXiv 的論文，《WIRED》在還沒發表前搶先獨家獲得副本。）「他們會模擬一般使用者的活動。他們會相互爭論。我們透過分析推特和 Reddit 過去發布的可疑帳戶，了解他們可能會做什麼。」
社群媒體現在已經是假新聞最重要的戰場。史翠西尼和他的同事發現在 Reddit 這樣的網站上，假新聞會被 Bootinbull、JerryRansom 這種帳戶在平凡貼文的掩護下，植入有爭議的訊息。和 Bootinbull 一樣，JerryRansom 也使用相同的可愛動物照片和迷因貼圖，而後慢慢放進政治論述——還是在性感版上發表貼文。值得注意的是，很多史翠西尼所說的帳戶，和之前在 r/aww 版上發布、與俄羅斯有明確連結的帳戶行為相似，該帳戶鼓勵用戶分享可能會引發「哇」反應的照片——通常是可愛的動物。
巨魔的行為，可以用史翠西尼稱之為「鬆散協調模式」來判別。對於沒那麼複雜的機器人帳戶，它們的性質可以藉由時間和發布的內容類型來識別——因為它們時常從很多不同的推特帳戶中貼一模一樣的訊息，這些帳戶要不是以此為目的專門創建，不然就是從無辜代罪羔羊挑選出來，透過網路攻擊竊取他們的登入資訊。但要了解巨魔帳戶，還需要更深入的分析。
隨著舊且生硬的自動化工具失去功能，涉及帳戶背後真人的「巨魔法」變得越來越流行，反倒是預先寫好程式的機器人退燒。「現在機器人網路越來越少人用，它們已經太好被發現了。」調查報導網站 Bellingcat 創始人艾略特・希金斯（Eliot Higgins）說。Bellingcat 紀錄且揭示這類活動與開源情報的使用，經常集中在俄羅斯。「巨魔往往帶來更多衝擊，因為這樣他們就會利用這些線上社群的自然發展，而非試圖從頭開始建構一些東西，後者會困難得多。」
反之，俄羅斯巨魔會在網路上建立好人設，試圖在進入早就存在的 Reddit 社群時討好他人，而後把對話主題轉移到他們真正的目標上，像 Bootinbull 和 JerryRansom，他們通常會以狗和動物等看似無害的貼文開始，而後轉向地緣政治討論。這樣做的目標是讓帳戶背後的虛擬人物更真實、更人性化——才有助於四處散播有爭議的內容。
史翠西尼和同僚的研究顯示，他們關切的重點是棘手的社會問題：巨魔帳戶利用黑命貴（Black Lives Matter）運動和美國選舉的分歧——可以說是川普在 2016 年贏過希拉蕊的因素之一。根據社群媒體平台所編寫的內部文件，2020 年總統大選以前，有 1.4 億美國人被臉書的巨魔農場推到文。然而，這些巨魔帳戶也專注於可以討好 Reddit 社群的話題。「他們大力支持加密貨幣，在社群媒體上也不遺餘力提倡，」史翠西尼說，「同時間，同一個帳戶可能還會參雜一些政治論述。他們試著融入政治。」
這就是由國家所資助的俄羅斯巨魔守則的所有內容，而且他們所做的事情，在很多國家越來越普遍。史翠西尼指出，俄羅斯、中國、委內瑞拉和伊朗是透過有組織的社群媒體活動形塑論述的國家。然而，儘管試著要顯露出看似正常的外在，學術圈仍舊可以發現不正常跡象。隨機抽樣顯示，巨魔帳戶在 Reddit 上發布的內容，下面的評論僅不到「真實」帳戶的 10%，這代表偽裝的現實很難長期維持，或者他們只是交差了事，認為把工作做完以後就什麼都不管。
同時他們更願意單向傳播，而不是參與對話。他們一生平均發布 42 則貼文，比非巨魔帳戶平均 32 少。在真實世界那些平常藏得很好的間諜，反而經常被發現的原因是他們在秘密情報點碰到已知的間諜；而國家資助的社群媒體巨魔最常被抓包的原因也一樣，就是他們忍不住在彼此的貼文中發表評論。
這種分析很受到研究虛假訊息和科技政策的人歡迎。「新的網路安全監管機構和獨立審計員應該考慮部署巨魔偵查器等技術，以評估現有的資安系統，進而讓社群媒體對網路上的危害承擔更多責任，」英國前首相東尼・布萊爾成立的全球變化中心網路政策部門主管麥克斯・貝弗倫—帕瑪（Max Beverton-Palmer）說。
Reddit 發言人指出，他們禁止使用者操縱內容，包括那些經過縝密設計的虛假訊息活動和任何誤導、錯誤可以歸因到個人或組織的內容。「我們有專人可以透過自動化工具、人工審查，防止平台上發生這種行為，」發言人表示。「由於我們團隊努力，可以讓用戶在看到以前刪除 99% 違反上述政策的貼文。」
但希金斯和另一位哥本哈根大學研究假訊息的學者伊夫根尼・格洛夫琴柯（Yevgeniy Golovchenko）學術界能不能複製獵捕巨魔經驗保持存疑。希金斯指出，早期基礎的學術研究中有許多錯誤，無法準確區分真實與不真實的行為。
「我會有興趣，深入研究由此產生的數據，看看裡面有多少只是單純社群間的互動，而不是那些國家支助的巨魔，」他說。
格洛夫琴柯關心的則是結果本身。「這是很有趣的主題，論文企圖心也很強，但我不是完全確定怎麼評估工具的準確度，」他說。一方面而言，該工具是針對已發現的帳戶進行訓練。因此，也有可能這些被抓包的巨魔只是冰山一角。「這些帳戶被設計的目的是為了不被發現，」格洛夫琴柯說。「學者們找到的帳戶可能只是最低級的那一群，畢竟國家花費大量資源，總是要預設還有人藏得很好。。」
其他人則非常認同這篇論文。「從結果來看，這些研究人員已經發展出一套聰明的方式，擴大巨魔的識別度，」負責檢視網路上的虛假訊息和極端主義，戰略對話研究所分析師西倫・歐康納（Ciaran O’Connor）說。然而，歐康納也指出，如果沒有已知巨魔帳戶種子列表來查看貼文，很難進行這樣的追蹤——Reddit 上面可能出現這種狀況，因而 Reddit 也公開發布數據，以幫助研究人員。「要觀察社交媒體平台透明度可不簡單，我們也將論證，更多數據總是對我們有幫助的答案，而後幫助平台，讓它們可以幫助自己理解和解決受不良行為者所青睞的新興策略、工具和論述。」
這種透明度幫助研究人員發現類似巨魔行為——這也是研究人員希望能回報 Reddit 的善舉。「我認為這種技術肯定會幫助社群網路公司，」史翠西尼說。他指出，雖然他們有更多指標可查看，這些指標可以提供巨魔用戶真實背景資訊，例如 IP 位址和瀏覽器紀錄，但檢查內容發布的模式，可以幫助更準確識別更多不真實的用戶。
不過，考量到 Reddit 的使用者人數時在太多，要辦別哪些使用者是假的，仍然很難。Bootinbull 在首度發文 50 天，2015 年 12 月 3 日就在平台上保持沉默，這個激發人心的使命似乎沒成功——或已經結束。
責任編輯：Chris
延伸閱讀：
