【Wired 硬塞】Facebook 刪了一票用 AI 自動生成假照片註冊的網軍

研究人員表示,這似乎是 AI 人臉生成首次用於規模性用於操作假社群、媒體的案例。
評論
Photo Credit: Shutterstock/達志影像
Photo Credit: Shutterstock/達志影像
評論

原文來自 Wired《Facebook Removes Accounts With AI-Generated Profile Photos》,作者 Paris Martineau。 台灣康泰納仕集團授權提供,經 INSIDE 編審刊載。

上週五(12 月 20 日),Facebook 跟 Instagram 全球規模性地刪除了總共 900 多組的帳號、粉絲頁與社團,並且稱這些頁面透過不正當手段,將親川普的內容、言論觸及給約 5500 萬名使用者。Facebook 稱這些假帳號、假網頁有不少是透過 AI 自動生成的照片申請註冊,並且透過同樣手法在其他平台上(像 Twitter、YouTube)宣傳以右派為主的言論。

這件事代表資訊戰中進入了一輪令人震驚的新階段,因為它似乎是在社群網路上,首次可以看到有人正在用 AI 大規模、系統性 AI 合成人臉。來自專門研究假資料組織 Graphika 和D FRLab 的研究人員在一份有關網路安全的報告中指出,這也是他們第一次看到這項技術正式地用來經營造假的社交媒體活動。

Business-Facebook-FakeAIProfiles-3
GRAPHIKA 表示跟 The BL 高度相關社團管理員,Facebook 帳號「Mary Keen」和「Jacobs Guillermo」的頭像。Photo Credit: GRAPHIKA

這些照片被用跟「The BL」(編註:美麗日報)相關的 610 組 Facebook 帳戶、156 個社團,89 個粉絲頁與 72 組 Instagram 帳戶;The BL 稱自己為像一股清泉,可滋潤每位讀者心靈的媒體。Facebook 經調查表示美麗日報跟大紀元之間有關係,大紀元是一間偏保守派的媒體,是由法輪功成員創辦,並且長期支持唐納德·川普。(編按:大紀元已發表聲稱跟美麗日報毫無關係之聲明。)

Facebook 聲稱經調查發現 The BL 表面上是一家由美國人與越南人共同經營的美國媒體集團,但在 Facebook 上卻廣泛使用假帳戶導流量並傳遞消息。Graphika 和 DFRLab 研究人員發現,大部分跟 The BL 相關的假帳號被用來維持經營支持川普總統的社團,像「美國需要川普總統」、「美國總統川普」、「我們支持川普與彭斯」這些頁面的管理員,都被發現是在越南註冊的假帳號。

報告指出:「這些假帳號管理員積極貼 The BL 的新聞用來吸引粉絲,經營社群。」「這像是一個大型製造業的結構,表面上唯一目的就是提高 The BL 的網路聲勢,並且一部分程度上也幫助了大紀元。」

Business-Fake-FacebookAIProfiles-1
研究人員表示左邊是「川普總統愛國者」的管理員,其中 15 人中有 9 人使用 AI 生成的照片,右邊則是「總統川普 KAG 2020」的管理員,其中 16 人中有 8 人是假照片。Photo Credit: GRAPHIKA

不僅如此,研究人員說這些管理員的登記個人照是用經過真實人臉圖像訓練的神經網路所創造,實際不存在的照片。他們也實際公布18 張很可能是用生成對抗網絡所生成的人臉圖像。

儘管這項科技能生成通過註冊的假臉,但研究人員說還是有跡可循。它主要是通過模仿視覺的模型來生成,但這個模型似乎不真的十分了解人體結構,容易背景和或是對稱型特徵(例如眼鏡、耳環)出包。

Business-Facebook-FakeAIProfiles-4
Graphika 表示帳戶「Alfonzo Macias」的照片明顯帶有因 AI 形成眼鏡周圍不一的情況。Photo Credit: GRAPHIKA

上圖是 Graphika 報告中所展示圖片,祂是 The BL 相關中一個群組的管理員「Alfonzo Macias」的頭像照片。該報告指出:「請注意眼鏡的不對稱性、背景清晰度不佳。」 「作者與那不勒斯腓特烈二世大學的專家核對了這張照片,他們評估這張圖像 99.9 % 是由 GAN 所生成的。」



精選熱門好工作

專案經理(2C)

英屬維京群島商幫你優股份有限公司台灣分公司
臺北市.台灣

獎勵 NT$15,000

資訊系統高級工程師-台北

科毅研究開發股份有限公司
新北市.台灣

獎勵 NT$15,000

C#/.NET Core 開發工程師

天旭國際科技有限公司
臺北市.台灣

獎勵 NT$15,000