【Wired 硬塞】研究顯示,AI 比人類更會寫釣魚訊息!

研究人員發現非營利組織 OpenAI 開發的語言模型 GPT-3 可以寫出讓人超容易上鉤的魚叉式釣魚訊息。
評論
Photo Credit:iStock
評論

原文來自 Wired《AI Wrote Better Phishing Emails Than Humans in a Recent Test》,作者 Lily Hay Newman。台灣康泰納仕集團授權提供,由 Amber Peng 翻譯並經 INSIDE 編審。

自然語言處理的觸角已經伸到越來越多令人意想不到的領域了,而這次,它掌握了釣魚 email。研究人員在一個小型研究發現,利用深度學習語言模型 GPT-3 和人工智慧即服務(AI-as-a-service,以下簡稱 AlaaS)平台,可以讓大量產出釣魚訊息變得超容易。

研究人言一直以來都在爭論,是否真有必要訓練機器學習產生釣魚訊息,因為雖然大量產出的釣魚內容都很簡單且制式化,卻非常有效,但是針對性高的「魚叉式釣魚」(編註:只針對特定目標進行攻擊的網路釣魚攻擊)就需要比較多心思來撰寫,因此,這就是自然語言處理可以派上用場的地方。

七月初於拉斯維加斯舉行的 Black Hat and Defcon 資安會議中,來自新加坡的政府科技機構(Government Technology Agency)就發表了一項近期的研究。他們先自己寫釣魚 email,並且也讓 AlaaS 生成釣魚訊息,兩者都會附上一個網址,但此連結並不是惡意網址,只是向研究人員回報點擊率而已。他們將兩種訊息寄給 200 位同事,最後研究人員很驚訝地發現,點擊 AI 釣魚訊息裡的網址的人竟然比較多,而且是多很多。

政府科技部門的資安專家尤金・林(Eugene Lim)表示:「研究人員認為 AI 必須要有一定的專業能力,而訓練出一個厲害的電腦模型要花好幾百萬,但是使用 AlaaS 的話就只要花幾塊錢,而且操作又容易,就是輸入跟輸出訊息而已,你甚至不用執行程式碼,只要輸入些資訊,電腦就會產出資料。如此一來,增加受眾的機會就提高了,而且還可以開發潛在的魚叉式釣魚目標。另外,雖然訊息是大量產出,但是每一封 email 還是可以針對不同的收件人特別設計。」

研究人員使用 OpenAI 的 GPT-3 和其他用來做個性分析的 AlaaS 工具,針對同事的背景和個性特製出適合他們的釣魚訊息。研究人員輸入特定資料後,個性分析模型的任務就是預測收件者的行為和心理傾向。接著,研究人把預測資料用不同程式跑過以後,就可以得到一個精修 email 的工具,待內容完善以後就可以寄出去了。研究人員表示這些 email「出乎意料地很像真人寫的」,而且這些平台還能產生一些非常特定的資訊,像是寄給新加坡同事的 email 就特別提到了新加坡的法律。

AI 釣魚訊息比上人類自己寫的訊息,其品質和釣魚網址的點擊率都讓研究人員非常驚艷。不過研究人員指出這只是該研究的開端而已,因為樣本數少且同質性很大,畢竟測試對象都是研究人員的同事,且來自同一地區。另外,不管是人工或是 AI 產出的釣魚訊息,開發者都是同一間公司的人,而不是外面試著要詐騙的陌生人。

另外一位政府科技機構的資安專家陳基福(音譯:Tan Kee Hock)指出:「可能影響實驗結果的變因很多。」儘管如此,該實驗結果還是促使研究人員進一步思考用 AlaaS 進行網路釣魚或是魚叉式網路釣魚的可能性,例如 OpenAI 就一直擔心 GPT-3 或是其他類似的工具被濫用。本實驗的研究人員指出他們和其他嚴謹的 AlaaS 平台都有一套明確的行為準則,也試圖找出自家平台上可能發生的惡意活動,甚至會驗證使用者身分。

OpenAI 對 WIRED 表示:「語言模型在產業間常常被濫用,但我們一直很認真看待此事,因為以安全和負責任的方式使用 AI 是我們的宗旨。客戶透過我們的程式介面得到 GPT-3 的授權,然後在客戶的程式上線前我們會檢查 GPT-3 被使用的方式。透過一些技術,像是網速限制,盡量減少產品被濫用的可能性和影響。我們的主動監管和審查系統會盡力在惡意行為可能發生的最早階段就把它糾出來,我們也持續加強安全工具的正確性和有效性。」

政府科技機構的研究人員將他們的研究結果提供給 OpenAI,但 OpenAI 的反濫用研究是獨立進行的。

研究人員強調,監控電腦是否有濫用行為,以及對合法使用者進行侵入性的監控是具爭議性的做法。再且,不是所有的 AlaaS 廠商都以防止平台被濫用為使命,有些甚至特別為詐騙者設計。

尤金指出:「讓我們真正嚇到的是,某些 AI 介面也太容易就進去了吧!雖然 OpenAI 非常嚴謹,但是某些平台甚至提供免費體驗的服務,不需要驗證 email,也不需要提供信用卡資料,你就一直用試用服務產出大量的資料,這對許多使用者而是很好用的科技資源。」

新加坡政府和歐盟等正努力開發一套 AI 管理框架,目的是幫助企業防止濫用問題。而隨著 AI 和深偽技術的快速發展,人們也開始注意到假消息和假新聞的嚴重性,因此許多研究也將焦點放在找出合成訊息或是釣魚 email 上。研究人員一樣利用深度學習語言模型,如文中提到的 OpenAI 的 GPT-3,來開發一套框架以分辨真人撰寫或是 AI 產生的訊息,目的是標示出 email 裡的合成訊息,如此一來就比較容易分辨 AI 產生的釣魚 email。

不過研究人員也表示因為越來越多的領域都用到合成訊息,像是客服中心、行銷廣告,所以開發專門過濾釣魚訊息的檢測工具將越來越困難。

政府科技機構的資安專家葛蘭妮絲・陳(Glenice Tan)表示:「糾出釣魚 email 很重要沒錯,但是我們一定還是會收到很吸引人又很有說服力的訊息讓我們很想點開,所以資安訓練不能少,我們仍然得小心和保持警覺。」

政府科技機構的研究人員提摩西・李(Timothy Lee)認為,隨著 AI 產生的釣魚訊息會來越逼真,受騙的機率也越來越高。他表示:「不管你收到幾千幾百封各式各樣的釣魚訊息,你只要點開其中一個連結詐騙者就得逞了,你只要一個不小心 – 就上鉤了!」

責任編輯:Chris
核稿編輯:Anny

「雲端、5G、智慧生活」將如何以 AIoT 顛覆世界?2021 INSDIE 未來日 AIoT 論壇 7 折早鳥優惠中!

延伸閱讀:



科技賦能創新突圍——愛酷智能科技舉辦 MarTech Salon,為企業創造數據驅動新價值

自 2018 年成立以來,愛酷智能科技深耕 AI 與 MarTech 領域,在行銷科技應用上擁有專業並豐富的實務經驗。MarTech Salon 系列活動旨在創造一個行銷科技交流平台,透過各領域講師及產業先行者的分享,協助企業掌握 MarTech 新趨勢,在數位新浪潮中搶得先機。
評論
圖片來源:愛酷智能科技
評論

愛酷智能科技於 9/29 (三) 舉辦今年第一場 MarTech Salon「用聊天機器人,輕鬆培養忠誠用戶!」,吸引數百位參與者共襄盛舉,包含中小企業主、品牌行銷人、行銷代理商等經理人。活動分享最新 ChatBot 對話式商務趨勢、顧客數據整合技術、會員標籤應用,並解析 AI 與 MarTech 的策略性思維。

圖片來源:愛酷智能科技

行銷 5.0 時代,One ID 科技賦能

行銷 5.0 的時代注重「技術」與「人性」融合的全方位戰略,打造更完善的顧客體驗 (CX, Customer Experience),加上面對資訊的爆炸,企業的痛點在於多渠道破碎資料整合的困難。

透過 One ID 整合消費者與品牌的互動歷程,企業能夠將匿名資料,即網路上的任何瀏覽行為,納入行銷決策的參考依據。愛酷商務解決方案暨夥伴關係經理 Perry Wang 在分享中提到:「One ID 技術追蹤本我、自我、超我外的第四個我,也就是『匿名我』。」

Perry Wang 舉房仲產業應用做進一步解釋,房仲市場成交的關鍵,在於業務服務的精準度,仔細發掘顧客真正的需求,推薦適合的物件。然而,過往消費者經常心口不一,難以取得真正的需求,透過愛酷 One ID 追蹤技術,能將顧客在網頁瀏覽的物件類型、地段、價格數據一次收整,隨著預約賞屋的名單,派送到業務手中,洞察顧客的行為,進而做到房產智慧推薦,提升成交機會。

運用聊天機器人,打造多元運用情境

「對話式商務」之所以能成為現今極具潛力與商機的行銷模式,原因在於品牌透過通訊軟體主動出擊,能創造與消費者間更多元的接觸點及對話機會。愛酷顧客成功經理 Wayne Chen 在講座中分享使用聊天機器人的六大目的:「聰明運用 ChatBot,將能夠提升行銷溝通效率,滿足『會員募集』、『增加品牌知名度』、『協助客服』、『搜集顧客意見』、『推播再行銷』、『引導購物』。」

活動中,來賓針對聊天機器人服務也萌生許多問題,包含如何評估 ChatBot 需求、需做哪些前置準備等。Wayne Chen 建議企業首先應思考創建聊天機器人的目的,例如:提高來客率、會員系統服務建置、業務轉型等;接著分析企業想搜集的資訊、提供給顧客的服務、用科技解決的行銷問題,進而透過創意活動培養忠誠用戶。

會員精準貼標,創造有效互動

投資對話式商務工具、透過創意增粉操作與用戶互動後,分群分眾與需求深度挖掘則是企業下一步應掌握的重點。愛酷行銷經理 Eason Huang 說明:「透過標籤系統,能逐層剖析顧客的行為輪廓,提升溝通內容的精準性。」愛酷智能科技協助顧客從命名規則著手,將標籤分成靜態、動態類型,並加入標籤層級的關係架構,以達到在對的時間,與對的人,溝通對的內容。

Eason Huang 進一步建議,企業在運用標籤系統與用戶互動時,應至少都包含「完善用戶輪廓」、「探勘用戶興趣」、「引導用戶行為」其一目的,「提升營收」僅是結果。不論是透過靜動標籤調查用戶喜好、推進用戶成為會員或是為了下一次的活動佈局,企業都應制定明確的目標以創造真正有效的互動。

從數據整合技術、聊天機器人應用到標籤深度規劃,愛酷智能科技分享 MarTech 最新趨勢,也透過成功案例說明企業如何在疫情下逆勢成長,培養忠誠會員,並達到會員導流,帶動營業額提升。

未來,愛酷智能科技將持續舉辦 MarTech Salon 系列活動,協助企業掌握 AI 與 MarTech 最新趨勢與應用。歡迎追蹤以下渠道,掌握最新資訊:

本文章內容由「愛酷智能科技」提供,經關鍵評論網媒體集團廣編企劃編審。