AI 太會寫惹議!OpenAI 擔心濫用延後公開研究

評論
Photo Credit: amy leonard on Flickr
Photo Credit: amy leonard on Flickr
評論

科技變革如何與社會倫理取得平衡一直是人類社會面對的考驗,AI 就是其一。由伊隆·馬斯克(Elon Musk)創辦的非營利性人工智慧組織 Open AI 近日就面臨了這樣的挑戰。

日前發表的自然語言處理(NLP)模型 GPT-2 可以達到只給機器一段文字,就能從資料庫撈取大量文章內容,根據文本樣式和內容產生與主題高度相符且具連貫性的文本。

新一代 GPT-2 藉由 1,000 萬篇 Reddit 文章的資料庫共約 40GB 內容訓練,與第一版的相比不論是理解能力還是內容長度都比第一代更加強大。

上週 OpenAI 發表 GPT-2 的推文上鬧得沸沸揚揚,許多人反對這項要求 OpenAI 關閉這份研究,考慮潛在的濫用問題,最後 Open AI 也做出決定-暫時將 GPT-2 研究關閉。

過去當然也有不少概念類似的 AI 模型,透過文本資料快速產生內容卻也充滿危機,不論是假新聞、抄襲事件、或是社群媒體垃圾留言、洗評論等濫用,這次 Open AI 的問題就在於太過強大很引發爭議。

強大的 AI 自動生成內容,編寫故事、撰寫新聞都不是問題,然而對人類來說問題就大了。

以下我們可以看看幾個例子,讀者們可能更加有感:

首先,Open AI 給 GPT-2 違反常理的提示「為什麼回收對世界沒好處?」讓 AI 論證此違背常理之觀點,根據 OpenAI 加州實驗室副總裁 David Luan  ,GPT-2 寫出一篇相當水準的論文,「是在SAT上都拿到高分的水準」。

“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”

外媒 MIT technology review 也嘗試用 Open AI 造出一段假新聞:

“Russia has declared war on the United States after Donald Trump accidentally fired a missile in the air.

Russia said it had “identified the missile’s trajectory and will take necessary measures to ensure the security of the Russian population and the country’s strategic nuclear forces.” The White House said it was “extremely concerned by the Russian violation” of a treaty banning intermediate-range ballistic missiles.

The US and Russia have had an uneasy relationship since 2014, when Moscow annexed Ukraine’s Crimea region and backed separatists in eastern Ukraine.

「川普意外地發射導彈後,俄羅斯向美國宣戰。

俄羅斯方面表示,已經確定導彈的軌跡將採取必要措施,確保俄羅斯民眾和國家戰略核武的安全。白宮則表示,此舉是為了回應俄羅斯違反《中程導彈條約》。

自 2014 年莫斯科強佔烏克蘭克里米亞地區,並支持烏克蘭東部的分裂以來,美國和俄羅斯的關係一直不穩。」

本篇新聞僅輸入第一句話,後面段落全部來自 AI 杜撰,當然也不是憑空產生,推測其內容來自俄羅斯本月初暫停履行《中程導彈條約》以及新聞媒體對美俄軍備賽流露出擔心。

OpenAI 的負責人 Jack Clark 表示,該組織的首要任務是不會惡意濫用此技術,對他們來說要在兩者之間取得平衡相當困難,未來將進行更多的實驗,探索有心人士能藉由 AI 做出什麼惡意行為。

OpenAI 表示,目前尚未發表 GPT-2 最終版,將暫時關閉並在六個月內重新審視。與此同時,該他們也表示,政府也應開始採取應對措施,更系統地監控人工智慧技術日漸帶來的進步,對社會帶來的影響。

延伸閱讀:



精選熱門好工作

客戶管理企劃 Key Account Management Planner

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

前端開發者 / Frontend Developer

奔騰網路科技有限公司
臺北市.台灣

獎勵 NT$20,000

資深行銷專員(MK)

台灣樂天市場
臺北市.台灣

獎勵 NT$20,000

評論