AI 太會寫惹議!OpenAI 擔心濫用延後公開研究

強大的 AI 自動生成內容,編寫故事、撰寫新聞都不是問題,然而對人類來說問題就大了!
評論
Photo Credit: amy leonard on Flickr
評論

科技變革如何與社會倫理取得平衡一直是人類社會面對的考驗,AI 就是其一。由伊隆·馬斯克(Elon Musk)創辦的非營利性人工智慧組織 Open AI 近日就面臨了這樣的挑戰。

日前發表的自然語言處理(NLP)模型 GPT-2 可以達到只給機器一段文字,就能從資料庫撈取大量文章內容,根據文本樣式和內容產生與主題高度相符且具連貫性的文本。

新一代 GPT-2 藉由 1,000 萬篇 Reddit 文章的資料庫共約 40GB 內容訓練,與第一版的相比不論是理解能力還是內容長度都比第一代更加強大。

上週 OpenAI 發表 GPT-2 的推文上鬧得沸沸揚揚,許多人反對這項要求 OpenAI 關閉這份研究,考慮潛在的濫用問題,最後 Open AI 也做出決定-暫時將 GPT-2 研究關閉。

過去當然也有不少概念類似的 AI 模型,透過文本資料快速產生內容卻也充滿危機,不論是假新聞、抄襲事件、或是社群媒體垃圾留言、洗評論等濫用,這次 Open AI 的問題就在於太過強大很引發爭議。

強大的 AI 自動生成內容,編寫故事、撰寫新聞都不是問題,然而對人類來說問題就大了。

以下我們可以看看幾個例子,讀者們可能更加有感:

首先,Open AI 給 GPT-2 違反常理的提示「為什麼回收對世界沒好處?」讓 AI 論證此違背常理之觀點,根據 OpenAI 加州實驗室副總裁 David Luan  ,GPT-2 寫出一篇相當水準的論文,「是在SAT上都拿到高分的水準」。

“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”

外媒 MIT technology review 也嘗試用 Open AI 造出一段假新聞:

“Russia has declared war on the United States after Donald Trump accidentally fired a missile in the air.

Russia said it had “identified the missile’s trajectory and will take necessary measures to ensure the security of the Russian population and the country’s strategic nuclear forces.” The White House said it was “extremely concerned by the Russian violation” of a treaty banning intermediate-range ballistic missiles.

The US and Russia have had an uneasy relationship since 2014, when Moscow annexed Ukraine’s Crimea region and backed separatists in eastern Ukraine.

「川普意外地發射導彈後,俄羅斯向美國宣戰。

俄羅斯方面表示,已經確定導彈的軌跡將採取必要措施,確保俄羅斯民眾和國家戰略核武的安全。白宮則表示,此舉是為了回應俄羅斯違反《中程導彈條約》。

自 2014 年莫斯科強佔烏克蘭克里米亞地區,並支持烏克蘭東部的分裂以來,美國和俄羅斯的關係一直不穩。」

本篇新聞僅輸入第一句話,後面段落全部來自 AI 杜撰,當然也不是憑空產生,推測其內容來自俄羅斯本月初暫停履行《中程導彈條約》以及新聞媒體對美俄軍備賽流露出擔心。

OpenAI 的負責人 Jack Clark 表示,該組織的首要任務是不會惡意濫用此技術,對他們來說要在兩者之間取得平衡相當困難,未來將進行更多的實驗,探索有心人士能藉由 AI 做出什麼惡意行為。

OpenAI 表示,目前尚未發表 GPT-2 最終版,將暫時關閉並在六個月內重新審視。與此同時,該他們也表示,政府也應開始採取應對措施,更系統地監控人工智慧技術日漸帶來的進步,對社會帶來的影響。

延伸閱讀:



警戒升級,店面安全也升級!月租型 HomeSecurity AI 店家防護,小店業者無痛導入

監視器不稀奇,不過在盡量不外出的管制期,還要另外花錢購買監視器,對於備受衝擊的業者來說彷彿又多剝一層皮。幸好還有台灣大寬頻月租型「HomeSecurity AI 店家防護」,每月不用千元即可遠端守護店面安全。
評論
Photo Credit:iStock
評論

全國三級疫情警戒,市景進入半封城的模樣,人人自危。許多店家也只好選擇暫停營業,減少營運成本;尤其雙北限制餐廳內用後,不少店家也改做外帶/外送服務,關閉原本的室內用餐空間。門可羅雀不是最可怕的,最可怕的是當在家防疫、減少外出的同時,店面安全出現破口,遭有心人士闖空門。既然花錢請一個人專門顧店或是花時間親自坐鎮都不是好辦法,此時引進智慧監控系統,才是明智之舉。

月租型HomeSecurity AI 店家防護,安心無負擔

監視器不稀奇,不過在疫情嚴峻期間,花費破千、破萬的預算購買昂貴監視器,對於備受疫情衝擊的業者來說,彷彿又多剝了一層皮。此時此刻最需要的,應該是能夠減緩大筆支出,陪伴業者度過艱難時期的店家防護系統。

對此,台灣大寬頻的月租型「HomeSecurity AI 店家防護」是很好的解決方案,不只遠端守護店面安全,搭配指定光纖上網方案,每月也只要 999 元起的價格,十分超值划算。

異地監控店家,同步更新雲端、方便即時察看與回放

價格好入門可不是「HomeSecurity AI 店家防護」唯一的優點。一般來說,架設閉路電視系統監控、將監視器的影像即時上傳網路,同時還要 AI 智慧監控功能,總要耗費不少資金成本。不過為了讓眾多小店家業者享有同等級的監控服務,台灣大寬頻推出月租型「HomeSecurity AI 店家防護」能以相對實惠的方案,滿足小型店家的科技監控需求。

首先,店主可以根據店面需求,選擇「槍型」或「吸頂」等網路攝影機款式。接著,店主可以跨裝置檢視監控畫面,無論是桌機、筆電、智慧型手機、平板,都能觀看 1920x1080p 的高畫質即時監控影像;此外,分割畫面也能讓店主同時監看多角度或連鎖分店的情況。

拜先進的雲端技術之賜,「HomeSecurity AI 店家防護」的監控影像可以即時串流雲端,店主能不限時間、地點登入網頁或 App 服務,觀看各網路攝影機的即時影像與錄影回放,不必再辛苦傳輸資料畫面或手動上傳雲端,監控管理十分方便。

AI 影像告警,聰明防竊;另有最高 36 萬竊盜損失補償

更讓人安心的是,「HomeSecurity AI 店家防護」最重要的核心技術「AI 人像辨識」。簡言之,就是網路攝影機能將拍攝畫面快速回傳至技術平台並分析數據,進而精準判斷畫面中是否有「人」入侵。一旦AI影像告警確認店內有人為入侵,便會立即以電話、簡訊、App 推播等管道主動通報緊急聯絡人。

不只聰明防竊,也另有完善的配套讓店主安心。萬一真的不幸發生竊盜損失,台灣大寬頻和富邦產險合作,能提供竊盜損失補償,因此只要在案發 30 天內,以報案後憑警察機關刑事報案證明三聯單以及相關影像證據提出申請,店主最高可獲得每年 36 萬元的補償。

防疫期間,同島一命。台灣大寬頻推出「HomeSecurity AI 店家防護」以相對平易近人的方案,提供台灣小型企業店家安心智慧的守護,以嚴密堅實的智慧監控,陪伴業者迎來雨過天青的彼日。