AI 太會寫惹議!OpenAI 擔心濫用延後公開研究

強大的 AI 自動生成內容,編寫故事、撰寫新聞都不是問題,然而對人類來說問題就大了!
評論
Photo Credit: amy leonard on Flickr
評論

科技變革如何與社會倫理取得平衡一直是人類社會面對的考驗,AI 就是其一。由伊隆·馬斯克(Elon Musk)創辦的非營利性人工智慧組織 Open AI 近日就面臨了這樣的挑戰。

日前發表的自然語言處理(NLP)模型 GPT-2 可以達到只給機器一段文字,就能從資料庫撈取大量文章內容,根據文本樣式和內容產生與主題高度相符且具連貫性的文本。

新一代 GPT-2 藉由 1,000 萬篇 Reddit 文章的資料庫共約 40GB 內容訓練,與第一版的相比不論是理解能力還是內容長度都比第一代更加強大。

上週 OpenAI 發表 GPT-2 的推文上鬧得沸沸揚揚,許多人反對這項要求 OpenAI 關閉這份研究,考慮潛在的濫用問題,最後 Open AI 也做出決定-暫時將 GPT-2 研究關閉。

過去當然也有不少概念類似的 AI 模型,透過文本資料快速產生內容卻也充滿危機,不論是假新聞、抄襲事件、或是社群媒體垃圾留言、洗評論等濫用,這次 Open AI 的問題就在於太過強大很引發爭議。

強大的 AI 自動生成內容,編寫故事、撰寫新聞都不是問題,然而對人類來說問題就大了。

以下我們可以看看幾個例子,讀者們可能更加有感:

首先,Open AI 給 GPT-2 違反常理的提示「為什麼回收對世界沒好處?」讓 AI 論證此違背常理之觀點,根據 OpenAI 加州實驗室副總裁 David Luan  ,GPT-2 寫出一篇相當水準的論文,「是在SAT上都拿到高分的水準」。

“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”

外媒 MIT technology review 也嘗試用 Open AI 造出一段假新聞:

“Russia has declared war on the United States after Donald Trump accidentally fired a missile in the air.

Russia said it had “identified the missile’s trajectory and will take necessary measures to ensure the security of the Russian population and the country’s strategic nuclear forces.” The White House said it was “extremely concerned by the Russian violation” of a treaty banning intermediate-range ballistic missiles.

The US and Russia have had an uneasy relationship since 2014, when Moscow annexed Ukraine’s Crimea region and backed separatists in eastern Ukraine.

「川普意外地發射導彈後,俄羅斯向美國宣戰。

俄羅斯方面表示,已經確定導彈的軌跡將採取必要措施,確保俄羅斯民眾和國家戰略核武的安全。白宮則表示,此舉是為了回應俄羅斯違反《中程導彈條約》。

自 2014 年莫斯科強佔烏克蘭克里米亞地區,並支持烏克蘭東部的分裂以來,美國和俄羅斯的關係一直不穩。」

本篇新聞僅輸入第一句話,後面段落全部來自 AI 杜撰,當然也不是憑空產生,推測其內容來自俄羅斯本月初暫停履行《中程導彈條約》以及新聞媒體對美俄軍備賽流露出擔心。

OpenAI 的負責人 Jack Clark 表示,該組織的首要任務是不會惡意濫用此技術,對他們來說要在兩者之間取得平衡相當困難,未來將進行更多的實驗,探索有心人士能藉由 AI 做出什麼惡意行為。

OpenAI 表示,目前尚未發表 GPT-2 最終版,將暫時關閉並在六個月內重新審視。與此同時,該他們也表示,政府也應開始採取應對措施,更系統地監控人工智慧技術日漸帶來的進步,對社會帶來的影響。

延伸閱讀:



自駕巴士上路載客 桃園智慧城市現在進行式

過去讓人有距離感的「智慧城市」,在桃園已經真實上路載客。
評論
Photo Credit : 桃園市政府
評論

桃園有全國首座自駕巴士測試研發基地,首張自駕車測試車牌從這裡發出。青埔地區的實驗計畫完成封閉測試,今年開始在開放道路載客運行,未來可作為接駁捷運到社區的最後一哩路。

桃園推展智慧城市成績搶眼,2019 年獲國際智慧城市論壇 ICF TOP1首獎、2020 年首辦Top7 國際智慧城市頂尖論壇等,廣受肯定;以通訊技術創新再造、擴大智慧應用,提供更貼近市民生活需求的服務,進而打造安全、永續、宜居的智慧城市。

智慧交通是智慧城市中重要的一環

一座智慧城市的形成,「智慧交通」可說是重要的環節之一,現今人工智慧(AI)和物聯網(IoT)結合的AIoT技術逐漸成熟以及5G的快速發展,使得智慧交通再度升級。桃園領先全國推出各項智慧交通創新方案,例如「AI智慧號誌控制系統」運用AI自動偵測辨識技術,演算最適現況車流的計畫,而智慧巴士透過AI感知及辨識技術建立自動煞停系統等,為桃園市民打造更安全、順暢、舒適的交通環境。

桃園推出自駕巴士測試運行,以無人自駕車育成計畫的階段性成果,整合AI自動駕駛系統及智慧路口車路通訊,達到路線、站點優化、排班調度最佳化,將自駕巴士作為捷運、高鐵、機場或台鐵銜接社區的最後一哩路,更緩解長久以來交通壅塞的問題。

桃園市自駕巴士的智慧行控中心,即時記錄車輛狀態、感測器及營運資訊,並可提前做車輛及系統異常預警。 圖/桃園市政府

運行於青埔地區的第一條自駕巴士路線

桃園青埔地區試辦全國第一條提供捷運站接駁、行經學校並深入社區的自駕巴士路線,今年5月至10月底開放預約以來,有破千人次搭乘,超過9成民眾對服務感到滿意。自駕巴士透過AI自動駕駛系統辨識號誌燈號、障礙物、行人或其他運具,配合智慧路側設施規劃與建置,克服青埔地區混合車流的複雜交通環境,且以實車運行累積各場景經驗,透過AI深度學習提升自駕巴士自動化程度。

桃園市政府將於2023年舉辦世界客家博覽會,規劃透過自駕巴士在機場捷運A17領航站、A18高鐵桃園站、A19桃園體育園區站提供接駁服務,讓遊客可搭乘暢遊博覽會,體驗科技的進步,也向國際展現桃園智慧城市的實力。

安全操作員監控下的測試無人自駕小巴上路運行實況。 圖/桃園市政府

首座自駕車測試研發基地在桃園

桃園自駕巴士的測試成功,配合「亞洲・矽谷計畫」於2019年正式啟用的虎頭山創新園區功不可沒,其為全國首座結合「車聯智駕中心」與「資安物聯網中心」的測試研發基地,在交通部挹注下,攜手中華電信打造全國第一個整合5G蜂巢式車間通訊,做為自駕車與路側設備通訊的5G垂直應用實證場域。

虎頭山創新園區全區覆蓋5G企業專網,可應用在自駕車各種路上測試,例如透過5G網路,把紅綠燈倒數秒數訊號,傳輸到車上行車系統以提早準備,讓自駕車的安全防護再升級;園區也配備不同交通道路模擬情境以測試自駕車運行演算能力,並提供所需軟硬體設備、專屬測試場域,以及多項專業車聯網及智慧駕駛所需環境,使園區成為自駕車技術實證的重要平台,全國首張自駕車測試車牌及實驗車牌就是由桃園發出。

虎頭山創新園區提供不同的道路情境測試環境。 圖/桃園市政府

智慧城市的現在進行式

今年8月全球第五座榮獲O-RAN聯盟(Open Radio Access Network Alliance,國際開放網路架構組織)認證的OTIC實驗室(Open Testing and Integration Centre)在桃園成立;透過建立5G開放網路驗測環境,逐步落實國產5G網路關鍵技術自主能力、加速5G網路佈建及產業數位轉型,智慧場域建置的運用在桃園持續發生。

桃園推動智慧城市的關鍵,在於運用科技創新、以市民生活需求為導向,期能在推動的過程中,讓人感受到城市的溫度。配合「亞洲・矽谷計畫」的推展,桃園將整合國內5G、物聯網等科技創新能量,連結在地與國際新創產業發展,發展成為亞太創新交流樞紐以及智慧城市發展的重要場域。

[桃園市政府廣告]