創辦人祖克柏不怕人工智慧,Facebook 研究員卻阻止 AI 自創密語的脫軌演出

AI 之間竟然建立起人類不懂,機器獨有的語言來方便溝通,而且還發展出以退為進的談判技巧。而且在研究人員確認 AI 已經不是再說原本替他們設定好的英語之後,就決定將其關閉。
評論
Catalan nanotechnology engineer Sergi Santos holds the head of Samantha, a sex doll packed with artificial intelligence providing her the capability to respond to different scenarios and verbal stimulus, in his house in Rubi, north of Barcelona, Spain, March 31, 2017. Picture taken March 31, 2017. REUTERS/Albert Gea TPX IMAGES OF THE DAY - RTX3A1V5
評論

Facebook 創辦人馬克・祖克柏上週才和特斯拉創辦人伊隆・馬斯克隔空交火,在人工智慧會不會威脅人類這點起了爭議,其中 馬斯克 認為我們應該防患於未然,免得人類文明反過來被 AI 威脅, 祖克柏 則對此表示不解,認為應該對 AI 保持樂觀,後續反被馬斯克發文評到「我和馬克聊過,他對 AI 了解有限。」

在 2017 年 6 月,我們也曾 報導 Facebook 研究員在訓練語意判斷 AI 時,發現經過多次互相對話,AI 之間竟然建立起人類不懂,機器獨有的語法來方便溝通,而且還發展出以退為進的談判技巧。而且在研究人員確認 AI 已經不是再說原本替他們設定好的英語之後,就決定 阻止他們說密語

AI 發展出自己的溝通方式並非單一事件,而 Facebook 這次的例子則是最新一起。當然也有人認為說是完全不同的新語言過於誇張,不過具體來說,原本是訓練來談判以揣測人類意圖,以便跟人進行順暢對話的 AI,演變到後來溝通的內容已經讓一般人類無法理解。

「I can i i everything else.」

具體來說,Facebook AI 讓兩位「代理」Bob 和 Alice 聊天機器人對話 ,原本應該是要能和人對話,最後產生出來的卻是諸如 Bob 說「I can i i everything else.」Alice 回答「balls have zero to me to me.」之後的對話也都是類似如此,令人費解的句子。

研究人員猜測這可能跟 AI 運作的方式有關,比如直接用「i i」代表物件的數量,表達的意思更嚴謹,取代了傳統英語可能會用「I'll have two and you have everything else.」的說法。因為實驗沒有獎勵 AI 使用符合傳統英語語法,因此它們就發明了更有效率的代碼式溝通法。

Google 翻譯也遇到類似狀況

先前 Google 翻譯 導入神經網路技術,透過 AI 來達成多語言之間互翻,再也不是一次只能學習兩種語言間的翻譯。不過研究人員也很快發現,AI 為了完成翻譯工作,自製了一套語言。另外伊隆馬斯克創辦的 OpenAI 專案也成功讓 AI 自己發展並學習屬於 AI 的密語。

當 AI 發展出人類無法理解的溝通方式,雖然要推論到顛覆人類文明還言之過早,但是已經對應用開發造成一些麻煩,畢竟研究人員自己都難以理解 AI 說的話。不過經過觀察這些新「密語」的模式,AI 創造的語言儘管在人類看來沒有道理,實際上的運作方式卻比現存語言來得有效率,而且更能直指工作問題的核心。

延伸閱讀:

 


Akamai 服務上新,於邊緣處推動快速創新

Akamai EdgeWorkers 為開發團隊提供豐富功能和工具來創建新的微服務,利用 Akamai 提供的 25 萬台分佈式服務器組成的網絡,在邊緣執行安全而快速的計算,並在邊緣暫存內容,以實現快速交付。
評論
評論

在雲計算技術還沒有大規模普及前,絕大部分企業和組織都需要自建數據中心,或通過託管的方式來部署自己的硬體基礎架構,並在此基礎上為員工和客戶提供服務。取決於業務或其他方面的諸多要求,此時需要部署的數據中心可能有很多個,並廣泛分佈在不同地區,藉此為客戶提供流暢的體驗,並透過多個數據中心保障連續性。在發展的過程中,隨著「雲端」的出現,讓各個組織的計算開始集中。

而當在線直播、無人駕駛、智能家電、物聯網等應用開始陸續深入我們的工作和生活,情況又不同了。以往透過雲平台集中運行和服務的模式,因為距離導致的網絡延遲已經對用戶的使用體驗產生極大影響。為了提供更敏捷、靈活、快速、可靠的體驗,企業需要從最貼近用戶的地方提供服務。因此,邊緣計算就成為最有效的解決方法。

透過將數據的收集、分析和處理等工作,由「雲中心」重新分散到最接近用戶的邊緣位置,企業可以就近為用戶提供服務,通過延遲更低的響應打造更出色的用戶體驗。

「無服務器」的出現,帶來計算方式的革新

以前,當組織需要上線一套業務系統時,首先需要採購並部署相應的服務器硬體,並且要負擔服務器日常運維過程中的管理、維護、補丁安裝、配置等繁瑣任務。

上雲前,組織需要在自己的數據中心,以硬體服務器的方式執行這一系列工作;上雲後雖然簡單許多,但依然需要面對雲服務商提供的虛擬服務器,從本質上來看相關負擔仍相當繁重。

無服務器(Serverless)技術的出現,讓組織可以在不需要考慮服務器的情況下,構建並運行由微服務構成的創新式應用程式與和服務。藉此不僅可以省略基礎架構管理任務,還能為幾乎任何類型的應用程式或後端服務構建無服務器應用程序,更方便、靈活地構建出具備極高可用性的應用。

Akamai EdgeWorkers :為創新賦能

Akamai EdgeWorkers 為開發團隊提供豐富功能和工具來創建新的微服務,利用Akamai 超過 25 萬台分佈式服務器組成的網絡,在邊緣執行安全而快速的計算,並在邊緣暫存內容,以實現快速交付。

當開發團隊在邊緣開啟代碼時,他們會將數據、見解和邏輯推送到更靠近最終用戶的位置。Akamai 的高性能、可擴展式實施模型,可確保數據和計算不會被延遲問題困擾,進而避免對數字化體驗產生負面影響。

在該服務幫助下,開發者可直接在 Akamai 的全球分佈式平台上快速、迭代地創建和部署新服務,以解決問題和自定義交付。

長期以來,Akamai 在邊緣計算的創新和成功實施皆具有優勢。自 1998 年起,便開始為 Akamai 內容交付網絡(CDN)的客戶推出自定義交付邏輯,其他里程碑還包括 2001 年的 Edge Site Includes 、2002 年的 Edge Java 以及 2014 年的 cloudlet 應用程式。

目前, Akamai 在全球擁有超過 4100 個入網點,為 EdgeWorkers 用戶提供出色的邊緣基礎架構規模和範圍,開發人員可以在靠近最終用戶和他們的數字化接觸點的地方部署代碼,以實現盡可能低的延遲。EdgeWorkers 同樣獨立於雲,客戶可以選擇利用 CDN 供應商或雲供應商平台上的無服務器計算功能。在 Akamai 幫助下,客戶可以在整個混合雲或多雲環境中部署單一的無服務器計算平台。

更多相關資訊:https://www.akamai.com/solutions/edge

本文章內容由「猿聲串動」提供,經關鍵評論網媒體集團廣編企劃編審。