Google:我們已在開發「阻止天網」的防範機制!

評論
評論

不得不提,自從 AlphaGo 圍棋 下贏李世乭 以後,人工智慧的熱度一下子就爆發了開來,但有關跟「天網」或「駭客任務」一樣 AI 是否會真反過來統治人類的討論,則出現了正反兩種截然不同的聲音。像是 Elon Musk、Bill Gates 都十分擔心真的會發生,但也有人 從技術與意識的角度 告訴大家不會發生(反而要擔心是有心人士怎麼使用機器來破壞秩序)。

但不管會不會成真,有所防範總是好的。因此打敗李世乭的 Google DeepMind 自己與牛津大學就 合作發表了一篇論文 ,表示已經正在研擬對 AI 可隨時「安全中斷」的機制,以防止人工智慧或機器人的異常甚至有害行為。論文雖然還沒有明確解釋其運作原理,但表示已經創造了一個「框架」,允許現實中的人類「操作員」可以隨時反覆安全中斷 AI,又確保 AI 不能把「如何阻止中斷」的方法學習起來。

不過他們也承認,有些系統或演算法可能無法使用這套框架機制所停止。

DeepMind 確實很清楚認知到他們所研發的人工智慧技術是有其危險性的,因此讓他們的母公司 Google 成立了 AI 倫理委員會監督其進展,但這個機構由誰來管理、怎麼運作,卻也一直還是一團謎。肯塔基州路易斯維爾大學獨立研究者 Federico Pistono 和 Roman Yampolskiy 也認為,惡意的人工智慧系統 很可能會在缺乏監督、使用閉源代碼等極為封閉的環境所創造出來的,所以要防治惡意的人工智慧,另一個根本之道可能還是確保一切發展都處在公眾的視野之中。

歡迎加入「Inside」Line 官方帳號,關注最新創業、科技、網路、工作訊息

好友人數

精選熱門好工作

Campaign Associate 資深線上活動策劃專員

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

PopDaily 事業開發經理(Business Developer)

數果網路股份有限公司
臺北市.台灣

獎勵 NT$20,000

Shopee APP - Data Analyst 數據分析專員

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

評論