防止天網成真危害人類,MIT 與哈佛成立 AI 倫理基金會!

評論
評論
2144882415_7a8d4999e7_1
Photo Credit: Insomnia Cured Here

本文來自合作媒體 雷鋒網 ,INSIDE 授權轉載

MIT 媒體實驗室(MIT Media Lab)和哈佛大學伯克曼克萊恩互聯網及社會研究中心(Berkman Klein Center)共同成為了「人工智慧倫理和監管基金」的管理機構,將於解決人工智慧所帶來的人文及道德問題。

除了 LinkedIn 創辦人 Reid Hoffman、eBay 創辦人 Pierre Omidya 的非盈利組織 Omidyar Network 各捐出的 1000 萬美金之外,Knight 基金會也捐助了 500 萬美元,此外,還有 William and Flora Hewlett 基金會和 Raptor 集團創辦人 Jim Pallotta 各捐出了 100 萬美元。這筆總計 2700 萬美元的基金將由 MIT 媒體實驗室和哈佛大學 Berkman Klein 中心共同管理。將來,也會有更多的捐款者加入,基金的規模還將擴大。

「人工智慧將影響我們每一個地球人,對社會的各個領域意義重大。」Knight 基金會 CEO Alberto Ibargüen 表示。

儘管人工智慧已經幫助人類了做不少事,比如用自動駕駛技術來減少大量的交通事故,掃描醫學影像來發現癌症等等。但是有不少業界人士也在發出警告稱 AI 很有可能在給人類帶來幫助的同時,也帶給人不小的威脅。

人工智慧系統能分析大量數據,但其中也可能存在偏見。

「AI 的飛速發展帶來了很多嚴峻的挑戰,」麻省理工學院媒體實驗室主任伊藤穰一(Joi Ito)解釋道,「人工智慧給社會以及人類帶來了不可忽視的影響,機器變得越來越智慧,以至於有時候我們會擔心它們是否會脫離我們的控制。其中最關鍵的挑戰之一就是,我們如何確保自己培訓的機器永遠不會產生並且放大人類的偏見,以此來困擾社會?我們該如何針對這項技術展開更廣泛,深入的討論?社會該如何與 AI 共同演變?人們如何將電腦科學和社會科學連接在一起,開發出不僅‘聰明’,更重要的是對社會負責的智慧機器?」

人工智慧倫理和監管基金將用於研究 AI 應當如何承擔社會責任,例如教育、交通運輸和司法等領域的電腦程式怎樣確保公平性問題。該基金還希望探索出 AI 是以何種方式與公眾展開對話的,幫助公眾理解 AI 的複雜性和多樣性。此外,建立這項基金的必要性在於它將會跨越學科之間的障礙,打破不同領域的孤島。MIT 媒體實驗室、哈佛 Berkman Klein 中心以及其他潛在合作者,將作為一種共同機制,加強基金組織的跨學科工作,並鼓勵交叉學科的並行對話和協作。

這個組織預計在未來數年以階段式來達成目標,比如在 MIT 媒體實驗室原定於 7 月 10 日舉辦的 AI 研討會上將進行一定的補充。此外,該基金還將提供 AI 獎學金計劃,支援一些相關的合作計畫,引導 AI 向利於社會的方向發展。

協作型網路

MIT 媒體實驗室和哈佛 Berkman Klein 中心在網路社區以及多學科人才的幫助下,使用機器學習從數據中學習倫理和法律規範,並且使用數據驅動技術來量化人工智慧對勞動力市場的潛在影響。

據瞭解,這項工作已經在兩個機構中開始進行。其中一個是自動駕駛汽車的合作小組,由 Iyad Rahwan 領導,旨在討論汽車中相關的 AI 道德複雜性;另一個是機器人小組,由 Cynthia Breazeal 領導,旨在研究人類與機器人互動過程中所涉及的道德問題。

「正如 18 、 19 世紀,工業革命對整個世界產生的影響那樣,AI 的影響力也是類似的。」Rahwan 表示,他將運輸系統和就業列為最可能受到自動化和人工智慧影響的領域之一。「我們需要的是讓整個社會處在這些系統的控制環路中,包括技術專家、工程師、倫理學家、認知科學家、經濟學家、法律學者、人類學家、信仰領袖、政府監管者等等,以達到公眾效益。」

Breazeal 表示,「人工智慧為所有年齡和階段的人提供了深度個性化的學習體驗,」她強調人工智慧需要接觸發展中國家和少數派人群。同時,她補充到,「人工智慧也是一把雙刃劍,這種技術該如何惠及大眾,又該如何保護人類的隱私和安全?這些問題都需要慢慢思考。」

共同的目標

哈佛大學 Berkman Klein 中心一直致力於研究以公共利益導向的解決方案,比如知識共享和美國數位公共圖書館。此外,目前它還和 MIT 媒體實驗室合作,將一部分高水準的開發人員和高科技產業的專業人士匯集在哈佛大學進行為期三周的嚴格培訓,隨後還將展開 12 周的協作研究,讓各路人才共同探索網路安全問題。

哈佛大學 Berkman Klein 中心的共同創辦人兼電腦科學教授 Jonathan Zittrain 表示:「這些研究會幫助我們判斷 AI 事業更深層次的目標。雖然有時人工智慧讓人擔憂,但是人類應該做的工作是確定和培養自身在技術面前的自主性和尊嚴,而不是去降低技術水準。」

據瞭解,「人工智慧倫理和監管基金」將由一個小型董事會進行管理。此外,董事會在選舉出一組專家顧問,其中包括 Daniela Rus、Andrew,以及 Max Tegmark 等 MIT CSAIL 實驗室的高手。

麻省理工學院媒體實驗室主任伊藤穰一表示,現在對各個領域進行覆蓋是至關重要的。「我們決定創建一個動態網路,而不是建立一個機構。解決問題最好的方法就是展開跨學科、交叉領域的研究。我們這個計畫只是一個開始。」

相關文章

Amazon 首席科學家:如何煉成 Alexa 背後的深度學習技術?

作為2017開年最紅的人工智慧之星Alexa計畫的領導者,亞馬遜首席科學家Nikko Strom為大家帶來了一次精彩的演講,詳細闡述了Alexa的大規模深度的基本架構、語音識別、語音合成等內容。

工程師也失業?「會寫 AI 的 AI」效率超越人類,Google、MIT 相繼投入開發

工程師的工作 AI 還是很難勝任的對吧?畢竟這個東西需要邏輯思考,需要框架和流程設計,哪裡是 AI 能一下子勝任的事情。但 Google 等公司認為,AI 現在可以開始學習一些 AI 專家做的事情了,那就是寫 AI 程式。

科學文獻免費查!馬克祖克柏和妻子買下論文搜尋引擎 Meta

日前,該機構宣佈收購新創公司 Meta,這是 CZI 有史以來的第一筆收購交易。

評論