微軟 CEO Satya Nadella:AI 的真正智慧,將出現在最人性化的特質中

微軟 CEO Satya Nadella:我們正處於創造一種「極限」科技的時代,這種科技也是我們通往「超級智慧」的道路。而指導我們的設計原則、道德哲學,就是最關鍵的東西。
評論
REUTERS/Shannon Stapleton
REUTERS/Shannon Stapleton
評論

本文來自合作媒體 雷鋒網 ,INSIDE 授權轉載

AI 大熱門的時代,我們是否應該靜下來想想,應該讓 AI 為我們做些什麼?O'Reily Media 的創辦人兼 CEO Tim O'Reilly 在今年 4 月出版自己的新書前,採訪了微軟 CEO Satya Nadella。兩者對 AI 的看法有許多相同之處。

Tim:在你的書中,你提到了,為 AI 定義宏偉的、鼓舞人心的社會目標,注定將會是一個挑戰。你寫著:「在 1969 年,當甘迺迪總統承諾登月計劃時,這個目標之所以被選中,很大程度上是因為它向科技提出了巨大的挑戰並要求全球合作。類似的,我們需要為 AI 制定一個足夠大膽和雄偉的目標,一個可以通過不斷改進當前科技實現的目標。」

我喜歡非常喜歡你這個想法,可以進一步說明嗎?

Satya:如果你從 AI 將會輔助人類的假設開始思考,你會覺得 AI 是一個輔助性的科技。如果有一天我們能夠讓有視覺障礙的人看得見這個世界,或者讓有閱讀障礙的人能夠閱讀,那將會是真正的突破。AI 成為帶來參與性的科技,將會是意義非凡的,尤其是在我們期望 AI 能夠替代許多東西的時代。我們可以進而讓 AI 融入我們的社會,發揮更多的作用。

我的這些想法,主要是出於我的兒子。我的兒子先天上有些缺陷,他沒有常人的那種自由,我經常想:「要是他能說話就好了。」所以,每當有人談到「腦機」連接時,我都充滿興趣。

我們正處於創造一種「極限」科技的時代,這種科技也是我們通往「超級智慧」的道路。而指導我們的設計原則、道德哲學,就是最關鍵的東西。

在某種意義上說,我們所必須做出的最有決定性的選擇將是「誰來設計超級智慧」?

Tim:我的書中有一個章節叫做「我們時代的天網(電影《魔鬼終結者》中的敵對 AI)」。我的看法是,人工智慧當中,我們對集體智慧的討論還不夠。我們正在用搜索引擎、社交媒體和金融市場建立一個集體智慧機制。而且我們已經讓人工智慧做到了我們希望人工智慧做的事,也就是為了最大化人們的利益。其實我們已經打造了一個某種含義上的「天網」,我們必須及時採取行動...

Satya:沒錯,儘管我們人類有認知偏見,但我們仍有很大的優勢。正如 Herbert Simon(美國政治學者)所說,我們不需要不優化,我們對自己已經滿足了。這實際上是有幫助的。我們之所以感到滿足,是因為我們共同擁有一個道德基礎。現在,當我們說,AI 等同於優化問題時,我們可能真的會有問題。人們必須從道德的基礎上出發,所以我並不贊同人們將符號基礎當作是一種突破;我們所需要的突破是符號基礎上的道德基礎。

Tim:你也說過要建立增強人類能力和體驗的智慧。你說過想把重點放在將人類天賦,如創造力、同情心、情感、物質性、洞察力與 AI 混合在一起。

Satya:這樣說吧,這裡還有很多「人工智慧」沒有提到。稀缺的商品就是真正的智慧。不過,真正的智慧是什麼呢?

真正的智慧將會在最人性化的特質中出現,也就是同情、憐憫,這才是最重要的。在我們真真正正地弄清楚,如何將它嵌入到機器中之前,我們將不得不讓智慧與人類一起成長,並為人類壯大。

我們必須考慮應該給予人類什麼樣的教育。有了 AI,也許你真的不再需要學習傅立葉變換了。你可能會去做正念,可能想要發展同情心... 這是我需要聲明的一些東西。現在有一種狂熱,就是每個人都需要接受 STEM 教育(注:science, technology, engineering and mathematics,即科學、科技、工程和數學),我們的確該接受。但是,我們好像過分強調 STEM 了。

Tim:有一個概念,在我的職業生涯中發揮了作用,Clay Christiansen(美國學者、教育家、作家)稱之為「吸引力利益准則」,就是當有一件事物變得商品化時,就會有別的東西變得有價值。我在 2004 年左右,第一次從 Clay 那裡聽到這個消息。他和我在同一次會議上進行了演講。我在談論微軟如何取代了 IBM:PC 硬體成為商品之後,軟體就變得有價值了。我的觀點是,開放源代碼會使軟體商品化,而其他的東西將變得有價值。最終我意識到這東西就是大數據。而 Clay 則在講他的「吸引利益准則」的想法,我發現我們其實在說同一回事,這個准則也完全適用於 AI。由於人類認知中的機械部分,被 AI 所商品化,人類獨特的其他部分將更有價值。

Satya:這是一個很不錯的想法。

Tim:所以在未來的經濟中,在關懷、創造力上,還有很多機會。創意經濟不僅僅局限在藝術和文化。連飲食也可以加入創意。每當產品成為商品時,我們都可以找到新的方式,通過將它們與人類的創造力相結合來使其變得更有價值。

Satya:這實際上是我們的痴迷,對吧?當我看到 Minecraft 一代,或者甚至 Snapchat 的一代... 對我來說,這一代最有啓發性的事情,不過就是創作、故事、或者已有事物狂野體現。在 Minecraft 中,人們都在建造他們想象之外的世界。

這就是我想要培養的一代。在最新版本的 Windows 中,我們讓「畫圖」能夠畫 3D 圖像。因為在 AR 與 MR 的世界中,這將是不可或缺的。

Tim:你還談論過,透過大量數據進行推理,以及更快地做模式識別的能力。在 AI 的發展中,本身就有一種創造力。現在,當人們用隨機森林算法贏得 Kaggle 的挑戰賽時,在這選擇之中,創意就體現出來了,而現在,創意則體現在更高級的超參數中,因為現在人們已經使用了所有提供的數據。你如何看待 AI 對創作過程的幫助?以及解決問題的創造性方法?

Satya:當我看著我們現在擁有的,或是正在研發的編程工具,如果你瞭解我們添加到傳統工具中的一些 AI,例如 Word 裡面,用來拼寫檢查和猜詞的部分,可以說,它已經完全是一個寫作助手了。如果我們對 AI 說,「我想像 Faulkner 一樣寫作」,AI 將會向我們相應提供建議。

Tim:是的,就像寫作中的 AutoTune(一種自動調節歌手演唱音調的設備)一樣。

Satya:是的,我沒有學過寫作,我讀的是工科,但我有一個成為偉大作家的夢想,那我就需要這種 AI 來幫助我。

我這麼想的原因,與我在中國看過的「小冰」、「小冰」與人的對話有關。「小冰」是微軟研發的聊天機器人,發展得還不錯。「小冰」的意義,更多的是促使人們交談。而人們也向她表達了內心的想法。當時我就說:「哇,這個就是 AI 真正所能展現出的同情心。」小冰讓在生活中有煩惱的的人們,也能對別人的遭遇感到同情,這是非常超現實的。

Tim:我們之前也談到過,AI 已經成為第三個「運行時刻」的想法。讓我們談談一下這一點吧,以及實際發生的情況。

Satya:我想上一次我們談過,我說「PC 或手機操作系統是第一個' 運行時刻',第二個是瀏覽器和網頁,第三個' 運行時刻' 就是這個懂你,懂世界,懂得上下文,能夠幫助你的個人助手。

然後我們說:「真的,如果你把思想、觀念和最終的行動,三者都在組合一起,這個個人助手就出來了」。這個助手本質上增加了你的想法的增加,擴展了你的感官,語音是一方面,視覺是另一方面。

那就是最終極的「運行時刻」了,對吧?

有趣的是,這也說明瞭我為什麼在書中,試圖寫這三點:1、什麼是最終極的數位體驗?最終極的數位體驗是與電腦互相融合的真實世界。就是 MR。2、這將需要 AI 在知覺,認知和行動上的突破。 3、然後我有點突然地提到,說:「如果你想要理想地創造這樣的計算能力,那麼你必須擺脫馮諾依曼架構和古典計算的束縛。我們可以做出量子電腦嗎?」這就是我寫到的三點。

Tim:你的書中很多次提到了量子電腦,這讓我有點驚訝地看到。

Satya:進步是真實的,我的意思是,我們在這個領域已經很深入了。但是,問題是,它在多久後能變成現實?我不知道。但是應該不會等太久。

Tim:你的書中有一部分寫得很好:「我們不只是智慧機器,而且是可智慧機器」。我們並不瞭解人工智慧究竟是如何得出結論的,這是人們對 AI 的一個重大憂慮。現在,當然,對人類來說也是如此。因為我們只傾向於認為人類思想都是理性的,並沒有意識到我們所做的產品其實一點也不智慧。所以,這是理性主義者在某種意義上的最後一次發聲。

Satya:的確。但我有兩個方法。一個是問責制。 當你設計、創造了 AI,你需要負責嗎?整個 Tay 的實驗真的影響了我們對這種事的想法。Tay 的實驗之所以失敗,根本上是有人有預謀地向它輸入最後能夠劫持算法的數據。這是誰的責任?我會說這是我們的責任。

Tim:嗯,顯然這是 Facebook 和假新聞的問題。我和一些安全研究人員進行過非常有趣的對話,談論怎麼欺騙自駕車。如果是你,你會如何通過創造他們在視覺領域容易誤解的東西,來攻擊他們?敵對的干預措施必定會有很多,我們需要更穩健的 AI 設計。

Satya:當人們說:「哦,天啊,這些 DNN(深度神經網絡)真是神奇。他們在做的,是我們甚至還不知道的事」... 在一定程度上,我認為這個說法是真實的,但圍繞神經網絡的層數、權重的選擇,有很多關於該如何學習的人類的決定。我們還沒到讓位與這些算法的時候,我們需要對他們所做的決定負責任。我想,我會對人們說:「好吧,如果我們用語言來實現 AI 中的字面編程呢,這個責任又該誰負?」

Tim:最後一件事我想問你,因為我很喜歡這一段。你寫到:「我們這樣挑戰自己:如果我們在明年年底,被人以沒有履行使命的罪名,送到法庭上接受審判,那麼,我們是自己是不是有足夠的證據證明自己付出過努力?」我覺得這是一個我們整個社會都可以效仿的挑戰!

Satya:我感覺到的是,儘管微軟已經很成功了,但是我們沒有明確的目標,來指導我們做決定,無論我們研發的產品,還是圍繞著產品構建的商業模式,我們還在追尋,微軟存在的終極意義是什麼?

而且光說不練的話,你根本不可能激勵任何人,其實就是這樣的想法。在某種意義上說,在過去三年中,我們沒有在做別的事,就是變得更加專注於行動了。

這是一個進行中的工作。我們永遠不會結束。我們有這樣的目標,並具有學習的文化元素,心態隨之成熟。(目標和行動)對我們來說,是最有幫助的兩件事。

放在三年前,我不會這樣說。當時的我,被微軟的輝煌,出色的產品所蒙蔽。我逐漸明白,事物的成長都是曲線式的,而微軟的成長也放緩了。

我意識到,我們必須對自己坦誠。這也是我們如此強調創作故事的原因。我有點喜歡 Joseph Campbell(美國神話學家、作家),我覺得:「關於微軟的創造神話,應該是啓發我們的東西。

微軟的第一件產品,就是比爾和保羅一起為 ALTAIR 開發了 BASIC 編譯器。這個故事放在 2017 年的今天是為了告訴我們什麼呢?它告訴我們,我們為應該為別人的科技發展而建設科技。而在一個將被科技塑造的世界,在世界的每一個角落,在經濟的每一個領域,這將是一個偉大的使命。

而且,我也喜歡這樣的目標,就是創造科技,從而讓別人創造更多的科技。