
第一手專訪吳恩達:就算在 AI 時代,也請具備寫程式能力

美國史丹福大學電腦科學系教授,同時也是 AI 研究開路先驅、 AI Fund 合夥人、DeepLearning.AI 創辦人以及 Landing AI 創辦人吳恩達(Andrew Ng)最近不只參加永齡基金會主辦的 AI 大師論壇,大談 AI 如何在未來成為社會的基礎設施。同時也受台杉投資邀請,與今年同樣榮登《時代雜誌》(TIME)「人工智慧領域百大影響力人物」的數位發展部長唐鳳對談。
在他旋風式來台之際,吳恩達也接受 INSIDE 專訪,跟我們聊了一系列他眼中 AI 未來發展的趨勢,以及台灣發展人工智慧的無窮潛力。
Q:在您第一次來台演講時,您那時形容「AI 是新時代的電力」,現在隨著生成式 AI 的蓬勃發展,您會怎麼形容這一波 AI 趨勢?
A:當然,這個形容仍然適用。 AI 的複雜之處在於它是一個通用生態系。因此,即使 ChatGPT 和 Bard 是非常棒的應用,但還有許多其他應用範疇等待構建,就像今天有成千上萬的電器一樣。我認為我們還須要花許多年努力去打造這些新的應用。
Q:您最近在 AI 上專注什麼領域?幾天前我們在 EE Times 看到了一篇您談論視覺 AI 方面的專訪報導,所以最近投入視覺 AI 的心力比較多嗎?
A:哈,其實不是只有視覺 AI,實際上我最近在 AI Fund 上花費了不少心力,AI Fund 是一間專注在投資 AI 科技的風險投資機構,除此之外我也花了不少心力在經營 Landing AI 這間 AI 公司(註)。 Landing AI 並不只專注於視覺 AI 或視覺技術,也用了非常多監督學習、文本生成等各式各樣的 AI 技術。
我認為 AI 不僅僅是一種工具,你可以看到在這波科技革命裡,視覺 AI 正在扮演非常重要的角色,例如 OpenAI 昨天宣布 ChatGPT 新增了圖像理解功能,以及還有許多開發團隊也在視覺 AI 有突破性的發展,這非常令人興奮啊。
Q:我們看到生成式 AI 引發這波大眾對 AI 的熱潮,不過你也曾經說過監督式學習 AI 會繼續保持 AI 的主流舞台,為什麼呢?
A:我對接下來幾年內生成式 AI 的發展很有信心!我覺得它太棒了,所以這不是在說我不看好生成式 AI。應該這麼說,我跟團隊研究監督式學習 AI 已經超過 10 年了,也看到時至今日有數百萬名開發者正在投入這個領域。
拿 Google 來說,光 Google 一間公司使用監督式學習 AI,就不知道可以創造多少產值了,我推估監督式學習 AI 可能為全球產業創造了數百億美元的產值。如果從這角度來看,生成式 AI 要趕上監督式學習創造的產值,還需要一些時日。
我們看到 ChatGPT、Midjourney、Bard 和 Character AI 這些 AI 都很成功,但更廣泛來說,現在受到大眾關注與實際運用的生成式 AI 應用程式,其數量還遠遠小於監督式學習。不過生成式 AI 會成長的,而且這正是 AI Fund 所投資的許多團隊正在做的事。
Q:transformer 可以說是這幾年 AI 領域最重要的關鍵技術之一。您認為接下來幾年,另一項足以跟 transformer 相提並論的技術是什麼?為什麼?
A:其實這還蠻難預測!因為即使是 transformer 本身的架構也正在不斷演變。我以前所在的 Google Brain 在 2017 年發表 transformer 論文時,它只有編碼器(encoder)-解碼器(decoder)一種架構。但經過這幾年的發展,開發者們開始用越來越多不同類型的 transformer,像現在許多大型語言模型(LLM)都使用 decoder-only 架構。
除了 transformer,LLM 也還有許多其他重要的部分,例如標記解析器(tokenizer),你要怎麼將文字轉換為數字提供給 transformer?或要怎麼把圖片轉換為可以理解的數字,提供給 transformer 來做轉換?這些也是似乎很關鍵的技術部分。
我想你應該聽我介紹過 AI 所帶來的文字革命時代已經到來,但接下來就是圖像革命了。我不認為 DALL-E 2 就是最終答案,在視覺 AI 部分,開發者還有很多有待努力的地方。
還有一點我非常期待,那就是「模型縮小化」,當你有較小的 AI 模型時,我們就可以將更多應用裝到筆記本電腦、智慧型手機或其他邊緣裝置上,讓這些裝置也能輕鬆使用 AI。AI 界太多事情正在發生了,很難說哪個方向是對的。
Q:我們對 AI 對人類生存的潛在威脅也感興趣。您是否擔心 AI 被包括軍事等方面濫用?
A:我很擔心 AI 被濫用,但我不認為 AI 會導致人類滅絕,那是不會發生的。但我覺得大眾很擔心 AI 所帶來偏見效應,現在也可以看到一些反例,有一些政治團體拿 AI 來生成、傳播錯誤訊息。
但我認為 AI 也是人類拿來面對滅絕威脅的最佳防禦手段之一。畢竟我相信,世界上擁有更多的智慧,只會使人類整體變更聰明,一旦人類整體更聰明,是會降低我們滅絕的可能性的。
Q:在 AI 研究中,您認為什麼是目前 AI 最困難的技術挑戰?為了實現更高等級的 AI,必須克服哪些事情?
A:我認為 AI 有很多「維度」需要我們努力解決,但擴展維度本身這件事很重要,其中之一就是雖然人們已經投入 AI 十幾年了,但還是需要更多的電腦算力、更多的資料,這就是其中一個重要的維度。
我一直說文字革命已經到來、圖像革命即將到來。但圖像處理的算法仍然相當不成熟。我們將文本轉換為符號、數字的方式可能,但反過來將圖像轉換為符號、數字的準確率仍然不令人滿意。因此,許多團隊仍在努力開發更好的圖像處理算法。
又或是如何讓 AI 執行複雜的推理?怎麼讓它們自己的決定採取行動?每個開發團隊都在嘗試自己的方法,但如果你想讓 AI 真的用在社會上,為人們做出一些決定,例如讓 AI 選擇到底要不要幫消費者退款這種很實際的問題,那就必須有複雜、多重的推理能力。坦白說這方面 AI 還非常不成熟,但也非常令人期待。
Q:隨著自然語言 AI 繼續發展下去,未來人們應該具備哪些技能和知識?寫程式的能力是否仍然重要呢?
A:當然重要。理想上我們會希望用自然語言與電腦溝通,甚至叫它幫我們寫程式,但事實證明不管英文、中文,目前 AI 說出來的結果還是無法 100% 可靠。程式語言有一個最優秀的部分是,它的「成果」非常具備可預測性,你給它一些指令,它每次都會精確遵循。
不過就我來看,如果你只懂一點程式語言,但卻懂怎麼下 prompt 給 LLM,那能做的事就很多了!舉個例子,我猜你身為記者可能有很多採訪的錄音檔,跟自己的筆記對吧?現在有 AI 你可以一次一次把這些東西貼給 AI,讓它們幫你整理摘要。但如果你懂怎麼寫簡單的腳本,來把這個過程自動化,那麼你可以一瞬間就從所有採訪中獲得摘要,不用一步一步複製貼上,這樣快更多!所以我認為寫程式能力仍然很重要,因為它可以讓您自動化,並且大幅擴展你使用 LLM 可以做到的事。
Q:台灣是重要的半導體生產基地。但除了半導體,您認為台灣可以對 AI 發展有什麼貢獻?
A:台灣在硬體方面一直都很強,你也很熟,像半導體製造、晶片封裝、伺服器、出口,硬體很強,這沒什麼不好啊。你看台大電機系就是一個備受讚譽的系。不過我也希望台灣的電腦科學、軟體產業能發展得更快、更好,而且甚至可以在台灣原有的硬體基礎上進一步發揮。
我認為台灣憑著半導體製造、工業製造,或是國際貿易、物流海運甚至是農業都很有優勢,這些應用領域真的要做起來,可能比在矽谷都更有潛力。例如我昨天有在公開演講時有提到跟三井在航運合作的實際案例,但這台灣也可以做啊。
此外,我覺得台灣工業製造和半導體製造有許多 AI 自動化的機會,但矽谷的製造業並不發達。台灣有深厚例如精密機械的專業知識,有 AI 應用於精密製造的潛力,但相對來說要在矽谷實現這一點就很難了。
Q:我認為這是一個全面性的文化問題。如果台灣要發展出自己的 LLM,最關鍵的因素是什麼?
A:這些大型語言模型通常回答有關美國政府、歷史、社會等問題它們回答得很好,但其他地區的事情就容易出錯;但我覺得微調(finetune) 得好的話,這點就相對容易了!實際上台灣可以用一般 LLM,然後使用台灣繁體中文的數據進行微調。當然,如果不用開源模型作為基底,而是從頭開始做所有事情,就會困難許多。
註:Landing AI 是想透過大量圖像和影片,訓練出自動品管 AI 的新創公司。
核稿編輯:Sisley
快加入 INSIDE Google News 按下追蹤,給你最新、最 IN 的科技新聞!
最新發展: