[[396127]]

作者：Ben Dickson是一名軟件工程師，還是探討技術在如何解決和帶來問題的TechTalks博客的創始人。

對于AI界來說意義重大，這歸功于深度學習領域取得了驚人的進步，AI的這個分支因收集、存儲和處理大量數據的能力不斷增強而變得切實可行。如今，深度學習不僅是一個科學研究課題，還是許多日常應用系統的一個關鍵組成部分。

但是十年來的研究和應用清楚地表明，在當前狀態下，深度學習并不是克服打造智能與人類相當的AI這一艱巨挑戰的最終解決方案。

我們需要怎樣才能將AI推到下一個高度？需要更多的數據和更龐大的神經網絡？需要新的深度學習算法？還是需要深度學習之外的方法？

這個話題已在AI社區引起了激烈的討論，也是上周舉行的在線討論Montreal.AI的中心話題。背景和學科迥異的科學家們參加了這場名為《AI辯論2——推動AI前進：一種跨學科的方法》的大辯論。

混合AI

認知科學家Gary Marcus共同主持了這場辯論，他重申了深度學習存在的幾大缺點，包括數據需求過高、將知識遷移到其他領域的能力偏低、不透明以及缺乏推理和知識表征。

Marcus一向公開炮轟純深度學習的方法，他在2020年初發表了一篇論文，他在論文中建議采用一種將學習算法與基于規則的軟件相結合的混合方法。

其他發言者也指出混合AI這種解決方案有望克服深度學習面臨的挑戰。

計算機科學家Luis Lamb說：“面臨的主要問題之一是確定AI的基本構建模塊以及如何提高AI的可信賴性、可解釋性和可解讀性。”

Lamb是《神經符號認知推理》（Neural-symbolic Cognitive Reasoning）一書的合著者，他提出了一種同時基于邏輯形式化和機器學習的神經符號AI基礎方法。

Lamb說：“我們使用邏輯和知識表征來表示將其與機器學習系統整合起來的推理過程，以便我們還可以利用深度學習機器有效地改革神經學習。”

來自進化的啟發

斯坦福大學計算機科學教授、谷歌云前首席AI科學家李飛飛強調，綜觀進化史，視覺一直是推動人類出現智能的主要因素之一。同樣，圖像分類和計算機視覺方面的研究工作已幫助引發了過去十年的深度學習革命。李飛飛開發了ImageNet，這個擁有數百萬個帶標簽圖像的數據集被用來訓練和評估計算機視覺系統。

李飛飛說：“作為科學家，我們問自己‘下一顆北極星是什么？’北極星不止一顆。進化和發展一直給予我極大的啟發。”

李飛飛指出，人類和動物身上的智能來自于對現實世界的主動感知和互動，而目前的AI系統嚴重缺乏這項特性，它們而是依賴由人類篩選和標記的數據。

她說：“感知（perception）和驅動（actuation）之間有一條根本上而言至關重要的環路，它決定著學習、理解、規劃和推理。如果我們的AI代理可以具體呈現，可以在探索性行動和利用性行動之間進行轉換，并具有多模態、多任務、可泛化且常常社交化的特性，就可以改進這條環路。”

李飛飛目前在斯坦福大學實驗室致力于開發利用感知和驅動來理解現實世界的交互式代理。

OpenAI的研究人員Ken Stanley也討論了從進化汲取的經驗教訓。Stanley說：“自然界進化具有的一些特性極其強大，它們還無法用算法來解釋，原因是我們無法形成自然界中形成的現象。那些是我們應繼續追逐和理解的特性，這些特性不僅在進化當中，還在我們自身當中。”

強化學習

計算機科學家Richard Sutton指出，總的來說，AI方面的工作缺乏一種“計算理論”，以視覺研究而家喻戶曉的神經科學家David Marr最先提出了這個術語。計算理論定義了信息處理系統力求完成的目標以及為什么力求完成該目標。

Sutton說：“在神經科學領域，我們對這個目標和整體思維的目的缺少大體了解。在AI中也是如此，在AI中可能更令人驚訝。AI中Marr所認為的計算理論更是乏善可陳。”Sutton補充道，教科書常常將AI簡單地定義為“讓機器做人們所做的事情”，而AI社區最近的辨認（包括神經網絡和符號系統之爭）“著眼于如何實現某個目標，好像我們已經了解了我們所要做的事情。”

Sutton說：“強化學習是智能的第一個計算理論。”他所說的強化學習是AI的一個分支，為代理賦予環境的基本規則，任由它們發現實現獎勵最大化的方法。Sutton說：“強化學習明確了目標，明確了什么和為什么。在強化學習中，目標是實現任意獎勵信號最大化。為此，代理必須計算策略、價值函數和生成模型。”

他補充道，這個領域需要進一步開發共同約定的智能計算理論，表示強化學習目前是出色的候選技術，不過他承認其他候選技術可能值得探究。

Sutton是強化學習領域的先驅，出過該課題方面的一本經典教科書。他目前效力的AI實驗室DeepMind大力投入于“深度強化學習”，這種強化學習技術將神經網絡整合到基本的強化學習技術中。近年來，DeepMind利用深度強化學習來攻克圍棋、國際象棋和《星際爭霸2》等游戲。

雖然強化學習與人類和動物大腦中的學習機制有著驚人的相似之處，但它也面臨著困擾深度學習的同一些挑戰。強化學習模型需要進行大量的訓練才能學習最簡單的東西，并嚴格受制于它們被訓練時所面向的狹窄領域。目前，開發深度強化學習模型需要非常昂貴的計算資源，這使得這個領域的研究僅限于幾家財力雄厚的公司，比如擁有DeepMind的谷歌和部分擁有OpenAI的微軟。

將實際知識和常識整合到AI中

計算機科學家和圖靈獎獲得者Judea Pearl以其在貝葉斯網絡和因果推理方面的工作而聞名，他強調AI系統需要實際知識和常識才能最有效地利用饋送給它們的數據。

Pearl說：“我認為，我們應該構建一種將實際知識與數據結合在一起的系統。”他補充道，僅僅基于聚集和盲目處理大量數據的AI系統注定會失敗。

Pearl表示，知識并不來自數據。相反，我們利用大腦中的先天結構與實際世界互動，我們利用數據來探究世界并從中學習，如同新生兒探索世界那樣：新生兒在沒有明確指示的情況下學會了許多東西。

Pearl說：“這種結構必須在數據外部加以實現。即使我們以某種方法神奇地從數據中學會了這種結構，仍需要以可以與人類溝通的形式來使用它。”

華盛頓大學的崔藝珍（Yejin Choi）教授也強調了常識的重要性以及缺乏常識給當前的AI系統所帶來的挑戰，當前的AI系統側重于將輸入數據與結果對應起來。

崔藝珍說：“當今的深度學習即使不理解數據集背后的任務，也可以解釋數據集，這歸因于AI和人類智能（尤其是關于實際世界的知識）之存在巨大差異，而常識正是缺失的基本要素之一。”

崔藝珍還指出，推理是個無限的領域，推理本身是一項生成任務，與如今的深度學習算法和評估基準測試所適用的分類任務大不相同。崔藝珍說：“我們從不枚舉太多，我們只是即時推理，這將是將來我們要考慮的關鍵的根本挑戰之一。”

但是我們如何實現AI也有常識和推理？崔藝珍提議致力于眾多的平行研究領域，包括結合符號表征和神經表征、將知識整合到推理中以及設計不僅僅是分類的基準測試。

但是我們如何在AI中達到常識和推理呢？崔藝珍提出了廣泛的平行研究領域，包括將符號和神經表示相結合，將知識整合到推理中以及設計不僅僅是分類的基準測試。

崔藝珍表示，我們仍不知道通向常識的完整道路。她補充道：“不過有一點可以肯定，那就是我們一味建造世界上更高的建筑物是無法抵達成功彼岸的。因此，GPT-4、GPT-5或GPT-6可能無濟于事。”