?譯者 | 李睿

審校 | 孫淑娟

近年來，深度學習在人工智能的一些最具挑戰性的領域取得了長足的進步，其中包括計算機視覺、語音識別和自然語言處理。  

然而，深度學習系統仍然沒有解決一些問題。因為深度學習系統不擅長處理新情況，它們需要大量數據進行訓練，有時還會犯一些奇怪的錯誤，甚至連它們的創造者都會感到困惑。

一些科學家認為，這些問題要以通過創建越來越大的神經網絡并在越來越大的數據集上進行訓練來解決。也有人認為，人工智能領域需要的是人類的一些“常識”。  

計算機科學家Ronald J.Brachman和Hector J.Levesque在他們出版的新書《像我們這樣的機器》中，提出他們對人工智能難題這一缺失部分的看法和可能的解決方案，而“常識“這一難題已經困擾了研究人員幾十年的時間。在接受行業媒體的采訪時，Brachman討論了什么是常識，什么不是常識，為什么機器沒有常識，以及“知識表示”這一概念是如何引導人工智能社區朝著正確的方向發展的。“知識表示”這個概念已經存在了幾十年，但在深度學習熱潮中被擱置了。

盡管仍停留在假設領域，但《像我們這樣的機器》這本書為潛在的研究領域提供了一個新的視角，這得益于這兩位自從上世紀70年代以來一直深入研究人工智能的科學家。

優秀人工智能系統會犯奇怪錯誤

Brachman說，“在過去的10到12年，隨著人們對深度學習表現出非凡的熱情，有很多關于基于深度學習的系統能夠完成我們最初希望人工智能系統所做的一切的討論。”

在人工智能的發展早期，其愿景是創建一個自給自足的自主系統，并且可能以機器人的形式出現，它可以在幾乎不需要或根本不需要人工干預的情況下獨立做事。

Brachman說，“如今，由于許多人對深度學習所能取得的成就感到興奮，研究的范圍已經縮小了很多。特別是在工業領域，大量資金和人才招聘推動了對基于經驗或經過實例訓練的系統的高度關注，許多人聲稱已經接近通用人工智能，或者說‘有效的老式人工智能’（GOFAI）或象征性方法完全過時或沒有必要。”

顯而易見的是，盡管令人印象深刻，但深度學習系統正面臨著尚未解決的令人困惑的問題。神經網絡容易受到對抗性攻擊，其中對輸入值的特制修改會導致機器學習模型對其輸出進行突然的錯誤更改。深度學習也在努力理解簡單的因果關系，而且在構思概念和將它們組合在一起方面的表現非常糟糕。大型語言模型最近成為了一個特別關注的領域，但有時會在生成連貫且令人印象深刻的文本時犯下非常愚蠢的錯誤。

Brachman說，“人們對人工智能犯的這些錯誤的看法是，它們看起來很愚蠢、很無知，人類很少犯這種錯誤。但是重要的是，導致這些錯誤的原因有些難以解釋。”

這些錯誤導致Brachman和Levesque反思當今人工智能技術中缺少什么，以及需要什么來補充或取代示例驅動的訓練神經網絡系統。  

Brachman說，“如果仔細想想，這些系統顯然缺少的是人類所稱的常識，即能夠看到對許多人來說顯而易見的事情，并快速得出簡單和明顯的結論，并能夠在決定做一些立即意識到是荒謬或錯誤選擇的事情時阻止自己。”

什么是常識？

人工智能社區從早期開始就一直在談論常識。事實上，John McCarthy于1958年撰寫的最早的人工智能論文之一的名稱為《具有常識的程序》。  

Brachman說，“這不是什么新鮮事，也不是我們發明的名稱，但這一領域已經忽視了人工智能先驅者所說的核心意義。如果進一步了解什么是常識以及擁有它的意義，對我們來說更重要的是，它是如何工作的以及將如何實施它，人們在心理學文獻中幾乎找不到指導。”

在《像我們這樣的機器》一書中，Brachman和Levesque將常識描述為“有效利用普通、日常、經驗知識來實現普通、日常、實際目標的能力”。  

常識對生存至關重要。人類和高等動物已經進化到通過經驗學習，發展常規和自動駕駛技能，可以處理他們每天面臨的大多數情況。但日常生活不僅僅是人們反復看到的例行公事。人們經常面臨從未見過的新情況。它們中的一些可能與正常情況有很大不同，但大多數時候，人們看到的事物與已經習慣的有些不同。在人工智能討論中，這有時被稱為“長尾”。

Brachman說，“在我們看來，當這些例行公事被打斷時，常識實際是第一個被激活的事物，能讓人們快速了解新情況，記住之前所做的事情，快速調整記憶，并將其應用于新情況，并繼續前進。”  

在某種程度上，常識與心理學家、諾貝爾獎獲得者Daniel Kahneman推廣的雙系統思維范式有些不同。常識并不是快速、自動駕駛的系統1思維，它執行人們可以在沒有特意集中精力的情況下完成的大多數日常任務（例如，刷牙、系鞋帶、扣扣子、在熟悉的區域開車）。它需要積極思考來來打破目前的常規。

與此同時，常識也不是系統2思維，系統2思維是一種緩慢的思維模式，是需要全神貫注、循序漸進的思維（例如，規劃為期六周的旅行、設計軟件、解決復雜的數學方程）。  

Brachman說，“人們可以深思熟慮，以應對挑戰。這種思考會讓人們的大腦感到疲乏，而且速度很慢。常識讓人們在幾乎任何日常生活中都能避開這種情況，因為不需要深入思考下一步該做什么。”

Brachman和Levesque在他們出版的著作中強調，常識是一種“膚淺的認知現象”，與深思熟慮、有條不紊的分析相比，它運行速度更快。  

他們寫道，“如果需要大量思考才能弄清楚，這不是常識。我們可以將其視為‘反思性思維’，‘反思性’與‘思考’一樣重要，”

沒有常識的人工智能面臨的危險  

常識需要可預測性、信任、可解釋性和問責制。  

Brachman說，“大多數人并不會犯一些奇怪的錯誤。雖然人們可能會做一些傻事，但在反思之后可能會避免這樣的錯誤。雖然人類并不完美，但有些錯誤在一定程度上是可以預測的。”  

沒有常識的人工智能系統面臨的挑戰是，當它們達到訓練的極限時可能會犯錯。Brachman說，這些錯誤是完全不可預測和無法解釋的。  

Brachman說，“沒有常識的人工智能系統沒有這種觀點，沒有阻止自己做奇怪事情的退路，而且會變得脆弱。當它們犯錯時，錯誤對它們來說根本沒有任何意義。”  

這些錯誤可能是無害的，例如給圖片貼錯標簽；也可能是極其有害的，例如導致自動駕駛汽車駛入錯誤的車道。  

Brachman和Levesque在書中寫道，“如果一個人工智能系統遇到的問題是下棋，而它所考慮就是贏得比賽，那么常識對它們來說不會發揮作用，而當人們玩國際象棋游戲時，常識將發揮作用。”  

因此，隨著人工智能系統進入開放領域的敏感應用，例如駕駛汽車或與人類合作，甚至參與開放式對話，常識將發揮非常關鍵的作用。這些領域總是會發生新奇的事情。

Brachman和Levesque在《像我們這樣的機器》書中寫道，“如果我們希望人工智能系統能夠以合理的方式處理現實世界中普遍發生的事情，我們需要的不僅僅是通過對已經發生的事情進行采樣而得出的專業知識。僅僅基于看到和內化過去發生的事情來預測未來是行不通的。我們需要常識。”

重新審視符號人工智能  

大多數科學家都認為當前的人工智能系統缺乏常識。然而，涉及解決方案時通常出現一些分歧意見。一個流行的趨勢是繼續使神經網絡的規模變得越來越大。有證據表明，更大的神經網絡繼續進行漸進式改進。在某些情況下，大型神經網絡表現出零樣本學習技能，它們執行未經訓練的任務。

然而，也有大量的研究和實驗表明，更多的數據和計算并不能解決人工智能系統沒有常識的問題，而只是將它們隱藏在更大、更混亂的數字權重和矩陣運算中。  

Brachman說，“這些系統注意并內化相關性或模式。它們不會形成‘概念’。即使這些系統與語言互動，它們也只是模仿人類行為，而沒有人們認為他們擁有的潛在心理和概念機制。”

Brachman和Levesque主張創造一種系統，將常識性知識和對世界的常識性理解編碼。

他們在書中寫道：“常識知識是關于世界上的事物及其所具有的屬性，以我們所謂的概念結構為中介，它是關于可能存在的各種事物以及它們可能擁有的各種屬性的一系列想法。知識將通過符號化表示和在這些符號結構上執行計算操作來使用。關于該做什么的常識性決策相當于使用這些表征知識來考慮如何實現目標，以及如何對觀察到的情況做出反應。”  

Brachman和Levesque認為，該領域需要回顧并重新審視早期關于符號人工智能的一些工作，以便為計算機帶來常識。他們稱之為“知識表示”假設。這本書詳細介紹了如何構建知識表示(KR)系統，以及如何將不同的知識片段結合起來，形成更復雜的知識和推理形式。

根據知識表示(KR)假設，常識知識的表示將分為兩個部分：“一個表示世界狀態的世界模型，另一個是表示概念結構的概念模型，而這是一個可用于對世界中的項目進行分類的概括框架。”

Brachman表示“我們的觀點是回到早期關于人工智能的一些思考，其中某種符號和符號操作程序（人們過去稱之為推理引擎）可以用來編碼和使用人們稱之為常識的世界基礎知識：直觀或幼稚的物理學，對人類和其他主體的行為方式以及意圖和信念的基本了解，時間和事件如何運作，因果關系等。這些都是我們在初始一兩年內獲得的所有知識。正式表示的世界知識實際上可以對機器的行為產生因果影響，并且還可以通過操縱符號來做所有事情，例如組合性。并將人們熟悉的事物以新的方式呈現出來。”

Brachman強調，他們在書中提出的假設在未來可以被推翻。  

Brachman說，“從長遠來看，到底是預構建、預編碼所有這些知識，還是讓人工智能系統以不同的方式學習，我不知道。但作為一個假設和實驗，我認為人工智能的下一步應該是嘗試建立這些知識庫，并讓系統使用它們來處理日常生活中的意外事件，對如何處理熟悉和不熟悉的情況作出粗略的猜測。”

Brachman和Levesque的假設建立在先前創建大型符號常識知識庫（例如Cyc）的基礎之上，該項目可以追溯到上世紀80年代，并收集了數百萬條關于世界的規則和概念。  

Brachman說，“我認為我們需要走得更遠。我們需要關注自主決策機器如何在日常的決策環境中使用這些事物。積累事實知識并能夠回答危險類型的問題是一回事；但在這個紛繁嘈雜的世界里工作，并能夠理性、及時地應對不可預見的意外，則完全是另一回事。”

機器學習在常識中有作用嗎？  

Brachman表示，基于機器學習的系統將繼續在人工智能的感知方面發揮關鍵作用。  

他說，“我不會推動使用一階謂詞演算來處理人造視網膜上的像素或處理速度信號處理的符號操作系統。這些機器學習系統非常擅長低感官水平的識別任務，目前尚不清楚這些事物在認知鏈中有多高，但它們并沒有走到最后，因為它們不會在人們在場景中看到的事物和自然語言之間形成概念和聯系。”

神經網絡和符號系統的結合是近年來越來越突出的一個想法。Gary Marcus、Luis Lamb和Joshua Tenenbaum以及其他科學家正在提議開發“神經符號”系統，將最好的符號系統和基于學習的系統結合在一起，以解決人工智能當前面臨的挑戰。  

盡管Brachman認同該領域正在進行的大部分工作，但他也表示，目前對混合人工智能的看法需要一些調整。

他說：“我認為目前的任何神經符號系統難以解釋常識與更有條理、更深入的符號推理之間的差異，而這些符號推理是數學、繁重的規劃和深度分析的基礎。我希望在這個混合人工智能世界中看到的是真正考慮常識，讓機器像人類一樣利用常識，讓它做與人類所做的相同的事情。”

原文標題：??How to solve AI’s “common sense” problem???，作者：Ben Dickson?