人類已經教會了深度神經網絡做許多驚人的事情，從識別和推理圖像中的物體，到在Atari游戲和圍棋中發揮出超越人類的水平，不一而足。隨著神經網絡的結構和所做的任務變得越來越復雜，神經網絡學到的解題方法也越來越難以被人類理解。

人們把這個問題稱作“黑箱”。隨著神經網絡越來越多地參與解決現實世界中的問題，解決這個黑箱問題也變得越發重要。

為了能夠了解和解釋這些神經網絡系統，DeepMind的研究人員們一直在探索新的工具和方法。最近ICML就收錄了一篇來自DeepMind的論文，文中他們提出了一種新的、來自認知心理學的方法，來理解深度神經網絡。認知心理學通過對行為的測量來推測認知過程的機理，有許多的認知心理學論文詳細解釋了這些機理，同時介紹了許多驗證機理的實驗方法。隨著***的神經網絡在特定任務上達到人類水平，認知心理學的方法就能對解決黑箱問題起到不小幫助。

[[195594]]

黑箱

DeepMind在論文中研究了一個具體案例來展現觀點，他們設計了一個闡明人類的認知過程的實驗，用來對比幫助理解深度神經網絡如何解決圖像分類任務。

結果是，認知科學家在人類身上觀察到的行為，在這些深度神經網絡中也能觀察到。更進一步地，人們可以從這些結果中深入理解神經網絡是如何解決圖像分類任務的，這些理解不僅很有用，而且還令人驚訝。總的來說，這項案例研究的成功展現出了用認知心理學方法理解深度學習系統的潛力。

測量一次性詞匯學習模型中的形狀偏好

在DeepMind的案例研究中，他們思考了這樣一個問題：人類小孩是如何識別并分類物體的，這個問題也在發展認知心理學中得到了豐富研究。小孩有從單個例子猜測單詞意思的能力，人們稱作“一次性詞匯學習”，這種能力非常容易獲得，人們也往往以為這個過程非常簡單。然而，哲學家Willard Van Orman Quine提出過一個經典思想實驗，展示出了這個過程到底有多復雜：

一位實地語言學家前去體驗另一種文化，這種文化中使用的語言和他以前使用的完全不一樣。這位語言學家就需要找肯幫忙的當地人教他一些單詞。當有一只兔子跑過的時候，當地人說“gavagai”，語言學家就要猜當地人的這個詞是什么意思。對語言學家來說，這個詞可以指代的內容有很多種，可能是兔子、動物、白色的東西、特指這只兔子，甚至是兔子身上單獨某個部位。實際上這個詞可以代指的意象是無窮多的，人類是如何在其中選中正確的那個的呢？

[[195595]]

“gavagai”

50年以后，面對著能夠做一次性詞匯學習的深度神經網絡，同樣的問題又出現在了人們的眼前。拿DeepMind開發的“匹配網絡”舉例，這個模型中用到了注意力模型和記憶模型方面的近期發展，達到了僅憑單張分類示例就可以對ImageNet圖像進行分類的***水平。但是我們并不知道網絡在給圖像分類的時候采取了怎樣的假設。

為了深入探究這個問題，DeepMind的研究人員參考了一些發展心理學方面的研究。這些心理學家們發現了小孩有歸納偏好的證據。這種偏好可以消除很多不正確的指代，從而讓他們找到正確的指代。這種偏好包括：

• 整個物體偏好，小孩會假定一個單詞指代的是整個物體而不是它的組成部分（消除了Quine對指代兔子身上單獨某個部位的擔心）

• 分類偏好，小孩會假定一個單詞指代的是一個物體所屬的基礎分類（消除了Quine對指代“全體動物”而不是“兔子”這個基礎含義的擔心）

• 形狀偏好，小孩會假定一個名詞的含義是根據物體的形狀而不是顏色或者紋理來確定的（消除了Quine對指代所有白色的東西而不是“兔子”這個具體對象的擔心）

DeepMind的研究人員測量了他們的神經網絡的形狀偏好，這是因為人類形狀偏好的相關研究尤其多。

來自認知心理學的刺激示例，DeepMind用它們測量深度神經網絡的形狀偏好。這些圖像是由印第安納大學認知發展實驗室的Linda Smith慷慨提供的

DeepMind的研究人員所用的經典形狀偏好實驗是這樣進行的：給深度神經網絡展示三個物體的照片，一個試驗物體、一個形狀匹配物體（跟試驗物體的形狀相同）、還有一個顏色匹配物體（跟試驗物體的顏色相同、形狀不同）。然后把形狀偏好定義為試驗物體和形狀匹配物體被網絡劃分為同一類的情況出現的比例，從而進行測量。

實驗中用到的圖像就是印第安納大學認知發展實驗室的人類實驗中所用的圖像。

這個認知心理學實驗的概要，運用了匹配網絡。匹配網絡會把試驗圖片（左側）和圖像A或者B（上方中間或者上方右側）進行匹配。輸出（右下方）就取決于這個匹配網絡的形狀偏好。

DeepMind團隊用他們的深度神經網絡（匹配網絡和一個基準Inception模型）進行了實驗，發現他們的網絡對物體形狀的偏好比顏色或者材質的偏好強得多，就像人類一樣。換句話說，它們確實有“形狀偏好”。

這種結果就表明，匹配網絡和Inception分類器中都用到對形狀的歸納偏好來消除錯誤的假設，讓研究者對這些網絡解決一次性詞匯學習的方法有了一個明確的了解。

除了形狀偏向，DeepMind團隊還發現了一些有意思的事情：

• 他們發現形狀偏好在網絡的早期訓練中逐漸出現。這讓人聯想到人類形狀偏好的出現：心理學家發現更小的小孩比大一些的小孩的形狀偏好要弱，成年人的形狀偏好***烈。

• 他們發現選用不同的隨機種子做初始化和訓練會導致網絡的偏好程度也有所不同。這說明當研究深度學習系統并做出結論時，研究的樣本數量需要很大才行，就像心理學家已經知道不能只研究單個對象就得出結論。

• 他們發現即便幾個網絡的形狀偏好有很大區別，它們的一次性詞匯學習表現卻都差不多，說明不同的網絡可以找到很多種同樣有效的方法解決復雜問題。

這種偏好在標準的神經網絡架構中就存在，但以前沒有人認識到過。此次發現了這種偏好，表明了用人類創立的認知心理學闡釋神經網絡解題方案的潛力。其它心理學領域的研究也有可能起到幫助，情景記憶文獻中的觀點可能可以幫助理解情景記憶架構，語義認知文獻中的方法可能可以幫助理解近期的概念形成模型，以上在內的許多心理學領域都有豐富的文獻，很有可能會給人類帶來強有力的新工具，幫助解決“黑箱”的問題，也讓人類更好地理解神經網絡的各種行為。

論文地址：https://arxiv.org/abs/1706.08606

via DeepMind Blog ，雷鋒網 AI 科技評論編譯