近日，在 Yuanjun Gao 的帶領下，我們討論了 Lake 等人的《Human-level concept learning through probabilistic program induction》[1] 和 Danilo J. Rezende 等人的《One-Shot Generalization in Deep Generative Models》[2] 這兩篇論文。這些論文旨在模仿人類從少數樣本中學習的能力。第一篇論文介紹了貝葉斯程序學習(BPL/Bayesian Program Learning)框架——一種允許這種學習能力的概率模型，而第二篇文章在深度生成模型中實現了這一想法。

一、人類水平的概念學習(Human Level Concept Learning)

從 Lake 的論文 [1] 的介紹來看，一次性學習(one shot learning)的動機是很清晰的：「人們可以從僅僅一個或一小撮樣本中學習一個新的概念，而機器學習的標準算法需要幾十或幾百個表現類似的樣本。」論文通過三種能力表述了這種學習。給定一個單一的對象，人類可以：

1. 分類新樣本，

2. 生成類似類型的新樣本，

3. 把它解析成部分，并理解它們的關系。

論文 [1](上圖)的圖 1 中的示例很好的描述了它。當給定(i)的紅色框中的單個對象時，可以對下面的對象進行分類，無論它是否是類似類型。此外，人類可以創建類似于(ii)中的樣本。人類也可以如(iii)中所示把它解析成三個較小的部分并且幻想如(iv)中所示的新樣本。

1. 貝葉斯程序學習

論文介紹了貝葉斯程序學習(BPL)框架，該框架能使一個算法獲得上面描述的那些能力。BPL 框架基于三個基本思想：

• 組合性(Compositionality)
• 因果關系(Causality)
• 學會學習(Learning to learn)

BPL 方法學習簡單的隨機程序以表示概念，通過各部分、子部分和空間關系 [1] 來組合式地構建它們。關于類型 Ψ、該類型的 M 個 toke θ(1),...,θ(M) 和對應圖像 I(1),...,I(M) 的聯合分布可以被表示為：

2. 關于手寫字符的例子

提供一個示例可以讓人更容易理解 BPL 及其基本思想。假設我們正在通過不多的幾個樣本來學習一組新的手寫字符。字符可以基于通過按下筆開始和提起筆(在下面的圖中定義為「部分(part)」)終止的一下筆劃來解析。然后，每個筆劃可以通過筆的短暫停頓(下面的「子部分(subpart)」)進一步分隔。如果給出字符「B」，則「B」可以被解析為兩部分：一個是直的部分和另一個有兩個曲線的部分。此外，第二部分可以進一步分成一組兩個半圓。

在該模型中，手寫字符的生成可以使用生成過程來描述。該過程可以分為類型生成(type generation)和令牌生成(token generation)，如論文 [1] 的圖 3 所示。

總結來說，類型生成過程是：

1. 確定部分的數量。
2. 對于每個部分，確定子部分的數量(以部分的數量為條件)。
3. 對于每個子部分，從基元(primitives)「順序」地采樣實際符號(以前一個子部分為條件)。它完成每個部分。
4. 對于每個部分，采樣每個部分的關系(以當前部分和之前的部分為條件)。舉個例子，一個關系可以是「當前部分應當與先前部分的哪一點銜接上」。
5. 關系和部分定義了一類字符

給定一種類型，手寫字符的實際圖像(令牌和圖像生成過程)通過以下方式生成(對人寫一個字時筆是如何動的進行建模)

1. 對于每個部分，增加一個運動變化(因為手寫字符每次看起來稍有不同)。
2. 對于每個部分，依次對開始位置進行采樣，以它與先前部分的關系與軌跡為條件。
3. 對于每個部分，對軌跡進行采樣，以其形狀和開始位置為條件。
4. 添加全局變換。
5. 通過隨機渲染函數創建圖像，使用灰度墨水對筆畫軌跡進行排序并解釋像素值。

上面的例子很好地解釋了 BPL 的三個基本思想。字符可以被認為是從簡單原語(「B」由一個直棒和半圓構造而成)構成。基于筆劃和停頓進行解析的事實抓住了真實世界過程的自然因果結構。此外，通過「開發能讓以前的經驗來助于學習新概念的分層先驗」，來讓模型學會學習 [1]。(分析「B」學習了新的，原語和關系，其稍后可以很容易地用于學習其它字符)。

文章 [1] 的圖 4(下圖)顯示了 BPL 如何通過解析來學習一個新的圖形。左側面板顯示了給定一個示例的最好的五個學習解析，以及如何用它來重新適配一個新的樣本。右面板將機器解析與實際情況，即人是如何解析它們的，進行比較。

二、與人類能力相比

1. 新樣本的分類

給定新字符的單個圖像，分類任務是從 20 個不同字符中選擇相同類型的圖像。結果如文章 [1] 的圖 6A 所示(下圖)。BPL 和人類顯示出了相似的錯誤率(3.3%和 4.5%)。

論文還在「損害(lesioning)」算法的某些部分之后嘗試了相同的任務。例如，在「學習去學習(Learning-to-learn)」步驟中的損害移除無類型生成過程并導致了 11%的錯誤率。損害「組合性」步驟要求每個字符只使用單個筆劃學習，并導致了 14%的錯誤。這些結果表明這兩個想法在 BPL 中是有多么基礎性。

2. 新樣本/概念的產生

對其進行了「視覺圖靈測試(Visual Turing Test)」以檢查這種能力。給定一個示例字符，人類和 BPL 創建了一組新的樣本。然后，參與者判斷哪個集合是由人(或機器)創建的。新創建的樣本如文章 [1] 的圖 5 所示。如圖所示，很難區分它們。您可以在圖標題的結尾處查看答案。實驗結果示于文章 [1] 的圖 6B 中(上圖)。由于它是圖靈測試，50%的辨識(ID)水平表明兩種情況很難區分。評判者平均只有 52%的辨識水平。

為了更直接地檢驗解析方法，所繪制字符以電影幻燈片的形式展示給評判者。結果是 59%的辨識率水平。此外，對產生新的概念，而不是新的樣本的同樣的實驗也做了測試。BPL 也達到了接近 50%的辨識水平。

3. 將對象解析成部分并理解它們的關系

如文章 [1] 的圖 4(從頂部開始的第三個圖)所示，BPL 的解析能力是相當合理的，并且可以與人類解析相比。

4. 討論

BPL 理解視覺概念中結構的能力仍然非常有限。它缺乏平行線、對稱性、可選元素(如交叉筆畫)等許多知識。它也缺乏人類使用學習到的概念用于其他任務，如規劃、通信和概念組合 [1] 的能力。然而，對于人類，這些是從多年的教育中學到的。一次性學習和歸納這些東西似乎不是一個容易的任務。論文還提到了對概念的神經表達和更多神經基礎的學習模型發展的希望，這就帶來了下一篇文章。

三、深度生成模型中的一次性泛化(One-Shot Generalization in Deep Generative Models)

這篇文章使用了深度生成模型來進行圖像的一次性泛化學習。它建立在反饋(feedback)和注意(attention)的原理上。

1. 模型

（1）注意(attention)

該模型結合了注意機制來學習圖像。在這篇文章中，實現了空間變換(ST)的注意過程 [3]，其對形狀和大小是不變的。它使用參數 λ 處理輸入圖像 x 以生成輸出：

其中 κh 和κw 是一維核，⨂是兩個核的張量外積，*表示卷積。

（2）順序生成模型

下面的數學表達式和文章 [2] 的圖 2(如下所示)簡潔地描述了模型：

在每個步驟 t = 1...T，K 維隱含變量 zt 都是獨立進行采樣的。可以使用注意機制來合并外部上下文或側面信息片段 x'。

該模型是現有模型(如 DRAW [4]、復合 VAE [5] 和 AIR [6])的泛化。然而，它引入了隱藏的 canvas 步驟，其允許在隱藏空間中構造預圖像。另一個需要注意的是，它允許對模型進行采樣，而不將畫布 ct 的結果反饋到隱藏狀態 tht，這會使其更高效。

其生成樣本的能力在不同的數據集中都有所體現。作為一個例子，來自二值化 MNIST 數據集的樣本生成的結果如下所示。

3. 一次性泛化的使用

生成新樣本或新類型。這篇文章使用上述生成模型對給定小樣本進行了演示。它類似于上面論文中描述的能力。然而，模型不是通過學習單個圖像(或少量圖像)來產生樣本，而是生成單個類型的新樣本，該單個類型并不是訓練集的一部分。為了做到這點，它使用一個條件生成模型，如文章 [2] 的圖 2b 或生成過程的「上下文」部分所示。

（1）生成新樣本

論文測試了兩種不同情況下的能力。

• 使用所有可用的字母對模型進行訓練。但是刪除每個字母表中的三個字符以形成測試集。
• 在 50 個字母中，30 個用于訓練，20 個用于測試。換成 40-10 和 45-5 的訓練測試數據拆分方式也同樣進行了測試。

結果如下所示(文章 [2] 的圖 9 和 10)，并且在不同的訓練測試數據拆分的情況下也比較了訓練和測試的對數似然。

文章 [2] 的圖 5 顯示在 45-5 拆分的訓練和測試對數似然中存在一點差異，但是其在其它情況下表現了出來。這表明過度擬合與小訓練數據集一起出現。然而，由此產生的字符表明，即使在過擬合的情況下，它還是生成了合理的新樣本。

（2）新類型的生成

論文還測試了該過程是否可以通過顯示一個字符圖像來生成新類型。結果如文章 [2] 的圖 11 所示。(結果是主觀的。)

4. 討論

此論文使用深度生成過程來模仿人類的一次性泛化能力。它表明，當提供未見過的樣本時，該過程可以產生新樣本或新類型。相比于使用對象自然發生的因果結構的 Lake [1] 的 BPL 模型，這種方法適用于許多場景。然而，還是有一些的限制，這還需要未來進一步研究。它仍然需要合理的數據量來避免過度擬合。雖然它適用于任何圖像(通過不使用專用結構的方式)，但它不能將結構解析為更小的部分。

原文地址：https://casmls.github.io/general/2017/02/08/oneshot.html

【本文是51CTO專欄機構機器之心的原創譯文，微信公眾號“機器之心( id: almosthuman2014)”】

戳這里，看該作者更多好文