模型聽人講幾句就能學得更好？斯坦福提出用語言解釋輔助學習
語言是人與人之間最自然的溝通方式，能幫助我們傳遞很多重要的信息。斯坦福大學人工智能實驗室（SAIL）近日發表博客，介紹了其兩篇 ACL 2020 論文。這兩項研究立足于近段時間 BERT 等神經語言模型的突破性成果，指出了一個頗具潛力的新方向：使用語言解釋來輔助學習 NLP 乃至計算機視覺領域的任務。
想象一下：如果你是一位機器學習從業者并想要解決某個分類問題，比如將彩色方塊群分類為 1 或 0。你通常會這樣做：收集一個包含大量樣本的數據集，標注數據，然后訓練一個分類器。
但人類的學習方式卻并非如此。對于這個世界，人類有一種非常強大且直觀的信息溝通機制：語言！
只需一個短語「at least 2 red squares（至少兩個紅方塊）」，我們就能歸納上面的整個數據集，而且效率要高得多。
語言是人類學習的一大關鍵媒介：我們使用語言來傳遞關于這個世界的信念、教育他人以及描述難以直接體驗的事物。因此，對監督式機器學習模型而言，語言理應是一種簡單且有效的方法。但是，過去基于語言的學習方法都難以擴展到現代深度學習系統致力于解決的一般任務，而這些領域使用的語言形式往往很自由。
今年斯坦福大學 AI 實驗室（SAIL）的兩篇 ACL 2020 論文在這一研究方向上取得了一些進展：針對自然語言處理（NLP）和計算機視覺領域的多種高難度任務，他們首先用語言解釋這些任務，然后使用深度神經網絡模型來學習這些語言解釋，進而幫助解決這些任務。
ExpBERT: Representation Engineering with Natural Language Explanations
Shaping Visual Representations with Language for Few-shot Classification
難在哪里？
對人類而言，語言是一種教授他人的直觀媒介，但為何使用語言來執行機器學習會這么難？
主要的難題也是最基本的問題：在其它輸入的語境中理解語言解釋。光是構建能夠理解豐富和模糊語言的模型就已經很難了，而構建能將語言與周圍世界關聯起來的模型還要更難。舉個例子，給定解釋「at least 2 red squares（至少兩個紅方塊）」，模型不僅要理解什么是「red（紅）」和「squares（方塊）」，還要理解它們如何指代了輸入的特定部分（通常很復雜）。
過去一些研究依靠語義解析器來將自然語言陳述（比如 at least 2 red squares）轉換為形式化的邏輯表征（比如 Count(Square AND Red) > 2)）。如果我們可以輕松地通過執行這些邏輯公式來檢查解釋是否適用于輸入，則可以將解釋用作特征來訓練模型。但是，語義解析器僅對簡單的領域有效，因為簡單我們才能人工設計可能見到語言解釋的邏輯語法。它們難以處理更豐富和更模糊的語言，也難以擴展用于更復雜的輸入，比如圖像。
幸運的是，BERT 等現代深度神經語言模型已經顯現出解決多項語言理解任務的潛力。因此，SAIL 在這兩篇論文中提出使用神經語言模型來緩解這些基本問題。這些神經語言模型或以確定相關領域內語言解釋為目標，或使用了可以解讀語言解釋的通用型「知識」來進行預訓練。下面將詳細地介紹這些神經語言模型，看它們如何能在更富挑戰性的任務設置中學習更豐富且更多樣化的語言。
ExpBERT：使用自然語言解釋來設計和創建表征
論文地址：https://arxiv.org/abs/2005.01932
第一篇論文研究了如何使用語言解釋來構建文本分類器。首先來看一個關系提取任務：模型需要根據一小段文本識別其中提到的兩個人是否已經結婚。盡管當前最佳的 NLP 模型有可能僅基于數據來解決這一任務，但人類還能通過語言描述來暗示兩人是否已經結婚，比如度蜜月的人通常是已婚的。這樣的語言解釋能用于訓練更好的分類器嗎？
對于語言任務，我們可以提取輸入 x 的特征（比如是否出現了特定詞）來訓練模型，而解釋還能提供額外的特征。仍以上述任務為例，我們知道「蜜月（honeymoon）」是相關的語言描述，如果我們能創建一個蜜月特征，并使其在段落描述到兩人將要度蜜月時激活，則這個信號應該可用于訓練更好的模型。
但創建這樣的特征需要某種解釋解讀機制（explanation interpretation mechanism），這樣模型才能知道對輸入的解釋是否為真。語義解析器就是這樣一種工具：給定「A 和 B 正在度蜜月」，我們可以將這個解釋解析成一種邏輯形式，即當分析一個輸入時，如果在提到 A 和 B 時還提到了「蜜月」，則返回 1。但如果解釋更模糊呢？比如「A 和 B 很恩愛」。我們如何解析它？
盡管語義解析在領域較小時高效且準確，但擴展性能很差，因為它只能解讀遵循固定語法規則集和預定義函數（比如 contains 和 extract_text）的解釋。為了解決這些問題，SAIL 的研究者看中了神經語言模型 BERT 的軟推理能力。BERT 在文本蘊涵任務上尤其高效，即確定一個句子是否暗含另一個句子或與另一個句子有矛盾。比如「她吃了披薩」暗含「她吃了食物」。
SAIL 提出的 ExpBERT 模型使用了針對文本蘊涵任務訓練的 BERT 模型，但研究者為其設定的訓練目標是識別任務段落里是否蘊涵一個解釋。BERT 在這一過程中輸出的特征可替代上述語義解析器提供的指示特征。
BERT 的這種軟推理能力能否提升語義解析效果？在上面的婚姻識別任務中，研究者發現相較于僅使用輸入特征（無解釋）訓練得到的分類器，ExpBERT 能帶來顯著提升。其中重要的一點是：使用語義解析器來解析解釋的作用不大，因為一般性的解釋（恩愛）難以轉換為邏輯形式。
論文還比較了更多基準方法，探索了更大的關系提取任務（如 TACRED），執行了控制變量研究，研究了使用解釋相比于添加數據的高效性。此處不再贅述。
使用語言為少次分類任務塑造視覺表征
論文地址：https://arxiv.org/abs/1911.02683
上文描述的研究使用自然語言解釋來幫助解決單個任務，比如識別婚姻狀況。但是，認知科學領域的研究表明：語言還能讓我們獲取正確的特征和抽象概念，進而幫助我們解決未來的任務。例如，能說明 A 和 B 已婚的語言解釋還能說明其它一些對人類關系而言非常重要的概念：孩子、女兒、蜜月等等。知道這些額外概念不僅有助于識別已婚夫婦，還有助于幫助識別其它關系，比如兄弟姐妹、父母等。
在機器學習中，我們可能會問：如果我們最終希望解決的新任務沒有提供語言說明，語言如何為高難度且未指明的領域提供恰當的特征？SAIL 的第二篇論文便探索了這一任務設置，這個任務的難度更大：語言能否提升跨模態（這里是視覺）的表征學習？
具體來說，該研究重點關注的是少次視覺推理任務，比如下面這個來自 ShapeWorld 數據集的例子：
針對一個視覺概念給定一個小型訓練樣本集，任務目標是確定留出集的測試圖像是否表達了同樣的概念。現在，如果假設能在訓練時間獲得相關視覺概念的語言解釋，又會如何呢？我們能否使用它們來學習一個更好的模型，即便在測試時沒有語言可用？
SAIL 的研究者將該任務放到了一個元學習任務框架中：他們沒有在單個任務上訓練和測試模型，而是選擇了在一組任務上訓練模型，其中每個任務都有一個小型訓練集和配套的語言描述（元訓練集 / meta-train set）。然后，他們在一組未見過任務組成的元測試集（meta-test set）上測試模型的泛化能力，并且該測試集沒有可用的語言描述。
首先，如果沒有語言描述，我們會如何解決這一任務？一種典型的方法是原型網絡（Prototype Network），其策略是學習某個能對訓練圖像執行嵌入、求平均并將其與測試圖像的嵌入進行對比的模型 f_θ（在這里是一個深度卷積神經網絡）：
在此基礎上，為了使用語言，SAIL 提出一種名為語言塑造型學習（Language Shaped Learning/LSL）的方法：如果能在訓練時使用語言解釋，則可以促使模型學習不僅對分類有用的表征，而且該表征還能用于預測語言解釋。SAIL 采用的具體方案是引入一個輔助訓練目標（即與最終的目標任務無關），同時訓練一個循環神經網絡（RNN）解碼器來預測對輸入圖像表征的語言解釋。有一點至關重要，即這個解碼器的訓練過程取決于圖像模型 f_θ 的參數，因此該過程應該能促使 f_θ 更好地編碼語言中顯現的特征和抽象。
從效果上看，可以說這是訓練模型在訓練期間表征概念時「把想法大聲說出來」。在測試階段，則可以直接拋棄 RNN 解碼器，使用這個「經過語言塑造的」圖像嵌入按常規方式執行分類即可。
研究者使用真實圖像和人類語言，在上述 ShapeWorld 數據集以及更真實的 Birds 數據集上進行了測試：
在這兩種情況下，相對于無語言解釋的基準模型（Meta）、使用隱含語言的學習（L3）方法，這個輔助訓練目標實現了性能提升：
此外，該論文還研究了語言的哪些部分最重要（其實差不多都挺重要），以及 LSL 需要多少語言才能取得優于無語言模型的表現（其實只需一點點）。詳情請參閱原論文。
展望未來
正如 NLP 系統理解和生成語言的能力在日益增長一樣，機器學習系統基于語言學習解決其它高難度任務的潛力也在增長。SAIL 的這兩篇論文表明，在視覺與 NLP 領域的多種不同類型任務上，通過學習語言解釋，深度神經語言模型可成功提升泛化能力。
研究者指出，這是訓練機器學習模型方面一個激動人心的新途徑，而且強化學習等領域已經對一些類似的想法進行了探索。在他們的設想中，未來在解決機器學習任務時，我們無需再收集大量有標注數據集，而是可以通過人與人之間使用了成千上萬年的互動方式——「語言」來與模型進行自然且富有表達力的交互。
