本文經(jīng)自動駕駛之心公眾號授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請聯(lián)系出處。

假如我們有無限的資源，比如有無窮多的數(shù)據(jù)，無窮大的算力，無窮大的模型，完美的優(yōu)化算法與泛化表現(xiàn)，請問由此得到的預(yù)訓(xùn)練模型是否可以用來解決一切問題？

這是一個大家都非常關(guān)心的問題，但已有的機器學(xué)習(xí)理論卻無法回答。它與表達能力理論無關(guān)，因為模型無窮大，表達能力自然也無窮大。它與優(yōu)化、泛化理論也無關(guān)，因為我們假設(shè)算法的優(yōu)化、泛化表現(xiàn)完美。換句話說，之前理論研究的問題在這里不存在了！

今天，我給大家介紹一下我在ICML'2023發(fā)表的論文On the Power of Foundation Models，從范疇論的角度給出一個答案。

范疇論是什么？

倘若不是數(shù)學(xué)專業(yè)的同學(xué)，對范疇論可能比較陌生。范疇論被稱為是數(shù)學(xué)的數(shù)學(xué)，為現(xiàn)代數(shù)學(xué)提供了一套基礎(chǔ)語言?，F(xiàn)代幾乎所有的數(shù)學(xué)領(lǐng)域都是用范疇論的語言描述的，例如代數(shù)拓撲、代數(shù)幾何、代數(shù)圖論等等。范疇論是一門研究結(jié)構(gòu)與關(guān)系的學(xué)問，它可以看作是集合論的一種自然延伸：在集合論中，一個集合包含了若干個不同的元素；在范疇論中，我們不僅記錄了元素，還記錄了元素與元素之間的關(guān)系。

Martin Kuppe曾經(jīng)畫了一幅數(shù)學(xué)地圖，把范疇論放到了地圖的頂端，照耀著數(shù)學(xué)各個領(lǐng)域：

關(guān)于范疇論的介紹網(wǎng)上有很多，我們這里簡單講幾個基本概念：

監(jiān)督學(xué)習(xí)的范疇論視角

過去十多年，人們圍繞著監(jiān)督學(xué)習(xí)框架進行了大量的研究，得到了很多優(yōu)美的結(jié)論。但是，這一框架也限制了人們對AI算法的認識，讓理解預(yù)訓(xùn)練大模型變得極為困難。例如，已有的泛化理論很難用來解釋模型的跨模態(tài)學(xué)習(xí)能力。

我們能不能通過采樣函子的輸入輸出數(shù)據(jù)，學(xué)到這個函子？

注意到，在這個過程中我們沒有考慮兩個范疇 X,Y 內(nèi)部的結(jié)構(gòu)。實際上，監(jiān)督學(xué)習(xí)沒有對范疇內(nèi)部的結(jié)構(gòu)有任何假設(shè)，所以可以認為在兩個范疇內(nèi)部，任何兩個對象之間都沒有關(guān)系。因此，我們完全可以把 X 和 Y 看作是兩個集合。這個時候，泛化理論著名的no free lunch定理告訴我們，假如沒有額外假設(shè)，那么學(xué)好從 X 到 Y 的函子這件事情是不可能的（除非有海量樣本）。

乍看之下，這個新視角毫無用處。給范疇加約束也好，給函子加約束也好，似乎沒什么本質(zhì)區(qū)別。實際上，新視角更像是傳統(tǒng)框架的閹割版本：它甚至沒有提及監(jiān)督學(xué)習(xí)中極為重要的損失函數(shù)的概念，也就無法用于分析訓(xùn)練算法的收斂或泛化性質(zhì)。那么我們應(yīng)該如何理解這個新視角呢？

我想，范疇論提供了一種鳥瞰視角。它本身不會也不應(yīng)該替代原有的更具體的監(jiān)督學(xué)習(xí)框架，或者用來產(chǎn)生更好的監(jiān)督學(xué)習(xí)算法。相反，監(jiān)督學(xué)習(xí)框架是它的“子模塊”，是解決具體問題時可以采用的工具。因此，范疇論不會在乎損失函數(shù)或者優(yōu)化過程——這些更像是算法的實現(xiàn)細節(jié)。它更關(guān)注范疇與函子的結(jié)構(gòu)，并且嘗試?yán)斫饽硞€函子是否可學(xué)習(xí)。這些問題在傳統(tǒng)監(jiān)督學(xué)習(xí)框架中極為困難，但是在范疇視角下變得簡單。

自監(jiān)督學(xué)習(xí)的范疇論視角

預(yù)訓(xùn)練任務(wù)與范疇

下面我們先明確在預(yù)訓(xùn)練任務(wù)下范疇的定義。實際上，倘若我們沒有設(shè)計任何預(yù)訓(xùn)練任務(wù)，那么范疇中的對象之間就沒有關(guān)系；但是設(shè)計了預(yù)訓(xùn)練任務(wù)之后，我們就將人類的先驗知識以任務(wù)的方式，給范疇注入了結(jié)構(gòu)。而這些結(jié)構(gòu)就成為了大模型擁有的知識。

具體來說：

換句話說，當(dāng)我們在一個數(shù)據(jù)集上定義了預(yù)訓(xùn)練任務(wù)之后，我們就定義了一個包含對應(yīng)關(guān)系結(jié)構(gòu)的范疇。預(yù)訓(xùn)練任務(wù)的學(xué)習(xí)目標(biāo)，就是讓模型把這個范疇學(xué)好。具體來說，我們看一下理想模型的概念。

理想模型

在這里，“數(shù)據(jù)無關(guān)”意味著  是在看到數(shù)據(jù)之前就預(yù)先定義的；但下標(biāo)  f則表示可以通過黑盒調(diào)用的方式使用 f 和  這兩個函數(shù)。換句話說，  是一個“簡單”的函數(shù)，但可以借助模型 f 的能力來表示更復(fù)雜的關(guān)系。這一點可能不太好理解，我們用壓縮算法來打個比方。壓縮算法本身可能是數(shù)據(jù)相關(guān)的，比如它可能是針對數(shù)據(jù)分布進行了特殊優(yōu)化。然而，作為一個數(shù)據(jù)無關(guān)的函數(shù)  ，它無法訪問數(shù)據(jù)分布，但可以調(diào)用壓縮算法來解壓數(shù)據(jù)，因為“調(diào)用壓縮算法”這一操作是數(shù)據(jù)無關(guān)的。

針對不同的預(yù)訓(xùn)練任務(wù)，我們可以定義不同的  ：

因此，我們可以這么說：預(yù)訓(xùn)練學(xué)習(xí)的過程，就是在尋找理想模型 f 的過程。

可是，即使  是確定的，根據(jù)定義，理想模型也并不唯一。理論上說，模型 f 可能具有超級智能，即使在不學(xué)習(xí) C 中數(shù)據(jù)的前提下也能做任何事情。在這種情況下，我們無法對 f 的能力給出有意義的論斷。因此，我們應(yīng)該看看問題的另一面：

給定由預(yù)訓(xùn)練任務(wù)定義的范疇 C ，對于任何一個理想的 f ，它能解決哪些任務(wù)？

這是我們在本文一開始就想回答的核心問題。我們先介紹一個重要概念。

米田嵌入

很容易證明，  是能力最弱的理想模型，因為給定其他理想模型 f ，   中的所有關(guān)系也包含在 f 中。同時，它也是沒有其他額外假設(shè)前提之下，預(yù)訓(xùn)練模型學(xué)習(xí)的最終目標(biāo)。因此，為了回答我們的核心問題，我們下面專門考慮 。

提示調(diào)優(yōu)（Prompt tuning）: 見多才能識廣

能否解決某個任務(wù) T ？要回答這個問題，我們先介紹范疇論中最重要的一個定理。

米田引理

即， 可以用這兩種表征計算出 T(X) 。然而，注意到任務(wù)提示 P 必須通過  而非  發(fā)送，這意味著我們會得到 (P) 而非 T 作為  的輸入。這引出了范疇論中另一個重要的定義。

基于這個定義，我們可以得到如下定理（證明略去）。

定理1與推論

值得一提的是，有些提示調(diào)優(yōu)算法的提示不一定是范疇 C 中的對象，可能是特征空間中的表征。這種方法有可能支持比可表任務(wù)更復(fù)雜的任務(wù)，但增強效果取決于特征空間的表達能力。下面我們提供定理1的一個簡單推論。

推論1. 對于預(yù)測圖像旋轉(zhuǎn)角度的預(yù)訓(xùn)練任務(wù)[4]，提示調(diào)優(yōu)不能解決分割或分類等復(fù)雜的下游任務(wù)。

證明：預(yù)測圖像旋轉(zhuǎn)角度的預(yù)訓(xùn)練任務(wù)會將給定圖像旋轉(zhuǎn)四個不同的角度：0°, 90°, 180°, 和 270°，并讓模型進行預(yù)測。因此，這個預(yù)訓(xùn)練任務(wù)定義的范疇將每個對象都放入一個包含4個元素的群中。顯然，像分割或分類這樣的任務(wù)不能由這樣簡單的對象表出。

推論1有點反直覺，因為原論文提到[4]，使用該方法得到的模型可以部分解決分類或分割等下游任務(wù)。然而，在我們的定義中，解決任務(wù)意味著模型應(yīng)該為每個輸入生成正確的輸出，因此部分正確并不被視為成功。這也與我們文章開頭提到的問題相符：在無限資源的支持下，預(yù)測圖像旋轉(zhuǎn)角度的預(yù)訓(xùn)練任務(wù)能否用于解決復(fù)雜的下游任務(wù)？推論1給出了否定的答案。

微調(diào)（Fine tuning）: 表征不丟信息

提示調(diào)優(yōu)的能力有限，那么微調(diào)算法呢？基于米田函子擴展定理（參見 [5]中的命題2.7.1），我們可以得到如下定理。

定理2考慮的下游任務(wù)是基于 C 的結(jié)構(gòu)，而不是數(shù)據(jù)集中的數(shù)據(jù)內(nèi)容。因此，之前提到的預(yù)測旋轉(zhuǎn)圖片角度的預(yù)訓(xùn)練任務(wù)定義的范疇仍然具有非常簡單的群結(jié)構(gòu)。但是根據(jù)定理2，我們可以用它解決更多樣化的任務(wù)。例如，我們可以將所有對象映射到同一個輸出，這是無法通過提示調(diào)優(yōu)來實現(xiàn)的。定理2明確了預(yù)訓(xùn)練任務(wù)的重要性，因為更好的預(yù)訓(xùn)練任務(wù)將創(chuàng)建更強大的范疇 C ，從而進一步提高了模型的微調(diào)潛力。

對于定理2有兩個常見的誤解。首先，即使范疇 C 包含了大量信息，定理2只提供了一個粗糙的上界，說  記錄了 C 中所有的信息，有潛力解決任何任務(wù)，而并沒有說任何微調(diào)算法都可以達到這個目的。其次，定理2乍看像是過參數(shù)化理論。然而，它們分析的是自監(jiān)督學(xué)習(xí)的不同步驟。過參數(shù)化分析的是預(yù)訓(xùn)練步驟，說的是在某些假設(shè)下，只要模型足夠大且學(xué)習(xí)率足夠小，對于預(yù)訓(xùn)練任務(wù)，優(yōu)化和泛化誤差將非常小。而定理2分析的則是預(yù)訓(xùn)練后的微調(diào)步驟，說該步驟有很大潛力。

討論與總結(jié)

監(jiān)督學(xué)習(xí)與自監(jiān)督學(xué)習(xí)。從機器學(xué)習(xí)的角度來看，自監(jiān)督學(xué)習(xí)仍然是一種監(jiān)督學(xué)習(xí)，只是獲取標(biāo)簽的方式更巧妙一些而已。但是從范疇論的角度來看，自監(jiān)督學(xué)習(xí)定義了范疇內(nèi)部的結(jié)構(gòu)，而監(jiān)督學(xué)習(xí)定義了范疇之間的關(guān)系。因此，它們處于人工智能地圖的不同板塊，在做完全不一樣的事情。

適用場景。由于本文開頭考慮了無限資源的假設(shè)，導(dǎo)致很多朋友可能會認為，這些理論只有在虛空之中才會真正成立。其實并非如此。在我們真正的推導(dǎo)過程中，我們只是考慮了理想模型與  這一預(yù)定義的函數(shù)。實際上，只要  確定了之后，任何一個預(yù)訓(xùn)練模型 f （哪怕是在隨機初始化階段）都可以針對輸入XC 計算出 f(X) ，從而使用  計算出兩個對象的關(guān)系。換句話說，只要當(dāng)  確定之后，每個預(yù)訓(xùn)練模型都對應(yīng)于一個范疇，而預(yù)訓(xùn)練的目標(biāo)不過是將這個范疇不斷與由預(yù)訓(xùn)練任務(wù)定義的范疇對齊而已。因此，我們的理論針對每一個預(yù)訓(xùn)練模型都成立。

核心公式。很多人說，如果AI真有一套理論支撐，那么它背后應(yīng)該有一個或者幾個簡潔優(yōu)美的公式。我想，如果需要用一個范疇論的公式來描繪大模型能力的話，它應(yīng)該就是我們之前提到的：

對于大模型比較熟悉的朋友，在深入理解這個公式的含義之后，可能會覺得這個式子在說廢話，不過是把現(xiàn)在大模型的工作模式用比較復(fù)雜的數(shù)學(xué)式子寫出來了而已。

但事實并非如此?，F(xiàn)代科學(xué)基于數(shù)學(xué)，現(xiàn)代數(shù)學(xué)基于范疇論，而范疇論中最重要的定理就是米田引理。我寫的這個式子將米田引理的同構(gòu)式拆開變成了不對稱的版本，卻正好和大模型的打開方式完全一致。

我認為這一定不是巧合。如果范疇論可以照耀現(xiàn)代數(shù)學(xué)的各個分支，它也一定可以照亮通用人工智能的前進之路。

本文靈感源于與北京智源人工智能研究院千方團隊的長期緊密合作。

原文鏈接：https://mp.weixin.qq.com/s/bKf3JADjAveeJDjFzcDbkw