向大模型輸入「Michael Jordan plays the sport of _____（邁克爾?喬丹從事的體育運動是……）」，然后讓其預測接下來的文本，那么大模型多半能正確預測接下來是「basketball（籃球）」。

這說明在其數以億計的參數中潛藏了有關這個特定個人的相關知識。用戶甚至會感覺這些模型記憶了大量事實。

但事實究竟如何呢？

近日，3Blue1Brown 的《深度學習》課程第 7 課更新了，其中通過生動詳實的動畫展示了 LLM 存儲事實的方式。視頻瀏覽量高達 18 萬次。

去年 12 月，谷歌 DeepMind 的一些研究者發布了一篇相關論文，其中的具體案例便是匹配運動員以及他們各自的運動項目。

雖然這篇論文并未完全解答有關 LLM 事實存儲的問題，但也得到了一些頗為有趣的結果，其中的一個重點是：事實保存在網絡中的一個特定部分，這個部分也就是我們熟知的多層感知器（MLP）。

在 3Blue1Brown 剛剛更新的這期視頻中，他們用 23 分的視頻演示了大型語言模型如何存儲和處理信息，主要包括以下部分：

• LLM 中隱藏的事實是什么
• 快速回顧 Transformers
• 示例
• 多層感知器
• 計算參數

視頻地址：https://www.youtube.com/watch?v=9-Jl0dxWQs8

在演示視頻中，3b1b 的作者口齒清晰、語言標準，配合著高清畫面，讓讀者很好地理解了 LLM 是如何存儲知識的。

很多用戶在看完視頻后，都驚訝于 3Blue1Brown 教學質量：

還有網友表示，坐等更新這期視頻已經很久了：

接下來我們就深入 MLP 的細節吧。在這篇文章中，機器之心簡要介紹了核心內容，感興趣的讀者可以通過原視頻查看完整內容。

MLP 在大模型中的占比不小，但其實結構相比于注意力機制這些要簡單許多。盡管如此，理解它也還是有些難度。

為了簡單，下面繼續通過「喬丹打籃球」這個具體示例進行說明吧。

首先，我們先簡單了解一下 Transformer 的工作流程。Transformer 的訓練目標是基于已有 token 預測下一個 token（通常表示詞或詞組），而每個 token 都關聯了一個高維向量。

這些向量會反復通過兩類運算：注意力（允許向量之間彼此傳遞信息）與多層感知器（MLP）。當然，它們之間還存在一個特定的歸一化步驟。

在向量經過多次如此迭代之后，我們希望每個向量都已經吸收了足夠多的信息。這些信息有的來自訓練模型時植入模型權重的一般性知識，也有的來自上下文。這些知識就是模型預測下一 token 的依據。

需要注意的是，這些向量編碼的并不僅僅是單個詞匯，而是會在信息在網絡中流動時根據周圍的環境和模型的知識吸收更加豐富的含義。

總之，每一個向量編碼的信息都遠遠超過了單個詞匯的含義，如此模型才能預測接下是什么。而存儲這些信息就是 MLP（注意力的作用是將上下文結合在一起），也因此大模型的大多數參數都在 MLP 中（約三分之二）。

繼續「喬丹打籃球」這個示例。MLP 是如何存儲這一事實的。

首先我們做一些假設：在高維空間中有這樣三個不同的向量，它們分別定義了喬丹的姓 Jordan 和名 Michael 以及籃球 Basketball。

現在，如果該空間中有一個向量與 Michael 向量的乘積為 1，則我們認為該向量編碼了 Michael 這一概念；而如果這個乘積為 0 甚至負數，則認為該向量與 Michael 沒有關聯。

同樣，我們可以計算該向量與 Jordan 或 Basketball 的乘積，以了解其與這兩個概念的關聯程度。

而通過訓練，可讓該向量與 Michael 和 Jordan 的乘積均為 1，此時就可以認為該向量編碼了 Michael Jordan 這個整體概念。

MLP 的內部細節

當這個編碼了上述文本的向量序列穿過一個 MLP 模塊時，該序列中的每個向量都會經歷一系列運算：

之后，會得到一個與輸入向量同維度的向量。然后再將所得向量與輸入向量相加，得到輸出向量。

序列中的每個向量都會經歷這樣的操作，此時這些操作都是并行執行的，彼此之間互不影響。

對于「喬丹打籃球」，我們希望對于輸入的「Michael Jordan」，經過一系列運算之后，能得到「Basketball」的向量。

首先來看這個過程的第一步。這個線性投射過程就相當于讓輸入向量乘以一個大型矩陣。這個矩陣里面的數據就是所謂的模型參數（model parameter）。你可以將其視為一個布滿控制旋鈕的儀表盤 —— 通過調整這些參數，我們就能控制模型的行為。

對于矩陣乘法，視頻中分享了一個視角。我們可以將矩陣乘法看作是將矩陣的每一行都視為一個向量，然后將這些行與被處理的向量（這里用 E 表示，意為 embeding，即嵌入）進行一系列點乘。

如果我們假設該矩陣的第一行剛好編碼了「First Name Michael」且被處理向量也編碼了它，那么所得的點積就約為 1。

而如果它們同時編碼了姓和名，那么所得的結果應該約等于 2。

你可以認為該矩陣的其它行正在并行地處理其它問題。

另外，通常來說，這一步還會向輸出添加另一個向量，也就是所謂的偏置向量，其中的參數是從數據中學習得到的。

在這個例子中，我們可以看到這個偏置向量的第一個元素為 -1。也就是說在最終的輸出向量中，之前得到的相關點積減去了 1。為什么要這樣操作？這是因為這樣一來，當且僅當向量編碼了全名「Michael Jordan」時，所得向量的第一項為正數，否則就為 0 或負數。

在實踐中，模型矩陣的規模非常大，比如 GPT-3 的矩陣有 49152 行和 12288 列（這個列數就是嵌入空間維度）。

事實上，這個行數恰好是嵌入空間維數的四倍。其實這只是一種設計選擇，你可以讓它更多，也可以讓它更少。

接下來我們用更簡潔的方式表示這個矩陣和向量，如下動圖所示：

經過上述線性過程之后，需要對輸出向量進行整理。這里通常會用到一個非常簡單的函數：整流線性單元（ReLU）。

深度學習社區傳統上喜歡使用過于花哨的名字，這個非常簡單的函數通常被稱為整流線性單元（ReLU）。

繼續我們的例子，中間向量的第一個元素在當且僅當全名是 Michael Jordan 時才為 1，否則為零或負數，在將其通過 ReLU 后，會得到一個非常干凈的值，其中所有零和負值都被截斷為零。因此對于全名 Michael Jordan，該輸出為 1，否則為 0。這個行為和「與門」非常相似。另外 ReLU 還有一個相對平滑的版本 GeLU。

接下來又是一個線性投射步驟，這一步與第一步非常相似：乘以一個大型矩陣，加上偏置，得到輸出向量。

但這一次，對于這個大型矩陣，我們不再以行的思路來思考它，而是以列的思路來看。這些列的維度與向量空間一樣。

如果第一列表示的是「Basketball」且 n_0 為 1（表示該神經元已激活），則該結果就會被添加到最終結果中；否則就不會影響最終結果。當然，這些列也可以表示任何概念。

類似地，我們將這個大矩陣簡化表示為 W ↓，將偏置表示為 B↓，并將其放回到圖中。

舉例來說，如果輸入向量中同時編碼了名字 Michael 和姓氏 Jordan，那么觸發操作序列后，便會得到指向 Baskerball 方向的輸出向量。

這個過程會并行地針對所有向量執行

這就是 MLP 的運算過程：兩個矩陣乘積，每個都添加了偏置。此前這種網絡曾被用來識別手寫數字，效果還算不錯。

GPT-3 中有 1750 億參數是如何計算的？

在接下來的章節中，作者介紹了如何計算 GPT-3 中的參數，并了解它們的位置。

對于 GPT-3 來說，嵌入空間的大小是 12288，將它們相乘，僅該矩陣就有六億多個參數，而向下投影（第二個矩陣）具有相同數量的參數，只是形狀進行了轉置，所以它們加起來大約有十二億參數。

此外，作者表示還需要考慮另外幾個參數，但這只占總數的很小一部分，可忽略不計。嵌入向量序列流經的不是一個 MLP，而是 96 個不同的 MLP，因此用于所有這些塊的參數高達 1000 多億，這約占網絡中總參數的三分之二。

最后，將注意力塊、嵌入和 unembedding 等組件的所有參數加起來，總計可以得到 1750 億參數。

另外值得一提的是，還有另一組與歸一化步驟相關的參數，不過視頻示例中跳過了這些參數，它們只占總數的很小一部分。

視頻最后介紹了疊加（Superposition）這一概念。證據表明，單個神經元很少像邁克爾?喬丹那樣代表某個單一特征，實際上可能有一個很好的理由，這與目前在可解釋性研究人員中流傳的一個想法有關，稱為 Superposition，這是一個假設，可能有助于解釋為什么這些模型特別難以解釋，以及為什么它們的擴展性出奇地好。

感興趣的讀者可以參考原視頻，了解更多內容。

3blue1brown 介紹

3blue1brown 是一個專門制作可視化講解視頻的頻道，其內容覆蓋數學、人工智能等領域，每門課都配有直觀生動的動畫演示，幫助觀眾加深對概念定理的理解。

除了 YouTube 上 640 萬訂閱者之外，3b1b 在 B 站上還有官方賬號，粉絲數量超過 215 萬，每個視頻都是 10 萬以上播放量，甚至有老師在課堂上播放該頻道的視頻。對于一個硬核教學 UP 主來說，這樣的成績幾乎是無人可及了。

作為一直以來都十分受歡迎的理解數學概念的網站，3blue1brown 的可視化一直都做得非常好。在本期視頻中，我們可以直觀感受到了。

3b1b 的創立者 Grant Sanderson，畢業于斯坦福大學數學系，他的大部分視頻和動畫引擎是獨立完成的，這是他此前在斯坦福學習時的業余項目。

在斯坦福，Grant「走了點計算機科學的彎路」，隨后畢業加入了 Khan Academy 并擔任了兩年的數學講師，在 2016 年之后，他開始全身心投入 3b1b 的工作中。

如果你對自己的學習能力信心不足，或許看看 3b1b 的內容會是一個好主意，全程動畫演示，讓你對知識點明白的徹徹底底。