譯者 | 晶顏

審校 | 重樓

本文聚焦LLM（大型語言模型）的推理邏輯，從技術(shù)底層剖析人工智能語言能力的計算本質(zhì)——其核心是統(tǒng)計規(guī)律的應(yīng)用，而非人類意義上的思維理解。

大型語言模型具有令人印象深刻的能力，可以生成文本、詩歌、代碼，甚至進(jìn)行復(fù)雜的對話。但核心問題始終存在：這類系統(tǒng)是否真正理解語義，抑或僅是思維形式的模仿？

這一爭議構(gòu)成當(dāng)前AI辯論的焦點。一方面，LLM的成就是不可否認(rèn)的：它們可以翻譯語言，總結(jié)文章，起草電子郵件，甚至以驚人的準(zhǔn)確性回答復(fù)雜的問題。這種輕松駕馭語言的能力看似指向真實理解。

另一方面，分析人士強(qiáng)調(diào)LLM本質(zhì)是基于海量文本數(shù)據(jù)訓(xùn)練的統(tǒng)計機(jī)器，雖能識別詞匯間的模式與關(guān)聯(lián)，卻未必理解語義深層內(nèi)涵，更像是對已有模式的復(fù)制，而非有意識的思考。

這個問題至今仍無定論，研究者之間也存在分歧。部分觀點認(rèn)為LLM正邁向真正的理解，另一些則判斷其始終是復(fù)雜的模擬器，無法實現(xiàn)真正的思維。而LLM的理解能力問題，亦引發(fā)哲學(xué)、倫理及實踐層面的討論，直接影響其應(yīng)用方式。

此外，解構(gòu)人類“思考”能力的神秘性在當(dāng)下顯得尤為重要。由于公眾對人工智能的過度熱忱，或是對底層技術(shù)原理的認(rèn)知缺失，LLM（大型語言模型）的能力常被錯誤賦予人類思考的特質(zhì)。蘋果公司研究團(tuán)隊在《思考的錯覺》中對這一現(xiàn)象進(jìn)行了實證分析。

研究指出，盡管LLM在性能提升方面取得顯著進(jìn)展，但人們對其固有局限性仍缺乏充分認(rèn)知。特別是在推理泛化能力與復(fù)雜問題處理方面，LLM仍面臨根本性挑戰(zhàn)。正如該研究以河內(nèi)塔算法為例所證實的：LLM不僅在問題求解與策略發(fā)現(xiàn)中存在明顯缺陷，其生成的整個推理鏈條也普遍存在邏輯驗證與步驟執(zhí)行的系統(tǒng)性局限。

基于此，深入探究LLM的內(nèi)部運作機(jī)制，明確其與人類思維的本質(zhì)差異，成為理解人工智能技術(shù)邊界的關(guān)鍵。本文將以“他怎么了？（P > 0.05）”這一網(wǎng)絡(luò)梗為例，剖析LLM展現(xiàn)的技術(shù)能力及其背后的計算邏輯，揭示其與人類意識本質(zhì)上的區(qū)別。

LLM對“P > 0.05”梗圖的簡單解釋

我讓一個LLM簡單地給我解釋一下這個表情包，下面是它的回答：

面對梗圖的LLM：能力展示

對于我們?nèi)祟悂碚f，理解這個梗的幽默需要了解哈利波特場景，基本的統(tǒng)計數(shù)據(jù)，以及從有趣的并列中理解諷刺的本質(zhì)。

而當(dāng)要求LLM解釋“他怎么了？（P > 0.05）”這一梗圖時，其回應(yīng)展現(xiàn)出了多維度能力：

• 識別視覺與文本元素：關(guān)聯(lián)哈利波特場景、角色形象與“P > 0.05”的統(tǒng)計術(shù)語；
• 解構(gòu)文化語境：理解哈利波特的文化背景與統(tǒng)計學(xué)中p值的科學(xué)含義；
• 整合信息邏輯：通過抽象關(guān)聯(lián)闡釋梗的幽默性——即科學(xué)概念與虛構(gòu)場景的反差。

我們必須承認(rèn)，LLM在這項工作中的表現(xiàn)相當(dāng)出色。乍一看，這可能意味著一種深刻的“理解”，甚至是一種與我們類似的智能形式，能夠推理和解釋世界。

“推理”機(jī)制：一個計算過程

然而，這種表現(xiàn)并不是人類意義上的“反思”的結(jié)果。LLM沒有“思考”，沒有意識，沒有內(nèi)省，更沒有主觀體驗。我們所認(rèn)為的推理，實際上是一個復(fù)雜的分析過程，基于算法和大量的數(shù)據(jù)。

訓(xùn)練數(shù)據(jù)的規(guī)模

Gemini、ChatGPT等模型基于數(shù)百TB數(shù)據(jù)訓(xùn)練，涵蓋數(shù)十億文本文檔（書籍、文章、網(wǎng)頁）及多模態(tài)元素（帶字幕的圖像、音頻、視頻等），參數(shù)規(guī)模達(dá)數(shù)十億。

這個知識庫相當(dāng)于一個巨大的、數(shù)字化的、有索引的圖書館。它包括百科全書式的世界知識、流行文化的各個部分（如哈利波特傳奇）、科學(xué)文章、電影劇本、在線討論等等。正是這種大量和多樣化的信息暴露，使它能夠識別模式、相關(guān)性和上下文。

核心算法機(jī)制

為了分析梗圖，下述幾類算法起到了關(guān)鍵作用：

• 自然語言處理（NLP）：它是與文本交互的核心，允許模型理解短語的語義（如“他怎么了？”的語境含義）并處理文本信息。
• 視覺識別/OCR（光學(xué)字符識別）：對于基于圖像的梗圖，系統(tǒng)會使用OCR算法提取圖像文本（如“P > 0.05”）。同時，視覺識別允許識別圖形元素：角色的臉、電影中的特定場景等。
• Transformer神經(jīng)網(wǎng)絡(luò)：作為LLM的底層架構(gòu)，它們在識別數(shù)據(jù)中的復(fù)雜模式和長期關(guān)系方面特別有效。它們允許模型將“哈利波特”與特定場景聯(lián)系起來，并理解“P > 0.05”是一個統(tǒng)計概念。

梗圖分析“分步”過程

當(dāng)處理網(wǎng)絡(luò)梗圖時，LLM（大型語言模型）展現(xiàn)出精密的計算處理流程：

• 信息提取與識別：系統(tǒng)精準(zhǔn)捕捉關(guān)鍵詞、人物面部特征、場景元素及專業(yè)文本信息；
• 知識關(guān)聯(lián)激活：基于提取的元素，模型調(diào)用并篩選其知識儲備中最相關(guān)的內(nèi)容。在此過程中，模型關(guān)聯(lián)哈利波特系列中“靈魂煉獄（limbo）”、伏地魔靈魂碎片等文化元素，鏈接統(tǒng)計學(xué)中p值及0.05顯著性閾值的定義，并激活幽默創(chuàng)作中的并置對比模式；
• 響應(yīng)內(nèi)容生成：模型整合上述信息，輸出對梗圖幽默邏輯的闡釋，指出笑點源自鄧布利多以統(tǒng)計學(xué)話術(shù)回應(yīng)情感哲學(xué)問題，暗喻生命狀態(tài)不具備“統(tǒng)計顯著性”。這一解釋本質(zhì)上是模型通過訓(xùn)練習(xí)得的語義關(guān)聯(lián)，篩選出最具概率優(yōu)勢的內(nèi)容組合。

LLM運作機(jī)制的本質(zhì)特征：統(tǒng)計驅(qū)動與意識缺位

LLM所謂的“推理”過程，本質(zhì)是基于海量數(shù)據(jù)相關(guān)性的復(fù)雜統(tǒng)計推演。模型無法真正理解哈利波特場景的抽象意義、情感暗示或道德上的細(xì)微差別，僅是依據(jù)數(shù)十億參數(shù)訓(xùn)練形成的概率模型，預(yù)測最可能的文本序列與語義關(guān)聯(lián)。

這種運作機(jī)制與人類思維存在本質(zhì)差異。人類依托意識、生活閱歷及情感體驗，能夠突破既有知識框架創(chuàng)造全新意義，其對因果關(guān)系的認(rèn)知超越單純統(tǒng)計關(guān)聯(lián)。例如，人類可從梗圖中解讀伏地魔角色的命運隱喻、場景的敘事價值及符號背后的文化映射，而這些均非LLM能力所及。此外，人類行為受主觀意圖、價值訴求與信念體系驅(qū)動，LLM則僅遵循預(yù)設(shè)規(guī)則與概率分布執(zhí)行任務(wù)。

盡管LLM在符號處理與表征生成方面表現(xiàn)卓越，但其仍缺乏對現(xiàn)實世界的感知理解、常識判斷及人類智能所特有的意識屬性。與此同時，模型訓(xùn)練偏差、不可控輸出及“幻覺”現(xiàn)象等問題，也進(jìn)一步凸顯其與人類智能的根本性差距。

結(jié)語

大型語言模型是具備強(qiáng)大計算效能的工具，能夠模擬人類語言理解與生成能力，但其核心運作邏輯根植于數(shù)據(jù)統(tǒng)計分析與模式識別，與人類意識驅(qū)動的認(rèn)知、反思及世界理解存在本質(zhì)區(qū)別。

當(dāng)技術(shù)生態(tài)系統(tǒng)夸大模型推理能力時，厘清這一差異尤為關(guān)鍵。在這種情況下，秉持客觀認(rèn)知方能充分發(fā)揮LLM的技術(shù)優(yōu)勢，避免賦予其超越能力邊界的虛構(gòu)特質(zhì)。

就我個人而言，我相信人工智能的未來在于人類和機(jī)器之間的智能協(xié)作——人類貢獻(xiàn)意識創(chuàng)造力與批判性思維，機(jī)器發(fā)揮計算速度、分析效率及信息整合優(yōu)勢，實現(xiàn)互補(bǔ)共生的技術(shù)生態(tài)。

原文標(biāo)題：Debunking LLM Intelligence: What's Really Happening Under the Hood?，作者：Frederic Jacquet