大模型的腦子會爛掉！而且不能自愈！華人研究論文火了：連續喂垃圾內容，再聰明的模型也變笨，而且自戀
編輯 | 云昭
出品 | 51CTO技術棧（微信號：blog51cto）
我們每天刷到的那些情緒化標題、碎片化內容、互懟式評論，可能不只是讓人變蠢。最新研究發現——連續幾個月讓AI刷這些數據，AI也會被帶壞。
什么是“AI 腦腐”？
美國德州大學研究團隊最近提出了一個大膽的新假說：大語言模型腦腐假說！
LLM Brain Rot Hypothesis
意思是：如果一個大模型長期訓練在“垃圾互聯網文本”上：比如標題黨、吵架貼、情緒宣泄文、AI 自動生成的廢話，它的思考能力會持續退化，甚至出現人格偏差。
換句話說，AI 也會“被環境熏壞”，就像人長時間沉迷短視頻，會注意力變差、邏輯變亂。
圖片
代碼開源地址：??https://llm-brain-rot.github.io/??
論文地址：??https://www.arxiv.org/abs/2510.13928??
他們怎么驗證的？
研究團隊挑了四個大型語言模型，在真實的 Twitter/X 數據上做了對照實驗：
- 一組喂“高質量內容”（信息密度高、邏輯清晰）
- 一組喂“垃圾內容”（高互動但無營養）
圖片
細節上具體看，為了隔離“數據質量”這一變量，團隊在真實的 Twitter/X 語料上進行了對照實驗，通過兩種獨立的標準構建了“垃圾數據集”和“對照數據集”：M1（互動度指標）和 M2（語義質量指標）。兩種條件下的數據規模和訓練方式保持一致。
結果很扎心！長期“吃垃圾內容”的那組模型，在推理、理解、安全性上表現出全面下滑。
圖片
甚至出現出向暗黑人格的偏移——更自戀、更沖動、更像“帶情緒的網友”。
與對照組相比，使用垃圾數據持續預訓練的四個模型在推理能力、長文本理解、安全性方面出現顯著退化（效應量 Hedges g > 0.3），并表現出更強的“黑暗人格特征”（如精神病傾向、自戀等）。
圖片
AI 變笨的“劑量效應”
此外，論文中有個特別形象的“慢性中毒”現象：當訓練數據中混入不同比例的垃圾文本時，模型表現也呈現“劑量-反應式”衰退。
當“垃圾文本”占比從 0% 增加到 100%，模型在推理測試（ARC-Challenge）中的得分，從 74.9 掉到 57.2。另一項指標 RULER-CWE 也從 84.4 掉到 52.3。
也就是說，喂得越多，退化越嚴重。它不是瞬間壞掉，而是像糖吃多了，智力慢慢滑坡。
在劑量反應測試中，M1（互動度）干預對推理和長上下文能力的影響比 M2（語義質量）干預更為顯著。
圖片
為什么？腦子爛掉的AI 開始“跳過思考”
研究者在分析模型輸出時，發現最常見的退化癥狀是：“Thought-skipping”——思維懶惰癥。
模型越來越傾向于直接給結論，不再推理。一句話總結：它懶得思考了。這就像人類在信息流環境下失去了耐心，只看結果，不想過程。
圖片
他們發現，大多數失敗可歸因于“思維懶惰癥”，例如模型未能生成中間的推理步驟等，這種情況在受「腦腐」影響的模型中顯著增加。
能治好嗎？
團隊的結論是，可以部分恢復，但治不好。即便后來再用干凈數據或指令微調去修復，模型也很難回到原本的能力水平——它會留下“認知疤痕”。
圖片
此外，團隊還發現，反思有助于大模型減少思維跳躍。然而，他們還指出：如果沒有來自更強大模型的外部反饋，自我反省也會增加事實錯誤。
結論：AI 也需要“認知體檢”
論文最后提出一個新觀點：
“數據質量不僅影響模型效果，更是訓練安全問題?！?/p>
就像人類需要心理健康檢查，AI 未來也需要定期認知體檢，防止長期喂垃圾導致“系統性腦腐”。
本文轉載自??51CTO技術棧??，作者：云昭
