大型語言模型（LLMs）憑借其在自然語言理解、多模態處理、推理和內容生成方面的卓越能力，為AI領域帶來了革命性變革。這些模型通過海量數據集訓練后，展現出推理、上下文學習乃至基礎規劃等自發能力。盡管LLMs代表了智能機器發展的重要里程碑，但它們尚未完全具備智能生物的全部特性。自人工智能研究初期以來，研究者們一直致力于開發真正"智能"的系統——能夠學習、規劃、推理、感知、交流、行動、記憶，并表現出類人的能力與靈活性。

近期，大模型智能體（Agent）的相關話題爆火 —— 不論是 Anthropic 搶先 MCP 范式的快速普及，還是 OpenAI 推出的 Agents SDK 以及谷歌最新發布的 A2A 協議，都預示了 AI Agent 的巨大潛力。但是，目前的大部分 Agent 應用仍是 LLM 能力的簡單 “封裝” 或延伸，距離真正通用的智能實體尚有距離。在面對復雜的真實世界時，Agent往往會暴露出推理規劃、長期記憶、世界模型、自主進化以及安全對齊等核心能力不足的問題。

這些被稱為智能體（Agent）的實體應當具備長短期思考能力，能執行復雜任務，并能與人類及其他智能體互動。LLMs是實現智能體的關鍵一步，但這一目標仍未完全達成。為了系統性地應對這些挑戰，以構建真正具備通用能力的未來智能體，MetaGPT & Mila 聯合全球范圍內 20 個頂尖研究機構的 47 位學者，共同撰寫并發布了長篇綜述《Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems》。

• 論文鏈接： https://arxiv.org/abs/2504.01990

目前該論文已蟬聯 Hugging Face 的 Daily Paper 月榜第一名，論文綜述分為四個相互關聯的部分：

首先，探討了智能體的模塊化基礎，系統性地將認知、感知和操作模塊與人腦功能對應起來，并闡明了記憶、世界建模、獎勵處理和情感模擬系統等核心組件。

其次，分析了自我增強和適應性進化機制，研究智能體如何自主提升能力、適應變化環境，以及通過自動優化方法實現持續學習，包括新興的AutoML和LLM驅動的優化策略。

第三，考察了協作和進化的多智能體系統，研究智能體之間的互動、合作和社會結構產生的集體智能，并強調了與人類社會動態的相似性。

最后，探討了構建安全、可靠和有益的人工智能系統的重要性，強調了內部和外部安全威脅、倫理一致性、系統穩健性以及在實際部署中必要的風險緩解策略。

通過將模塊化人工智能架構與多學科見解相結合，本綜述識別了關鍵研究gaps、挑戰和機遇，旨在促進技術進步與社會福祉相協調的創新發展。

當前 AI 研究與人類大腦的差異

基礎智能體Foundation Agent 并非具體的智能體實例，而是一個更宏大且更根本性的技術藍圖及科學理念。它旨在通過認知科學和神經科學的洞見，構建一個由復雜認知、多層記憶、世界模型、獎勵 & 價值、情緒 & 動機、多模感知、行動系統等模塊化組件構成的智能系統。

基礎智能體（Foundation Agent）的定義

一個強大的 Foundation Agent 必然是一個復雜的系統，由多個相互協作的核心組件構成。這借鑒了認知科學和神經科學中對大腦模塊化功能的理解。論文詳細闡述了七個關鍵組件，它們共同構成了智能體的認知架構：

Agent 框架（環境，循環與內部結構）

1. 認知核心 (Cognition Core)

這是智能體的 “大腦” 或 “中央處理器”，負責最高層次的決策、推理和規劃。與當前主要依賴 LLM 進行 “思考” 的智能體不同，Foundation Agent 的認知核心可能是一個更復雜的系統，集成了多種推理能力（如邏輯推理、因果推理、常識推理）和規劃算法（如任務分解、層級規劃、長期目標管理）。它需要能夠處理不確定性，進行反思和元認知（思考自己的思考過程），并根據環境反饋和內部狀態動態調整策略。這要求認知核心不僅僅是模式匹配，更要具備深刻的理解和靈活的問題解決能力。

智能體的推理模式

2. 記憶系統 (Memory System)

記憶是智能的基礎。當前的智能體往往只有有限的短期記憶（如 Prompt 中的上下文）或簡單的外部向量數據庫。Foundation Agent 則需要一個更復雜、更接近生物體的多層次記憶系統。論文探討了短期記憶、長期記憶與工作記憶等不同類型，包含情景記憶、語義記憶和程序記憶等細分領域。高效的記憶檢索、存儲、遺忘和泛化機制對于 Foundation Agent 至關重要。如何設計能夠支持持續學習、避免災難性遺忘，并能高效檢索相關信息的記憶系統，是一個核心挑戰。

記憶的生命周期

3. 世界模型 (World Model)

智能體需要理解其所處的環境以及自身行為可能產生的后果。世界模型正是對環境動態的內部表征。它可以幫助智能體進行預測（如果我采取行動 A，會發生什么？）、規劃（為了達到目標 B，我應該采取什么行動序列？）和反事實推理（如果當初采取了不同的行動，結果會怎樣？）。一個強大的世界模型需要能夠處理物理規律、社會規范、其他智能體的行為等多方面信息，并且能夠根據新的觀測數據不斷更新和完善。構建準確、高效且可泛化的世界模型是實現高級智能的關鍵一步。

世界模型的四種范式

4. 獎勵與價值系統 (Reward and Value System)

智能體的行為需要有目標導向。獎勵系統負責評估智能體的行為表現，并提供學習信號。這不僅僅是簡單的標量獎勵，可能涉及到多目標優化、內在動機（如好奇心、探索欲）以及對未來價值的預估。價值系統則負責評估不同狀態或行動的長期價值，指導智能體的決策。如何設計能夠引導智能體學習復雜行為、符合人類價值觀，并且能夠適應動態環境的獎勵和價值系統，是確保智能體目標一致性的核心。

獎勵范式

5. 情緒與動機建模 (Emotion and Motivation Modeling)

雖然在傳統 AI 中較少提及，但論文認為，模擬類人情緒和動機對于構建更魯棒、更具適應性的智能體可能是有益的。情緒可以作為一種快速評估環境狀態和調整行為策略的啟發式機制，例如，“恐懼” 可能觸發規避行為，“好奇” 可能驅動探索。動機則為智能體提供持續行動的內在驅動力。當然，如何在 AI 中恰當、可控地實現這些機制，避免產生不可預測的副作用，是一個需要審慎探索的方向。

人類的情緒種類

6. 感知系統 (Perception System)

智能體需要通過感知系統從環境中獲取信息。這不僅僅是處理文本，更包括視覺、聽覺、觸覺等多模態信息的輸入和理解。感知系統需要能夠從原始感官數據中提取有意義的特征，識別對象、理解場景，并將這些信息傳遞給認知核心和記憶系統。多模態融合、實時處理以及對噪聲和不確定性的魯棒性是感知系統面臨的主要挑戰。

人類與智能體的感知

7. 行動系統 (Action System)

智能體最終需要通過行動系統與環境進行交互。這包括生成自然語言、執行代碼、控制機器人肢體、在虛擬世界中導航等。行動系統需要將認知核心的決策轉化為具體的、可在環境中執行的操作序列。行動的選擇需要考慮可行性、效率和潛在風險。學習精細的操作技能、處理連續的行動空間以及確保行動的安全可控是行動系統的關鍵要求。

動作的相關概念

Foundation Agent不再將智能體視為 LLM 的簡單應用，而是將其看作一個由認知、記憶、學習、感知、行動等多個核心組件構成的復雜、有機的系統。其核心意義在于提供了系統性框架，強調了自主性，關注協作與生態，并突出了安全與對齊。然而，實現這一愿景也面臨著技術復雜度高、需要龐大計算資源、評估困難、自進化可控性問題以及安全與對齊的根本性難題等巨大挑戰。

本文轉載自公眾號數字化助推器  作者：天涯咫尺TGH

原文鏈接：??https://mp.weixin.qq.com/s/xgeMOKt9dVIXrsyT3F7H4Q??