前一段時間，比爾.蓋茨在他的博客上發表了：《AI is about to completely change how you use computers》比爾·蓋茨在這篇文章中探討了AI Agent對我們未來生活的巨大影響。他談到了AI Agent在醫療保健、教育、生產力、娛樂和購物等領域的作用。這些Agent將為人們提供更個性化的服務，幫助解決各種問題并提供支持，從輔助醫生和教師工作到處理日常任務，甚至影響我們與朋友和家人的互動方式。AI Agent正在以各種方式迅速進入我們的生活，將在未來幾年內徹底改變我們的生活方式。

什么是AI Agent (LLM Agent)

AI Agent 的定義

AI Agent是一種超越簡單文本生成的人工智能系統。它使用大型語言模型（LLM）作為其核心計算引擎，使其能夠進行對話、執行任務、推理并展現一定程度的自主性。簡而言之，Agent是一個具有復雜推理能力、記憶和執行任務手段的系統。

AI Agent 的主要組成部分

在LLM賦能的自主agent系統中(LLM Agent)，LLM充當agent大腦的角色，并與若干關鍵組件協作。

規劃（planning）

• 子目標分解：agent將大任務拆分為更小的可管理的子目標，使得可以有效處理復雜任務。
• 反思與完善：agent對歷史動作可以自我批評和自我反思，從錯誤中學習并在后續步驟里完善，從而改善最終結果的質量。

記憶（Memory）

• 短期記憶：上下文學習即是利用模型的短期記憶學習
• 長期記憶：為agent提供保留和召回長期信息的能力，通常利用外部向量存儲和檢索實現

工具使用（tool use）

• 對模型權重丟失的信息，agent學習調用外部API獲取額外信息，包括當前信息、代碼執行能力、專有信息源的訪問等等

行動（Action）

• 行動模塊是智能體實際執行決定或響應的部分。面對不同的任務，智能體系統有一個完整的行動策略集，在決策時可以選擇需要執行的行動，比如廣為熟知的記憶檢索、推理、學習、編程等。

AI Agent的意義

人機協同模式

基于大模型的Agent不僅可以讓每個人都有增強能力的專屬智能助理，還將改變人機協同的模式，帶來更為廣泛的人機融合。生成式AI的智能革命演化至今，從人機協同呈現了三種模式：

（1）嵌入（embedding）模式。用戶通過與AI進行語言交流，使用提示詞來設定目標，然后AI協助用戶完成這些目標，比如普通用戶向生成式AI輸入提示詞創作小說、音樂作品、3D內容等。在這種模式下，AI的作用相當于執行命令的工具，而人類擔任決策者和指揮者的角色。

（2）副駕駛（Copilot）模式。在這種模式下，人類和AI更像是合作伙伴，共同參與到工作流程中，各自發揮作用。AI介入到工作流程中，從提供建議到協助完成流程的各個階段。例如，在軟件開發中，AI可以為程序員編寫代碼、檢測錯誤或優化性能提供幫助。人類和AI在這個過程中共同工作，互補彼此的能力。AI更像是一個知識豐富的合作伙伴，而非單純的工具。

實際上，2021年微軟在GitHub首次引入了Copilot（副駕駛）的概念。GitHub Copilot是一個輔助開發人員編寫代碼的AI服務。2023年5月，微軟在大模型的加持下，Copilot迎來全面升級，推出Dynamics 365 Copilot、Microsoft 365 Copilot和Power Platform Copilot等，并提出“Copilot是一種全新的工作方式”的理念。工作如此，生活也同樣需要“Copilot”，“出門問問”創始人李志飛認為大模型的最好工作，是做人類的“Copilot”。

（3）智能體（Agent）模式。人類設定目標和提供必要的資源（例如計算能力），然后AI獨立地承擔大部分工作，最后人類監督進程以及評估最終結果。這種模式下，AI充分體現了智能體的互動性、自主性和適應性特征，接近于獨立的行動者，而人類則更多地扮演監督者和評估者的角色。

從前文對智能體記憶、規劃、行動和使用工具四個主要模塊的功能分析來看，智能體模式相較于嵌入模式、副駕駛模式無疑更為高效，或將成為未來人機協同的主要模式。

基于Agent的人機協同模式，每個普通個體都有可能成為超級個體。超級個體是擁有自己的AI團隊與自動化任務工作流，基于Agent與其他超級個體建立更為智能化與自動化的協作關系。現在業內不乏一人公司、超級個體的積極探索。

AI Agent與軟件開發

AI Agent將使軟件架構的范式從面向過程遷移到面向目標。現有的軟件（包括APP）通過一系列預定義的指令、邏輯、規則和啟發式算法將流程固定下來，以滿足軟件運行結果符合用戶的預期，即用戶按照指令邏輯一步一步操作達成目標。這樣一種面向過程的軟件架構具有高可靠性、確定性。但是，這種面向目標的架構只能應用于垂直領域，而無法普遍應用到所有領域，因此標準化和定制化之間如何平衡也成為SaaS行業面對的難題之一。

AI Agent范式將原本由人類主導的功能開發，逐漸遷移為以AI為主要驅動力。以大模型為技術基礎設施，Agent為核心產品形態，把傳統軟件預定義的指令、邏輯、規則和啟發式算法的任務層級演變成目標導向的智能體自主生成。這樣一來，原本的架構只能解決有限范圍的任務，未來的架構則可以解決無限域的任務。未來的軟件生態，不僅是最上層與所有人交互的媒介是Agent，整個產業的發展，無論是底層技術，商業模式，中間組件，甚至是人們的生活習慣和行為都會圍繞Agent來改變，這就是Agent-Centric時代的開啟。

常見LLM Agent框架或者應用

AutoGPT

可以說是LLM Agent的鼻祖了。Auto-GPT是一個實驗性的開源應用程序，展示了GPT-4語言模型的能力。這個程序由GPT-4驅動，將LLM“思想”連接在一起，以自主地實現您設置的任何目標。作為GPT-4完全自主運行的最早示例之一，Auto-GPT突破了人工智能的極限，將AI進程推向了新高度 -- 自主人工智能。

??https://link.zhihu.com/?target=https%3A//github.com/Significant-Gravitas/AutoGPT??

AutoGen

微軟發布的AutoGen agent是可定制的、可對話的，并能以各種模式運行，這些模式采用 LLM、人類輸入和工具的組合。使用 AutoGen，開發人員還可以靈活定義agent交互行為。自然語言和計算機代碼都可用于為不同的應用編程靈活的對話模式。AutoGen 可作為一個通用框架，構建具有不同復雜性和 LLM 能力的各種應用。實證研究證明了該框架在許多樣本應用中的有效性，應用領域包括數學、編碼、問答、運籌學、在線決策、娛樂等。

??https://github.com/microsoft/autogen??

ChatDev

清華大學 NLP 實驗室聯合面壁智能等科研機構研發的一個大模型驅動的全流程自動化軟件開發框架。ChatDev (Chat-powered Software Development)。ChatDev 擬作一個由多智能體協作運營的虛擬軟件公司，在人類“用戶”指定一個具體的任務需求后，不同角色的智能體將進行交互式協同，以生產一個完整軟件（包括源代碼、環境依賴說明書、用戶手冊等）。這一技術為軟件開發自動化提供了新的可能性，支持快捷高效且經濟實惠的軟件制作，未來將有效地將部分人力從傳統軟件開發的繁重勞動中解放出來。

??https://github.com/OpenBMB/ChatDev??

XAgent

??https://github.com/OpenBMB/XAgent??

XAgent是面壁智能聯合清華大學 NLP 實驗室共同研發開源的基于LLM的自主智能體，可以自動解決各種任務。它被設計為一個通用的智能體，可以應用于各種任務，終極目標是創建一個可以解決任何給定任務的超級智能體。換句話說，打造的是超級無敵的多邊形戰士，不是單獨為某個任務設計的特定智能體。

GPT-engineer

??https://github.com/gpt-engineer-org/gpt-engineer??

HuggingGPT

HuggingGPT也是一個老牌的AI Agent項目了，主要思路為利用LLM的框架（例如。ChatGPT）來連接機器學習社區中的各種AI模型（例如huggingface）來解決人工智能任務。

??https://huggingface.co/spaces/microsoft/HuggingGPT??

論文: HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face, https://arxiv.org/pdf/2303.17580.pdf

AI Agent的展望與挑戰

展望

AI Agent是人工智能成為基礎設施的重要推動力。回顧技術發展史，技術的盡頭是成為基礎設施，比如電力成為像空氣一樣不易被人們察覺，但是又必不可少的基礎設施，還如云計算等。當然這個要經歷以下三個階段：創新與發展階段–新技術被發明并開始應用；普及與應用階段–隨著技術成熟，它開始被廣泛應用于各個領域，對社會和經濟產生深遠影響；基礎設施階段–當技術變得普及到幾乎無處不在，它就轉變成了一種基礎設施，已經成為人們日常生活中不可或缺的一部分。幾乎所有的人都認同，人工智能會成為未來社會的基礎設施。而智能體正在促使人工智能基礎設施化。這不僅得益于低成本的Agent軟件生產優勢，而且因為Agent能夠適應不同的任務和環境，并能夠學習和優化其性能，使得它可以被應用于廣泛的領域，進而成為各個行業和社會活動的基礎支撐。

Agent下一步可能會朝著兩個方向同時迭代。一是與人協助的智能體，通過執行各種任務來協助人類，側重工具屬性；二是擬人化方向的迭代，能夠自主決策，具有長期記憶，具備一定的類人格特征，側重于類人或超人屬性。

挑戰

從技術優化迭代和實現上來看，AI Agent的發展也面臨一些瓶頸。

技術方面，LLM模型仍然不夠強大，即使是最強大的GPT4在AI Agent應用時，仍然面臨以下一些問題：

• 上下文長度有限：上下文容量有限，限制了歷史信息、詳細說明、API 調用上下文和響應的包含。系統的設計必須適應這種有限的通信帶寬，而從過去的錯誤中學習的自我反思等機制將從長或無限的上下文窗口中受益匪淺。盡管向量存儲和檢索可以提供對更大知識庫的訪問，但它們的表示能力不如充分關注那么強大。
• 長期規劃和任務分解的挑戰：長期規劃和有效探索解決方案空間仍然具有挑戰性。LLM在遇到意外錯誤時很難調整計劃，這使得它們與人類相比（從試錯中學習）不太穩健。
• 自然語言接口的可靠性：當前的Agent系統依賴自然語言作為LLM與外部組件（例如內存和工具）之間的接口。然而，模型輸出的可靠性值得懷疑，因為LLM可能會出現格式錯誤，并且偶爾會表現出叛逆行為（例如拒絕遵循指示）。因此，大部分Agent演示代碼都專注于解析模型輸出。

其次，太燒錢了，尤其是多智能體。斯坦福的虛擬小鎮一個Agent一天需要消耗20美金價格的token數，因為其需要記憶和行動的思考量非常大。這一價格是比很多人類工作者更高的，需要后續Agent框架和LLM推理側的雙重優化。

還有就是現階段在很多場景，使用AI Agent對比Copilot模式的最終效果，還看不到非常大的提升，或者說能覆蓋增加成本的提升。大部分AI Agent技術還都是研究階段。

最后，這些發展趨勢預示著AI Agent可能面臨諸如安全性與隱私性、倫理與責任、經濟和社會就業影響等多方面的挑戰。別的不說，對很多人的個人職業生涯的長期影響。

本文轉自 AI生成未來 ，作者：北方的郎

原文鏈接:??https://mp.weixin.qq.com/s/pEpYl35IDINGaVDBK76-LA??