AI 智能體是去年很火的一個話題，但是 AI 智能體到底有多大的潛力，很多人可能沒有概念。

最近，斯坦福大學教授吳恩達在演講中提到，他們發現，基于 GPT-3.5 構建的智能體工作流在應用中表現比 GPT-4 要好。當然，基于 GPT-4 構建的智能體工作流效果更好。由此看來，AI 智能體工作流將在今年推動人工智能取得巨大進步，甚至可能超過下一代基礎模型。這是一個值得所有人關注的趨勢。

這個關于智能體的演講在社交媒體上引發了廣泛關注。有人表示，這代表著 AI 發展中的范式轉變，體現了從靜態輸出到動態迭代的轉變。站在這樣一個十字路口，我們不僅要思考 AI 如何改變我們的工作，還要思考我們如何適應它所創造的新環境。

還有人說，這和自己的生活經驗是相通的：有些人可以憑借良好的流程勝過那些比自己聰明的人。

那么，智能體的這種效果是怎么實現的呢？

和傳統的 LLM 使用方式不同，智能體工作流不是讓 LLM 直接生成最終輸出，而是多次提示（prompt）LLM，使其逐步構建更高質量的輸出。

在演講中，吳恩達介紹了 AI 智能體工作流的四種設計模式：

• 反思（Reflection）：LLM 檢查自己的工作，以提出改進方法。
• 工具使用（Tool use）：LLM 擁有網絡搜索、代碼執行或任何其他功能來幫助其收集信息、采取行動或處理數據。
• 規劃（Planning）：LLM 提出并執行一個多步驟計劃來實現目標（例如，撰寫論文大綱、進行在線研究，然后撰寫草稿......）。
• 多智能體協作（Multi-agent collaboration）：多個 AI 智能體一起工作，分配任務并討論和辯論想法，以提出比單個智能體更好的解決方案。

在后續的博客中，吳恩達重點討論了反思（Reflection）模式。吳恩達表示：「反思模式是實現速度相對較快的設計模式，它已經帶來了驚人的性能提升效果?！?/span>

他在博客中寫道：

我們可能都有過這樣的經歷：提示 ChatGPT/Claude/Gemini，得到不滿意的輸出，提供關鍵反饋以幫助 LLM 改進其響應，最終獲得更好的響應。

如果將關鍵反饋的步驟交付給自動化程序，讓模型自動批評自己的輸出并改進其響應，結果會怎樣？這正是反思模式的關鍵。

以要求 LLM 編寫代碼為例。我們可以提示它直接生成所需的代碼來執行某個任務 X。之后，我們可以提示它反思自己的輸出，如下所示：

這是任務 X 的代碼：[之前生成的代碼]

仔細檢查代碼的正確性、風格和效率，并對如何改進它提出建設性意見。

有時這會使 LLM 發現問題并提出建設性意見。接下來，我們可以用上下文 prompt LLM，包括： 

• 以前生成的代碼；
• 建設性的反饋；
• 要求它使用反饋來重寫代碼。

這可以讓 LLM 最終輸出更好的響應。重復批評 / 重寫過程可能會產生進一步的改進。這種自我反思過程使 LLM 能夠發現差距并改善其在各種任務上的輸出，包括生成代碼，編寫文本和回答問題。

我們可以通過給 LLM 提供工具來幫助其評估產出。例如，通過幾個測試用例來運行代碼，以檢查是否在測試用例上生成正確的結果，或者搜索網頁以檢查文本輸出。然后，LLM 可以反思它發現的任何錯誤，并提出改進的想法。

此外，我們可以使用多智能體框架來實現反思。創建兩個不同的智能體很方便，一個提示生成良好的輸出，另一個提示對第一個智能體的輸出給出建設性的批評。兩個智能體之間的討論推動了響應的改進。

反思是一種相對基本的智能體工作流模式，但它在一些情況下顯著改善了應用程序的結果。

最后，關于反思，吳恩達推薦了幾篇論文：

•  “Self-Refine: Iterative Refinement with Self-Feedback,” Madaan et al., 2023
•  “Reflexion: Language Agents with Verbal Reinforcement Learning,” Shinn et al., 2023
•  “CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing,” Gou et al., 2024

在下文中，機器之心整理了本次演講的內容。

吳恩達：AI 智能體的未來

我很期待與大家分享我在 AI 智能體中所看到的。我認為這是一個令人興奮的趨勢。我認為每個 AI 從業者都應該關注這個趨勢。

我要分享的是 AI 智能體?，F在，我們大多數人使用大型語言模型的方式是這樣的：我們在一個非智能體工作流中，你把提示輸入到對話框中并生成答案。這有點像是我們讓一個人寫一篇關于某個主題的文章。我說，請坐到鍵盤前，從頭到尾打出一篇文章，中間不使用退格鍵。盡管這很難，AI 大模型還是做得非常好。

智能體工作流長這個樣子（右圖）。有一個 AI 大模型，你可以讓它寫一份論文大綱。你需要上網查資料嗎？如果需要，我們就聯網。然后寫初稿、讀初稿，并思考哪些部分需要修改。然后修改你的初稿并繼續推進。所以這個工作流程更容易迭代。你可以讓 AI 大模型進行一些思考，然后修改這篇文章，然后繼續思考和迭代。按照這個步驟迭代多次。

很多人都沒有意識到的是，這么做的效果好得多。其實我自己也很驚訝。對于它們的工作決策流程，以及它們優秀的表現。除了這些個案研究，我的團隊也分析了一些數據，使用名為 HumanEval 的編程評估基準。這是 OpenAI 幾年前發布的。這上面有一些編程問題，比如給定一個非空整數列表，返回位于偶數位置的所有奇數元素的和。AI 生成的答案是像這樣的代碼片段。

如今我們很多人會使用零樣本提示。比如我們告訴 AI 編寫代碼，并讓它在第一個位置運行。誰這樣編碼？沒有人這樣寫代碼。我們只需輸入代碼并運行它。也許你這么編碼，但我做不到。事實證明，如果你使用 GPT-3.5，在零樣本提示的條件下，GPT-3.5 的準確率是 48%。GPT-4 要好得多，達到了 67%。但如果你采用的是智能體工作流，并將其打包，GPT-3.5 實際上能表現更好，甚至比 GPT-4 還好。如果你圍繞 GPT-4 構建這樣的工作流，GPT-4 也能表現很好。注意，處于智能體工作流中的 GPT-3.5 實際上優于 GPT-4。我認為這已經是一個信號。

所有人都在圍繞智能體這個術語和任務進行大量的討論。有很多咨詢報告，關于智能體、AI 的未來，等等等等。我想具體一點，分享一下我在智能體中看到的廣泛設計模式。這是一個非常混亂、混沌的空間。有很多研究，有很多事情正在發生，我嘗試更具體地分一下類，更具體地聊一下智能體領域發生的事情。

reflection（反思）是一種工具，我認為我們中的許多人都在使用。它很有效。我認為「tool use」得到了更廣泛的認可，但 reflection 實際上效果也很好。我認為它們都是非常強大的技術。當我使用它們時，我幾乎總能讓它們工作得很好。規劃和多智能體協作，我認為屬于正在興起的技術。在使用它們時，有時我對它們的工作效果感到震驚。但至少在目前這個時刻，我覺得我無法讓它們總是可靠地工作。

接下來我將詳細解釋這四種設計模式。如果你們中的一些人回去自己用，或者讓你們的工程師使用這些模式，我認為你可以很快獲得生產力的提升。

首先是 reflection，舉個例子：假設我問一個系統，請為我編寫給定任務的代碼。然后我們有一個代碼智能體，只是一個接受你編寫的提示的大模型。它會寫一個如圖所示的函數。這里還有一個 self reflection 的例子。如果你給你的大模型寫出這樣的提示，告訴它這是用于執行某個任務的代碼，把你剛剛生成的代碼給它，然后讓它檢查這段代碼的正確性、效率等等類似的問題。結果你會發現，根據你的提示寫出代碼的那個大模型，可能能夠發現代碼里的問題，比如第五行的 bug。還會告訴你怎么修改。如果你現在采納了它的反饋并再次給它提示，它可能會提出一個比第一個版本更好的第二版代碼。不能保證一定如此，但它是有效的。這種方法在很多應用中都值得嘗試。

這里提前說一下 tool use。如果你讓它運行單元測試，而它沒有通過，你想知道為什么沒通過。進行這樣的對話，也許能找出原因。這樣你就能試著去改正。順便說一下，如果大家對這些技術感興趣，我在每一部分的幻燈片底部都寫了一個小小的推薦閱讀部分，就在 PPT 底部。里面有更多的參考資料。

這里提前說一下多智能體系統。它被描述為單個代碼智能體，你給它提示，讓它們進行對話。這種想法的一個自然演變是單個編程智能體。你可以有兩個智能體，其中一個是編碼智能體，另一個是評價智能體。它們背后的大模型可能是同一個，但你給它們的提示不一樣。我們對其中一個說，你是寫代碼的專家，負責編寫代碼。對另一個說，你是審核代碼的專家，負責審核這段代碼。這種工作流實際上很容易實現。我認為這是一種非常通用的技術，適用于很多工作流。這將為大型語言模型的性能帶來顯著的提升。

第二種設計模式是 tool use（工具使用）。許多人可能已經見過基于大模型的系統使用工具。左邊是一個截圖，來自 Copilot。右邊的截圖，來自 GPT-4。左邊的問題是，網上最好的咖啡機是哪個？Copilot 會通過上網檢索來解決一些問題。GPT-4 將會生成代碼并運行代碼。事實證明，有很多不同的工具被人們用于分析、收集信息以采取行動、提高個人生產力。事實證明，很多早期工作關于 tool use 的工作，原來都是在計算機視覺社區。因為之前，大型語言模型對圖像無能為力，所以唯一的選擇就是大模型生成一個函數調用，可以用來操作圖像，比如生成圖像或者做目標檢測什么的。讓我們看看文獻，有趣的是，tool use 領域的很多工作似乎都起源于視覺社區，因為之前的大模型不會看圖像，在 GPT-4V、LLaVA 等模型出現之前。這就是 tool use，它擴展了大型語言模型的能力。

接下來講 planning（規劃）。對于沒有大量接觸過規劃算法的人來說，我覺得很多人在談論 ChatGPT 時刻的時候，你會覺得，「哇，從未見過這樣的東西」。我想你還沒有使用過規劃算法。很多人看到 AI 智能體會很驚訝，「哇，我沒想到 AI 智能體能做這些」。在我進行的一些現場演示中，有些演示會失敗，AI 智能體會重新規劃路徑。我實際上經歷過很多這樣的時刻，「哇，我不敢相信我的 AI 系統剛剛自動做到了這一點」。其中一個例子是從 HuggingGPT 論文中改編的。你輸入的是：請生成一張圖像，一個女孩在看書，她的姿態和圖像中的男孩一樣。然后用你的聲音描述這張新圖像。給定一個這樣的例子，今天有了 AI 智能體，你可以確定第一件要做的事是確定男孩的姿態。然后找到合適的模型，也許在 HuggingFace 上能找到，提取姿態。接下來需要找到一個姿態圖像模型，遵循指令生成一張女孩的圖像。然后使用圖像 - 文本模型得到描述。最后使用文本轉語音模型讀出描述。

我們今天已經有了 AI 智能體，我不想說它們工作可靠，它們還有點挑剔，并不總是好用。但當它們起作用時，實際上效果是非常驚人的。

有了智能體循環，有時你可以改掉前期的問題。我自己已經在使用研究智能體了。對于我的一些工作，我并不想自己花很多時間進行谷歌搜索。我會把需求發給 AI 智能體，幾分鐘后回來看看它做了什么。它有時有效，有時不行。但那已經是我個人工作流的一部分。

最后要講的模式是多智能體協作。這部分很有趣，它的效果比你想象的要好得多。左邊這張圖來自一篇名為 ChatDev 的論文。它是完全開源的，你們中的許多人都在社交媒體上看過 Devin 的演示。ChatDev 是開源的，它在我的筆記本電腦上運行。ChatDev 是多智能體系統的一個實例。你可以給它一個提示，它有時扮演軟件引擎公司的 CEO，有時扮演設計師，有時又是產品經理，有時是測試人員。這群智能體是你通過給大模型提示來構建的，告訴它們「你現在是 CEO / 你現在是軟件工程師」。他們會協作，會進一步對話。如果你告訴它們，「請開發一款游戲」，它們會花幾分鐘寫代碼，然后進行測試、迭代，然后生成一個令人驚訝的復雜程序，雖然并不總是能運行。我已經試過了，有時生成結果用不了，有時候又很驚艷。但是這項技術真的越來越好了。這是其中一種設計模型。此外，事實證明，多智能體辯論（你有多個智能體），比如說，你可以讓 ChatGPT 和谷歌的 Gemini 辯論，這實際上會帶來更好的性能。因此，讓多個相似的 AI 智能體一起工作，也是一個強大的設計模式。

總結一下，這些是我看到的模式。我認為如果我們在我們的工作中使用這些模式，我們中的很多人可以很快獲得實踐上的提升。我認為智能體推理設計模式將會非常重要。這是我的簡要 PPT。我預計，今年 AI 能做的事情將大幅擴展，這得益于智能體工作流。

有一件事實際上很困難，就是人們需要習慣在輸入提示之后，我們總想立即得到結果。實際上，十幾年前，當我在谷歌討論 big box search 時，我們輸入了一個很長的提示。我沒有成功推動這一項目的一個原因是，在進行網絡搜索時，你想在半秒鐘內得到回復。這是人性使然 —— 我們喜歡即時獲取、即時反饋。但是對于很多 AI 智能體工作流來說，我想我們需要學會分配任務給 AI 智能體，并耐心地等待幾分鐘，甚至幾小時，等它給出回應。我見過很多新晉管理者，將某事委托給某人，然后五分鐘后檢查結果。這不是一種有效的工作方式。我想我們需要，這真的很難。我們也需要對我們的 AI 智能體多點耐心。

另一個重要的事情是，快速的 token 生成是非常重要的。因為用這些 AI 智能體，我們一遍又一遍地迭代。AI 生成供人閱讀的 token。如果 AI 生成 token 的速度比任何人的閱讀速度都快，那就太棒了。我認為，快速生成更多 token，即使用的是質量稍低的大模型，也能帶來很好的結果。與用更好的大模型慢慢生成 token 相比，或許這點是有爭議的。因為它可能讓你在這個循環中反復更多次。這有點像我在前面的幻燈片上展示的大模型和智能體架構的結果。

坦率地說，我非常期待 Claude 4、GPT-5 和 Gemini 2.0，以及其他正在構建的出色大模型。我感覺，如果你期待在 GPT-5 上運行你的任務，以零樣本的方式，你可能在一些 AI 智能體應用上接近那個水平的性能，這可能超乎你的想象，有了智能體推理，再加上之前發布的大模型。我認為這是一個重要的趨勢。老實說，通往 AGI 的道路感覺更像是一段旅程而不是目的地，我認為這套智能體工作流可以幫助我們在這漫長的旅程中向前邁出一小步。