Hugging Face 上的模型數量已經超過了 100 萬。但是幾乎每個模型都是孤立的，難以與其它模型溝通。盡管有些研究者甚至娛樂播主試過讓 LLM 互相交流，但所用的方法大都比較簡單。

近日，牛津大學一個研究團隊提出了一個用于 LLM 通信的元協議：Agora，并宣稱可以解決「智能體通信三難困境」，進而構建「世界級的 LLM 智能體網絡」。

• 論文標題：A Scalable Communication Protocol for Networks of Large Language Models
• 論文地址：https://arxiv.org/pdf/2410.11905

智能體通信三難困境

智能體（agent）是指能在環境中自主行動以實現其設計目標的計算機系統。

和人類一樣，為了實現共同的目標，智能體也需要相互協作。實際上，如此構建的多智能體系統正是當前 AI 領域的一大重要研究方向，比如 OpenAI 就正在網羅多智能體人才。

OpenAI 著名研究科學家 Noam Brown 發帖為多智能體研究團隊招募機器學習工程師

但是，由于智能體千差萬別（包括架構、功能和約束條件等），要為它們組成的異構網絡設計通信協議并不容易。牛津大學的這個團隊將這些難題歸因到了三個方面：

• 多功能性：智能體之間的通信應支持內容和格式各異的多種多樣的消息；
• 效率：運行智能體的計算成本和通信的網絡成本應盡可能低；
• 可移植性：通信協議應盡可能支持更多智能體，同時其實現起來也應不費力。

該團隊將這些屬性之間的權衡稱為智能體通信三難困境（Agent Communication Trilemma），如圖 1 所示，具體討論請參閱原論文。

Agora：LLM 的通信協議層

要解決這個智能體通信三難困境，關鍵是要接受這一點：并不存在一種能同時實現最佳效率、可移植性和多功能性的協議。

牛津大學的這個團隊提出的 Agora 是一種元協議（meta protocol），其利用了 LLM 的特殊能力來解決這個三難問題，具體來說就是為不同的場景采用不同的通信方法。

我們知道，最強大的 LLM 具有三大關鍵屬性：

• 它們可以使用自然語言理解、操縱和回復其它智能體；
• 它們擅長遵循指令，包括編寫代碼來實現例程；
• 在復雜的場景中，它們可以自主協商協議并就采用的策略和行為達成共識。

究其核心，Agora 會根據不同的情況使用不同的通信格式。

智能體可以支持廣泛的通信（高通用性），同時也能通過高效的例程處理總請求量中的大部分（高效率）。此外，整個協商和實現工作流程都由 LLM 處理，無需人類干預（高可移植性）。

Agora 功能的核心是協議文檔（PD）這一概念，圖 3 給出了其圖示。

下面將介紹 Agora 原生支持的通信層級，然后會展示一些示例。

Agora 中的通信

Agora 引入了一種機器可讀的方式來傳輸和引用協議，即協議文檔（PD）。PD 就是通信協議的純文本描述。

PD 是獨立的、與實現無關的，并且包含智能體在支持協議方面所需的一切：這就意味著現有協議的大多數描述（如 RFC）也都是合適的 PD。但是 PD 并不依靠某個中央實體來分配標識符，而是通過其哈希值（用于多路復用）進行唯一標識。

在 Agora 中，最常見的通信具有專用的高效例程，而最罕見的通信則使用低效但靈活的 LLM 和自然語言。具體來說：

• 如果可能，則通過傳統協議來處理最常見的通信 —— 這些協議有標準的、人工編寫的實現（例如 OBP）；
• 對于不太常見的通信（或沒有標準協議的通信），智能體可以使用結構化數據作為交換媒介（可以由 LLM 編寫的例程處理）；
• 對于一方智能體常見但對另一方不常見的通信，智能體仍然使用結構化數據，但一方可以選擇使用 LLM，而另一方使用例程；
• 對于罕見的通信或例程意外失敗的情況，智能體可以使用自然語言。

在處理一個查詢時，到底選擇使用人工編寫的例程、LLM 編寫的例程還是 LLM（或三者中的某種組合），則完全由智能體自行決定。這能為智能體在處理查詢方面提供最大的靈活性。

這種分層通信支持任意形式的通信（最大通用性），但在實踐中，僅在非常少的情況下會調用 LLM（最大效率）。此外，因為 LLM 可以自行實現例程（因為 PD 完全描述了協議的語法和語義），人類程序員只需要提供智能體可以訪問的工具的概述，這意味著人類方面所需的實現工作量很小（最大可移植性）。

也就是說，Agora 通過使用例程來處理常見請求，并在智能體需要協商解決方案或發生錯誤時使用自然語言，從而避開了通信三難困境。

將 Agora 用作一個零層協議

圖 2 表明，使用 Agora 無需在乎具體的實現和技術

智能體本身的實現（例如 LLM）、用于存儲數據的數據庫（例如 VectorDB、SQL、MongoDB 等）、編寫實現的語言（Python、Java 等）以及工具的性質都是抽象的。

同時，PD 可以引用其它協議文檔，并且由于例程可以調用其它例程，因此智能體可以基于先前的協商來解決更復雜的任務。

最后，基于強大的多功能性和可移植性，Agora 可以非常簡單地處理節點的添加或刪除、節點功能的更改或網絡目標的更改。所有這些因素都有助于使 Agora 成為自然的零層協議，即 LLM 之間高階通信和協作的基礎層。

將 Agora 投入實際應用

為了演示 Agora 的效果，該團隊在兩個場景中實現了 Agora：

• 雙智能體設置：它們的目標是交換一些數據；
• 一個包含 100 個智能體的設置，用于測試 Agora 的可擴展性和 LLM 驅動的智能體在復雜場景中自主協調的能力。

實現細節

在演示中，Agora 的設計遵循三個關鍵原則：最小化、去中心化、完全向后兼容。從實踐角度看，Agora 使用 HTTPS 作為基礎通信層，并使用 JSON 作為交換元數據的格式。

演示：檢索天氣數據

該團隊首先演示了包含兩個智能體的情況。他們將這兩個智能體命名為 Alice 和 Bob。其中 Alice 是一個 Llama-3-405B 驅動的智能體，它管理著一個倫敦導游服務的預訂程序。Bob 則是一個 GPT-4o 智能體，其可提供給定日期和地點的天氣預報服務。在用戶交互之中，如果用戶預訂的日期預計有雨，則 Alice 會通知用戶。

為了檢查天氣，Alice 首先會使用自然語言向 Bob 發送請求（A1 階段）：

Bob 則會使用其 Toolformer LLM 查詢自己的數據庫（B1 階段）并用自然語言給出答復（B2 階段）：

隨著時間的推移，A1 和 B2 階段調用 LLM 的成本會顯著超越其它成本，于是 Alice 和 Bob 決定開發一個協議。

Alice 首先會檢查 Bob 是否已經支持合適的協議，但沒有找到。因此，她決定與 Bob 協商協議。

經過幾輪協商，Alice 和 Bob 就以下協議達成一致：Alice 發送一個包含兩個字段（位置和日期）的 JSON 文檔，然后 Bob 回復一個包含三個字段的 JSON 文檔，即溫度（以攝氏度為單位）、降水量（以毫米為單位）和天氣情況（晴、陰、雨或雪）。

基于此，Alice 在執行查詢時只需指定該協議的哈希。下面給出了一個示例：

Alice 和 Bob 都可獨立決定編寫一個例程來處理自己這邊的通信。

從現在開始，Alice 和 Bob 無需使用 LLM 來傳輸流量數據：現在有一個例程可以自動執行階段 A1、B1 和 B2，從而免除了調用相應 LLM 的成本。

• 成本分析

在該演示中，協商協議和實施例程的 API 調用成本為 0.043 美元，而一次自然語言交換的平均成本為 0.020 美元。這意味著，只要 Alice 和 Bob 使用商定的協議超過兩次，Agora 就能降低總體成本。

最后，該團隊也指出，整個通信過程都是在無人類干預的情況下進行的。此外，如果 Bob 變得不可用，Alice 可以簡單地將 PD 重新用于一個新節點，即便這個新節點可能使用了不同的 LLM / 數據庫 / 技術堆棧。

演示：100 個智能體構成的網絡

為了展示 Agora 的擴展能力和涌現行為，該團隊研究了一個由 100 個 LLM 智能體構成的網絡。

在這個網絡中，其中 85 個是助理智能體，15 個是服務智能體。它們全都有 LLM 支持。

服務智能體可提供各種服務，例如預訂酒店房間、叫出租車、訂餐等。圖 4 左給出了一個用于送餐的子網絡示例。

在工作過程中，服務智能體必須與多個工具和數據庫互動。此外，某些服務智能體還必須與其它服務智能體交互才能完成助理的請求（例如，出租車服務需要使用交通數據智能體來調整行程的預估車費）。

一開始，該團隊使用了圖 2 所示的底層通信層來啟動該網絡并提供哪些 URL 對應哪個節點的信息，同時也人工創建了智能體之間的連接鏈接（例如，出租車服務知道端口 5007 上的是交通服務，但它不知道如何與之通信以及需要什么信息）。

為了展示 Agora 的可移植性，該團隊使用了不同的數據庫技術（SQL 和 MongoDB）和不同的 LLM，包括開源和閉源模型（GPT-4o、Llama-3-405B 和 Gemini 1.5 Pro）。

然后，它們生成了 1000 個隨機查詢，其中既有簡單查詢（例如請求今天的天氣），也有更復雜的查詢（例如預訂滑雪勝地的房間、購買電影票、從菜單中訂購每種菜肴等）。

對于每個查詢，助理都會收到一個 JSON 文檔（代表任務數據），并負責完成請求并返回遵循給定模式的解析響應。

查詢按照帕累托分布在助理之間分配，以模擬某些助理發送的請求明顯多于其它助理的情況。

每個節點還可以讀取 PD 并將其共享到三個協議數據庫之一。

總體而言，這些設計決策下得到的網絡是一個非常異構的網絡，可以測試 Agora 的極限。

• 大型網絡中涌現的協議

連接建立并且網絡可以發送和接收消息后，該團隊觀察到了幾個值得注意的行為。

隨著 PD 在智能體之間逐漸共享（參見圖 5b），針對給定任務的適當協議涌現出了去中心化的共識。

舉個例子，在訂餐任務中，一個智能體會通過查詢請求另一個智能體將食物送到某個地址。這個餐廳智能體會向一個送餐服務請求送貨司機，接下來送餐服務又會向交通數據智能體查詢交通是否順暢，看能否完成送貨。除了直接通信觸及的范圍，所有智能體都不知道彼此的角色和所涉及的協議。盡管如此，各種智能體之間的交互仍然創造了一個能應付這所有事情的自動化工作流程。如圖 4 右所示。

該團隊觀察到，如果有適當的激勵（即效率激勵），Agora 中的智能體可以擺脫在大規模通信中常見的更長消息的低效陷阱。

• 成本分析

該團隊同樣分析了這個更大網絡的成本，并與使用自然語言完成所有通信的網絡進行了比較。

結果如圖 5a 所示，一開始，Agora 的成本效益僅略優于僅依賴自然語言的網絡；隨著時間的推移，這種差距越來越大，越來越多的 Agora 驅動的節點依賴于 LLM 編寫的例程。

在自然語言網絡中運行 1000 次查詢的 API 查詢總成本為 36.23 美元，而 Agora 的成本僅有 7.67 美元：也就是說，使用 Agora 執行此演示比使用常規自然語言便宜約五倍。而如果查詢更多，成本差距還會更大。