MCP 被徹底玩明白了：Anthropic 用對方法讓智能體成本直降近百倍！ 精華
Anthropic 最近的論文指出了 MCP 最大的問題——他們的 AI 代理在還沒開始讀取用戶請求之前，就要先處理 150,000 個 tokens 只為加載工具（tool）定義。而實(shí)現(xiàn)同等功能，實(shí)際上只需要 2,000 個 tokens——減少了 98.7%。
這點(diǎn)至關(guān)重要。隨著 AI 代理從原型走向生產(chǎn)，將其連接到幾十個 MCP（Model Context Protocol）服務(wù)器、上百個工具已成常態(tài)。但一個顯而易見的問題被忽略了：每一個工具定義都會預(yù)先加載進(jìn) context window，而且每一個中間結(jié)果都會穿過模型。
Anthropic 和 Cloudflare 的工程團(tuán)隊(duì)各自獨(dú)立得出了同樣的結(jié)論：別再讓模型直接調(diào)用工具了，改為讓它們寫代碼。
傳統(tǒng)的MCP
Model Context Protocol 顛覆了 AI 代理連接外部系統(tǒng)的方式。自 2024 年 11 月發(fā)布以來，社區(qū)已經(jīng)構(gòu)建了成千上萬的 MCP 服務(wù)器，讓代理能訪問從數(shù)據(jù)庫到云服務(wù)的一切。
但標(biāo)準(zhǔn)實(shí)現(xiàn)存在根本性的低效問題。
當(dāng)你讓一個代理“分析這個文檔、提取關(guān)鍵詞、生成摘要并保存結(jié)果”時(shí)，會發(fā)生如下流程：
步驟 1：加載所有 tool 定義
{
"read_file": {
"description": "Reads content from a file...",
"inputSchema": { /* detailed schema */ },
"outputSchema": { /* detailed schema */ }
},
"extract_keywords": {
"description": "Extracts important keywords...",
"inputSchema": { /* detailed schema */ },
"outputSchema": { /* detailed schema */ }
},
// ... all other tools
}成本：1,304 tokens（模型甚至還沒開始工作）
步驟 2：模型調(diào)用 read_file
{
"tool": "read_file",
"arguments": {"filepath": "document.txt"}
}成本：30 tokens
步驟 3：完整文檔返回給模型
{
"content": "Cloud Infrastructure Cost Optimization Report\n\nExecutive Summary...",
"size": 2510,
"lines": 45
}成本：689 tokens（整份文檔進(jìn)入了上下文）
步驟 4：模型調(diào)用 extract_keywords
{
"tool": "extract_keywords",
"arguments": {
"text": "Cloud Infrastructure Cost Optimization Report\n\nExecutive Summary..."
}
}成本：700 tokens（完整文檔在上下文中再次傳遞）
你應(yīng)該已經(jīng)看出問題了。同一份 2,510 字符的文檔在模型的上下文中流動了三次：一次作為 ??read_file??? 的輸出，一次作為 ??extract_keywords??? 的輸入，又一次作為 ??generate_summary?? 的輸入。
傳統(tǒng)方法合計(jì)：4,412 tokens
Traditional Approach vs. Code Mode
現(xiàn)實(shí)世界
Anthropic 在其生產(chǎn)系統(tǒng)中測得，從 150,000 tokens 降到 2,000 tokens，提升了 98.7%。在規(guī)模化時(shí)，這個模式會變得災(zāi)難性：
- 會議轉(zhuǎn)錄：一場 2 小時(shí)銷售電話（50,000 tokens）處理兩次 = 超過 100,000 個浪費(fèi)的 tokens
- context window 污染：數(shù)百個 tool 定義 = 在模型讀取你的請求前就占了 150,000 tokens
- 成本乘數(shù)效應(yīng)：每個中間結(jié)果都要經(jīng)過模型，疊加 API 成本
- 時(shí)延螺旋：更多 tokens = 更慢的響應(yīng) = 用戶沮喪
為證明這不只是理論，我用一個更簡單的任務(wù)做了實(shí)際演示：分析一份云成本優(yōu)化報(bào)告。即便是這么基礎(chǔ)的流程，結(jié)果也相當(dāng)驚人。
代碼執(zhí)行方法
Anthropic 和 Cloudflare 得出了同一個洞見：LLMs 在寫代碼方面表現(xiàn)出色，但在調(diào)用工具方面表現(xiàn)平平。
正如 Cloudflare 團(tuán)隊(duì)所說：
“LLMs 見過大量代碼。它們并沒有見過很多 ‘tool calls’。事實(shí)上，它們見過的 tool calls 很可能僅限于由 LLM 開發(fā)者構(gòu)造的教學(xué)式訓(xùn)練集。而它們見過的代碼來自數(shù)以百萬計(jì)的開源項(xiàng)目的真實(shí)世界。”
這就像讓莎士比亞上了一個月的普通話課后用中文寫劇本——他可以寫，但不會是他的最佳水平。
更好的方式
不要把 MCP 的 tools 暴露為直接函數(shù)調(diào)用，而是把它們轉(zhuǎn)換為編程語言的 API，然后讓模型寫代碼。
下面是用代碼執(zhí)行完成同一任務(wù)的方式：
步驟 1：加載最小化的 TypeScript API
interface FileContent {
content: string;
size: number;
lines: number;
}
interface Keyword {
term: string;
score: number;
frequency: number;
}
async function readFile(filepath: string): Promise<FileContent>
async function extractKeywords(text: string, maxKeywords?: number): Promise<{keywords: Keyword[]}>
async function generateSummary(text: string, maxLength?: number): Promise<Summary>
async function saveResults(filepath: string, data: any): Promise<SaveResult>成本：184 tokens（比完整 schema 小 85%）
步驟 2：模型生成代碼
async function analyzeDocument() {
// Read document (data stays in execution environment)
const doc = await readFile('document.txt');
// Extract keywords (full text doesn't go back to model)
const keywordsData = await extractKeywords(doc.content, 10);
// Generate summary (full text doesn't go back to model)
const summaryData = await generateSummary(doc.content, 100);
// Save results
const results = {
keywords: keywordsData.keywords,
summary: summaryData.summary
};
await saveResults('results.json', results);
console.log(`Analysis complete. Extracted ${results.keywords.length} keywords.`);
console.log(`Results saved successfully.`);
}
await analyzeDocument();成本：285 tokens
步驟 3：代碼在沙箱中執(zhí)行
文檔被讀取、關(guān)鍵詞被提取、摘要被生成、結(jié)果被保存——這一切都發(fā)生在執(zhí)行環(huán)境中。模型從未看到文檔內(nèi)容。
步驟 4：只有日志返回給模型
Analysis complete. Extracted 10 keywords.
Results saved successfully.成本：42 tokens
代碼執(zhí)行合計(jì)：511 tokens
節(jié)省：3,901 tokens（降低 88.4%）
構(gòu)建實(shí)時(shí)演示
Anthropic 報(bào)告稱在生產(chǎn)環(huán)境中實(shí)現(xiàn)了 98.7% 的 token 減少。Cloudflare 也通過 “Code Mode” 獨(dú)立驗(yàn)證了該方法。但我仍然想通過親手演示來看到數(shù)據(jù)。
我用一個更簡單、更貼近日常的任務(wù)做了對比：分析一份 2,510 字符的云成本優(yōu)化報(bào)告。即使只是這個基礎(chǔ)流程——讀文件、提取關(guān)鍵詞、生成摘要、保存結(jié)果——效率提升也非常顯著。
演示模擬了：
- 4 個 MCP tools（read_file、extract_keywords、generate_summary、save_results）
- 帶文檔的完整 JSON schemas
- 真實(shí)的數(shù)據(jù)流
- 兩種方法的 token 計(jì)數(shù)
可視化結(jié)果如下：
代碼執(zhí)行勝出的五個理由
- 漸進(jìn)式披露（Progressive Disclosure）
- 上下文高效的數(shù)據(jù)處理（Context-Efficient Data Processing）
- 更好的控制流（Better Control Flow）
- 默認(rèn)即隱私（Privacy by Default）
- 狀態(tài)持久與技能（State Persistence & Skills）
實(shí)踐
代碼執(zhí)行不是零成本的。你需要：
基礎(chǔ)設(shè)施：
- 安全的執(zhí)行環(huán)境（沙箱、資源限制）
- 監(jiān)控與日志
- 錯誤處理與恢復(fù)
運(yùn)維復(fù)雜度：
- 管理代碼執(zhí)行生命周期
- 調(diào)試生成代碼的問題
- 處理執(zhí)行超時(shí)
成本考量：
- 執(zhí)行環(huán)境計(jì)費(fèi)
- 生成代碼的存儲
- 監(jiān)控基礎(chǔ)設(shè)施
When To Use Each Approach
在以下情況使用傳統(tǒng) MCP：
- 簡單的單工具流程
- 工具之間的數(shù)據(jù)傳輸極少
- 快速原型
- 工具無需鏈?zhǔn)秸{(diào)用
在以下情況使用代碼執(zhí)行：
- 多個工具需要鏈?zhǔn)秸{(diào)用
- 大型文檔或數(shù)據(jù)集
- 需要數(shù)據(jù)過濾/變換
- 隱私需求（將數(shù)據(jù)留在模型之外）
- 構(gòu)建可復(fù)用的工作流（“skills”）
- 有成本約束的生產(chǎn)級代理
What This Means For Your AI Strategy
如果你在構(gòu)建生產(chǎn)級 AI 代理，尤其是在有財(cái)務(wù)或合規(guī)約束的情況下，代碼執(zhí)行不僅是優(yōu)化——而是必需品。
Anthropic 的生產(chǎn)結(jié)果不言自明：
- 98.7% 更少的 tokens = 單次操作成本降低 98.7%
- 150,000 → 2,000 tokens = 效率提升 75 倍
- 響應(yīng)更快 = 更好的用戶體驗(yàn)
- context window 效率提升 = 處理 75 倍更大的任務(wù)
- 默認(rèn)即隱私 = 更易合規(guī)
即便是更簡單的任務(wù)（如本次演示），節(jié)省也很可觀：88.4% 的減少意味著近 9 倍的成本節(jié)約和相應(yīng)更快的響應(yīng)時(shí)間。
隨著 MCP 的采用持續(xù)增長，“把一切都加載進(jìn)上下文”的做法無法擴(kuò)展。代碼執(zhí)行將成為代理架構(gòu)的發(fā)展方向。
本文轉(zhuǎn)載自??AI大模型觀察站??，作者：AI研究生
