大家好，我是肆〇柒。今天為大家分享一項由賓夕法尼亞州立大學和亞馬遜研究團隊聯合研究的AgentTTS。這個框架解決了多階段復雜任務中計算資源優化分配的關鍵難題，讓大模型在有限預算下也能發揮最大效能。在LLM應用成本日益受到關注的今天，AgentTTS提出的測試時計算最優策略，不僅大幅提升了搜索效率，還揭示了三大核心規律，為工業界提供了實用的優化框架。接下來，我們一起了解以下這項技術的創新之處。

Test-time 計算優化的行業痛點與真實挑戰

850預算挑戰：一個典型場景的深度剖析

注：850預算挑戰是什么？它是多階段復雜任務中資源優化分配的一個經典案例，源自2WikiMultiHopQA數據集上的多跳問答任務。這一挑戰的核心在于：系統必須在嚴格的850單位計算預算約束下，優化兩個相互依賴的子任務（信息檢索和問答）的性能。這里的"預算"指代計算資源消耗單位，通常與模型推理所需的FLOPs（浮點運算次數）或API調用成本成正比，反映了實際部署環境中計算資源有限的現實約束。

在多跳問答任務的實際部署中，計算資源的有限性常常成為性能提升的關鍵瓶頸。以2WikiMultiHopQA數據集上的850預算挑戰為例，這一典型場景生動展示了多階段任務中資源分配的復雜性與挑戰性。

測試時計算最優預算分配問題定義：給定多階段復雜任務T的固定總計算預算Bf，如何在子任務間最優分配計算預算B→{B?, B?, ..., B?}，選擇適當的模型Mi，并有效分配分配的資源以最大化整體性能？

實驗數據顯示，最優檢索配置(Qwen2.5-72B, 1 sample)消耗814單位計算資源，而最優QA設置(LLaMA-3-3B, 50 samples)僅需52單位。這種極端不平衡的資源需求分布導致在固定預算約束下，系統設計者必須在兩個相互依賴的子任務間做出艱難權衡。

具體實驗數據展示了配置選擇的微妙平衡：

• ("Qwen2.5-72B", 1, "LLaMA-3.1-8B", 10, 0.7854, 0.74)：高質量檢索配合適度QA采樣
• ("Qwen2.5-32B", 5, "LLaMA-3.2-3B", 20, 0.5549, 0.78)：平衡型配置實現更高QA性能
• ("Qwen2.5-7B", 70, "LLaMA-3.2-3B", 90, 0.3456, 0.58)：過度采樣導致性能顯著下降

當資源分配失衡時，性能下降幅度驚人。當檢索任務占用過多預算導致QA任務資源不足時，整體性能指標Gen_EM從0.74驟降至0.68，降幅超過8%。更嚴重的是，某些次優配置甚至會導致性能下降30%以上，凸顯了在多階段任務中實現計算資源最優分配的極端重要性。

搜索空間規模：指數級增長的挑戰

多階段任務中的計算資源優化問題面臨著一個根本性挑戰：搜索空間隨著子任務數量呈指數級增長。以一個包含3個子任務、每個子任務有2種模型選項的軟件開發場景為例，可能的配置組合高達10?種。考慮到每次配置評估可能需要數小時的推理時間，即使使用高性能計算集群，窮舉搜索在實際應用中也完全不可行。

在2Wiki數據集上，僅考慮Qwen2.5系列的三種模型(7B/32B/72B)和LLaMA-3系列的三種模型(3B/8B/70B)，配合采樣數從1到90的變化，搜索空間已極為龐大。這種指數級增長的搜索空間，使得傳統方法在面對復雜任務時效率低下，這需要更智能的優化策略。

核心問題形式化與技術挑戰

多階段復雜任務的計算資源優化問題數學建模

AgentTTS研究的問題可以形式化定義為：給定一個由n個子任務組成的多階段復雜任務T=[T?, T?, ..., T?]，每個子任務T?有一組候選模型M?∈M?，以及固定的總計算預算B，如何最優地將預算分配到各個子任務B?{B?, B?, ..., B?}（滿足∑B?=B），選擇適當的模型M?，并有效分配資源以最大化整體性能。

這一問題面臨三大根本性挑戰：

挑戰一：組合搜索空間與高推理成本多階段任務中模型選擇和預算分配的組合搜索空間巨大，加上推理成本高昂，使得暴力搜索變得不切實際。以自動化軟件開發為例，該任務包含三個子任務：編碼、靜態測試和動態測試。

每個子任務的平均提示和生成token長度如上表所示，所有子任務共享相同的模型空間。

2WikiMultiHopQA上隨采樣和推理FLOPs增加的性能變化

以一個包含3個子任務、每個子任務有2種模型選項的軟件開發場景為例，可能的配置組合高達10?種。考慮到每次配置評估可能需要數小時的推理時間，即使使用高性能計算集群，窮舉搜索在實際應用中也完全不可行。在2Wiki數據集上，僅考慮Qwen2.5系列的三種模型(7B/32B/72B)和LLaMA-3系列的三種模型(3B/8B/70B)，配合采樣數從1到90的變化，搜索空間已極為龐大。這種指數級增長的搜索空間，使得傳統方法在面對復雜任務時效率低下，這需要更智能的優化策略。

挑戰二：子任務間相互依賴的復雜性子任務間的預算分配存在復雜的相互依賴關系。前序子任務的預算分配直接影響后續子任務的性能表現和最優配置。在2WikiMultiHopQA中，當檢索任務使用高質量模型（如Qwen2.5-72B）且采樣次數較少（1-5）時，問答任務可以使用更小的模型但增加采樣次數；但如果檢索任務使用較小模型且采樣次數較多，問答任務則需要使用更大模型來補償檢索質量的不足。這種相互依賴關系意味著：子任務不能孤立優化，必須考慮整個任務鏈的級聯效應。

挑戰三：非平滑搜索空間的優化困境測試時擴展面臨的非平滑搜索空間挑戰是傳統方法難以克服的障礙。在多階段任務的測試時擴展中，性能-預算關系呈現非平滑特性——小幅度預算調整可能導致性能大幅波動。

如上圖所示，問答子任務中采樣次數增加時，性能呈現非單調變化趨勢，存在明顯的"峰值"和"谷值"。這種非平滑性使貝葉斯優化等依賴平滑假設的方法容易陷入局部最優，而AgentTTS通過LLM的先驗知識能有效繞過次優區域。

三大核心見解：多階段任務中的測試時擴展規律

通過在四個任務類別、六個數據集上的廣泛實驗，研究團隊發現了三個關鍵見解，這些規律構成了AgentTTS的理論基礎：

見解1：不同子任務對模型大小的差異化偏好

研究發現，不同子任務對模型大小和采樣策略有著截然不同的偏好。以2WikiMultiHopQA為例：

• 檢索子任務：偏好大型模型（如Qwen2.5-72B）配以少量采樣（1-5 samples），因為這類任務需要強大的語言理解和信息檢索能力
• 問答子任務：偏好小型模型（如LLaMA-3-3B）配以大量采樣（10-50 samples），因為這類任務更注重從檢索結果中提取信息的準確性

這種差異源于任務本質：信息檢索需要模型理解復雜查詢和文檔，而信息提取則更依賴重復采樣來提高答案的可靠性。值得注意的是，當使用小模型進行檢索時，即使增加采樣次數也難以彌補模型能力的不足；而在問答任務中，小模型通過適當增加采樣次數可以達到甚至超過大模型單次推理的性能。

見解2：測試時擴展的飽和特性

研究發現，增加測試時計算資源（如采樣次數）最初會提升性能，但超過某個臨界點后，額外計算帶來的收益會急劇下降甚至導致性能下降。

如圖所示，在問答子任務中，當采樣次數增加到一定閾值后，性能開始波動甚至下降，這表明存在一個最優采樣范圍。

這一現象在不同模型上表現一致：大型模型通常在較低采樣次數時達到峰值，而小型模型則需要更多采樣才能達到最佳性能。例如，在LLaMA-3-3B上，采樣次數為20時性能達到峰值，而Qwen2.5-72B在采樣次數為3時就已達到最佳效果。這種收益遞減規律表明，盲目增加計算資源不僅浪費預算，還可能損害整體性能。

這一見解對資源分配至關重要：每個子任務都有其特定的最優采樣范圍，超出該范圍的投資會產生負回報。因此，識別每個子任務的"甜蜜點"是實現計算最優的關鍵。

見解3：跨子任務預算的動態平衡

研究發現，子任務間的預算分配存在復雜的相互依賴關系。前序子任務的預算分配直接影響后續子任務的性能表現和最優配置。

在2WikiMultiHopQA中，當檢索任務使用高質量模型（如Qwen2.5-72B）且采樣次數較少（1-5）時，問答任務可以使用更小的模型但增加采樣次數；但如果檢索任務使用較小模型且采樣次數較多，問答任務則需要使用更大模型來補償檢索質量的不足。

這種相互依賴關系意味著：子任務不能孤立優化，必須考慮整個任務鏈的級聯效應。預算分配需要在子任務間找到動態平衡點，而不是簡單地為每個子任務分配固定比例的資源。

AgentTTS 框架

整體框架與工作流程

AgentTTS的整體框架由三個核心組件構成：Agent、Archive和Environment，形成一個閉環優化系統。如下圖展示了AgentTTS的整體框架。Agent負責生成候選試驗和搜索指南，Archive存儲歷史試驗和經驗，Environment負責執行試驗并返回性能反饋。這種設計使系統能夠通過迭代學習不斷優化搜索策略。

LLM智能體用于測試時擴展預算分配的概述

以2Wiki數據集850預算挑戰為例，AgentTTS的工作流程可分為三個階段：

計算最優測試時預算分配算法

算法流程：

1. 初始化實驗檔案：L ← ?
2. 初始化候選試驗：C ← Agent.initialize()（基于見解1）
3. 獲取反饋：S ← Environment.execute(C)
4. 當未達到停止標準時：
   a. 生成探索指南：G ← Agent.generate_guidelines(C, S)（基于見解2、3）
   b. 更新實驗日志：L ← L ∪ {(C, S, G)}
   c. 生成新候選試驗：C ← Agent.generate(G, M, T, B)
   d. 獲取反饋：S ← Environment.execute(C)
5. 返回L中性能最佳的試驗

初始階段：基于上文見解1，Agent生成初始候選配置，優先選擇Qwen2.5-72B用于檢索和LLaMA-3-3B用于問答。這一階段快速確定大致正確的模型選擇方向，避免在明顯次優的配置上浪費資源。

中期階段：基于上文見解2，Agent聚焦關鍵采樣范圍，探索Qwen2.5-72B(1)/LLaMA-3-3B(15)等有潛力的配置。這一階段精確定位每個子任務的最優采樣范圍，避免過度探索低回報區域。

后期階段：基于上文見解3，Agent平衡預算分配，發現Qwen2.5-32B(5)/LLaMA-3-3B(20)等替代最優配置。這一階段在子任務間尋找最佳資源分配平衡點，實現整體性能最大化。

與傳統的超參數優化方法相比，AgentTTS通過整合三大核心見解，能夠系統性地探索搜索空間，避免陷入局部最優。在2Wiki數據集上，AgentTTS成功識別出多個最優配置，而其他方法則無法達到相同性能水平。

三大核心組件設計思想

Agent：智能搜索決策引擎

Agent是整個系統的決策核心，負責生成候選試驗和搜索指南。其工作流程分為三個階段：

• 初始階段：基于見解1生成初始候選，指導模型選擇
• 中期階段：基于見解2生成搜索指南，聚焦關鍵采樣范圍
• 后期階段：基于見解3生成平衡策略，優化預算分配

這一迭代過程通過"與執行環境的反饋驅動交互"逐步逼近最優配置。具體而言，Agent首先生成一批候選試驗（形式為(M?, B?, M?, B?, ...)），然后根據環境反饋調整后續搜索方向。

AgentTTS框架的類圖

上圖展示了AgentTTS框架的類圖，更詳細地說明了各組件之間的關系和交互方式。

初始配置生成采用"逐步降級"策略：為每個子任務選擇最大可用模型，分配最小可行樣本數（通常為1），評估總預算消耗；如果超出總預算，則逐步降低模型規模，直到找到符合預算約束的最大模型。

環境模塊：真實任務平臺評估機制

環境模塊(Environment)負責執行候選試驗并在實際任務平臺上評估其性能。該模塊的關鍵功能包括實時性能反饋和精確預算計算。

值得注意的是，研究團隊還引入了API價格作為替代預算指標，因為終端用戶往往更關注貨幣成本而非單純的計算FLOPs。實驗結果顯示，即使在API價格指標下，小模型在問答任務中仍然具有明顯優勢。這證實了在實際成本考量下，小模型的測試時擴展優勢依然顯著。

環境模塊的設計確保了搜索過程基于真實性能反饋，而非理論估計或模擬結果，從而提高了最終配置的可靠性和實用性。

歸檔模塊：知識積累與決策依據

檔案庫(Archive)存儲了搜索過程中的歷史試驗、性能反饋和決策指南，形成結構化的三元組{(C, S, G)}，其中C代表候選試驗，S代表性能反饋，G代表生成指南。

這種存儲機制使系統能夠有效利用歷史經驗，避免重復探索已知次優區域。更重要的是，檔案庫使Agent能夠生成明確的決策指南，解釋決策背后的邏輯，從而增強系統的可解釋性。

例如，在2WikiMultiHopQA任務中，檔案庫記錄了這樣的關鍵發現："對于檢索任務，72B模型使用1個樣本已經產生高Ret_F1分數，意味著額外樣本帶來的收益有限。"這些經驗被用于指導后續搜索方向。

提示工程的實用化設計

AgentTTS的提示工程設計是其成功的關鍵因素之一。系統采用差異化的提示策略，針對不同搜索階段提供針對性指導：

通過集成經驗洞察解釋AgentTTS

初始指南提示：基于見解1指導模型選擇

"針對多階段任務，不同子任務對模型大小有不同偏好。信息檢索型任務通常偏好大模型配少量采樣，而信息提取型任務通常偏好小模型配多次采樣。請根據這一原則為每個子任務選擇合適的模型。"

中期指南提示：基于見解2確定采樣范圍

"測試時擴展存在收益遞減規律。請識別每個子任務的最優采樣范圍，避免過度采樣導致性能下降。"

后期指南提示：基于見解3平衡預算分配

"子任務間存在相互依賴關系。請分析預算分配如何影響整體性能，優先投資對主指標影響最大的子任務。"

通過集成經驗見解詳細解釋AgentTTS的案例

這些提示設計將三大核心見解有效編碼為LLM可理解的指令，引導其進行高效搜索，同時保持決策過程的透明性和可解釋性。

技術優勢與性能驗證

搜索效率對比：AgentTTS vs BO vs 隨機搜索

實驗數據展示了AgentTTS在不同預算設置下的卓越性能。在六大數據集上的綜合評估結果如下：

 50次試驗中各種搜索方法的性能軌跡

實驗設置：我們在四個任務類別上評估AgentTTS：

• 檢索型問答：2WikiMultiHopQA和HotpotQA（各提供100個候選文本塊/查詢）
• 對話系統：Taskmaster和MultiWOZ
• 軟件開發：HumanEval和MBPP
• 知識密集型任務：ComplexWebQuestions

模型池包括Qwen2.5系列(1.5B-72B)、LLaMA-3系列(3B-70B)等，評估指標采用任務特定的準確率、F1分數等。

具體數據表明：

• 500預算：AgentTTS在10次試驗內達到0.7854 Gen_EM，而BO需30+次
• 850預算：AgentTTS達到0.78 Gen_EM，比次優方法高0.04
• 2000預算：AgentTTS達到0.82 Gen_EM，比基線方法高0.05+

特別是在中等預算(850)的挑戰性場景中，AgentTTS能夠有效平衡多個子任務的資源需求，找到多個帕累托最優配置。

50次試驗中各種搜索方法的性能軌跡

上圖直觀展示了各種搜索方法在50次試驗中的性能軌跡。X軸表示試驗次數，Y軸表示到每次試驗為止的最佳性能。可以看出，AgentTTS能夠快速找到高性能配置，并在較少的試驗次數內達到接近最優的性能。

消融研究：三大見解的獨立貢獻度

2WikiMultiHopQA上不同訓練規模下的搜索軌跡和消融研究

消融研究精確量化了三大核心見解的獨立貢獻：

1. 見解1（模型選擇）：負責初始方向確定，若缺失則無法達到最優配置

2. 見解2（采樣范圍）：若缺失則最優試驗延遲至第29步

3. 見解3（預算平衡）：若缺失則最優試驗延遲至第38步

這一結果證實，三大見解缺一不可，共同構成了AgentTTS高效搜索的基礎。

魯棒性驗證：非平滑搜索空間中的穩定性

AgentTTS在非平滑搜索空間中表現出色，成功率比貝葉斯優化高47%。在六大數據集上的綜合評估顯示，AgentTTS在各種任務類型中均表現出色，成功率均超過85%，而貝葉斯優化的平均成功率僅為58%。

低、中、高計算預算設置下的比較搜索結果

上圖展示了在低、中、高計算預算設置下的比較搜索結果。在低預算（500）設置中，AgentTTS能夠快速確定優先投資哪個子任務；在中等預算（850）設置中，它能夠平衡兩個子任務的資源分配；在高預算（2000）設置中，它能夠充分利用額外資源進一步提升性能。

價格預算下的測試時擴展和AgentTTS搜索軌跡

上圖展示了在價格預算（而非FLOPs）下的測試時擴展曲線和AgentTTS搜索軌跡。左側是擴展曲線，右側是相應的搜索軌跡。這證明了AgentTTS的見解在不同成本度量下都有效，具有很強的泛化能力。

魯棒性驗證：AgentTTS在各種條件下表現穩定。即使訓練數據減少，其搜索效率仍保持穩定，而傳統方法（如貝葉斯優化）性能顯著下降。六大數據集上的綜合評估顯示，AgentTTS成功率均超過85%，而貝葉斯優化的平均成功率僅為58%，證明其對數據規模變化的強大適應性。

跨任務泛化能力：四個任務類型上的統一有效性

AgentTTS在四個不同任務類型（多跳問答、對話系統、軟件開發和知識密集型任務）上的六大數據集評估中均表現出色。與次優方法相比，AgentTTS在2WikiMultiHopQA測試集上性能提升超過2%，在HotpotQA、CWQ等多跳問答任務上均優于基線方法。

這種跨任務泛化能力源于三大核心見解的普適性：不同子任務的模型偏好差異、測試時擴展的飽和特性以及子任務間的相互依賴關系，這些現象在各種多階段任務中普遍存在。

工程實踐

部署AgentTTS的四步實施框架

1. 任務分析階段：識別子任務類型與相互依賴關系

實施AgentTTS的第一步是深入分析任務結構，明確各子任務的特性與相互依賴關系。需要識別每個子任務的核心需求：是信息檢索型（偏好大模型）還是信息提取型（偏好小模型+重復采樣）。

同時，需要分析子任務間的依賴強度：前序任務的輸出質量如何影響后續任務的性能。通過小規模預實驗可以量化這種依賴關系，為后續預算分配提供依據。

例如，在2WikiMultiHopQA任務中，實驗數據表明："對于檢索任務，72B模型使用1個樣本已經產生高Ret_F1分數，意味著額外樣本帶來的收益有限。"這種洞察對后續資源分配至關重要。

2. 初始配置階段：基于見解1選擇子任務模型

根據見解1，為每個子任務選擇合適的初始模型：

• 信息檢索型子任務：優先考慮大型模型（如Qwen2.5-72B）
• 信息提取型子任務：優先考慮小型模型（如LLaMA-3-3B）

在2WikiMultiHopQA任務中，初始配置應選擇Qwen2.5-72B用于檢索和LLaMA-3-3B用于問答，而不是使用統一的模型或隨機選擇。

實施步驟為：

1. 為每個子任務選擇最大可用模型

2. 分配最小可行樣本數（通常為1）

3. 評估總預算消耗

4. 如果超出總預算，則逐步降低模型規模，直到找到符合預算約束的最大模型

3. 采樣范圍確定階段：基于見解2識別最優采樣區間

通過小規模實驗確定每個子任務的最優采樣范圍：

• 檢索任務：通常1-5 samples為合理范圍
• 問答任務：通常10-50 samples為合理范圍

避免過度采樣，因為測試時擴展存在明顯的收益遞減規律。在2WikiMultiHopQA中，LLaMA-3-3B模型的性能在采樣次數達到50左右時達到峰值，之后繼續增加采樣次數會導致性能下降。

具體數據顯示："性能從5到15個樣本有所提升(Gen_EM升至約0.78)，但在超過15個樣本后趨于平穩或下降。"這為確定采樣范圍提供了實證依據。

4. 預算平衡優化階段：基于見解3實現整體性能最大化

通過迭代實驗平衡各子任務的預算分配。關鍵策略包括：

• 優先投資對主指標影響最大的子任務
• 從對性能影響較小的子任務重新分配預算
• 尋找子任務間的最佳平衡點

例如，在2WikiMultiHopQA任務中，實驗表明："由于計算預算共享且子任務相互依賴，應優先考慮對Gen_EM影響最大的子任務（這里是QA），并嘗試從不太敏感的子任務（如檢索）重新分配預算，以平衡模型成本和采樣次數。"

常見陷阱與規避方法

陷阱1：忽視子任務間的相互依賴關系

現象：單獨優化每個子任務，導致整體性能次優
原因：前序子任務的輸出質量直接影響后續子任務的表現
規避方法：實施端到端評估，關注整體性能指標而非子任務指標

陷阱2：過度依賴大模型

現象：在所有子任務中優先選擇最大可用模型
原因：直覺認為"越大越好"，忽視測試時擴展的收益遞減規律
規避方法：利用見解2確定每個子任務的最優模型規模，平衡模型大小與采樣次數

陷阱3：在非平滑搜索空間中陷入局部最優

現象：在多階段任務測試時擴展中，性能-預算關系呈現非平滑特性，小幅度預算調整可能導致性能大幅波動，問答子任務中采樣次數增加時性能呈現非單調變化趨勢，存在明顯的"峰值"和"谷值"。
原因：傳統優化方法（如貝葉斯優化）依賴平滑假設，在非平滑曲面上容易陷入局部最優
規避方法：利用LLM的先驗知識繞過次優區域。研究表明："LLM-based方法利用先驗超參數調優知識繞過次優區域，實現更好的搜索性能。" 

850預算挑戰案例解析

850預算挑戰全流程解析：

1. 問題本質：2WikiMultiHopQA任務中，檢索任務(Qwen2.5-72B, 1 sample)消耗814單位，QA任務(LLaMA-3-3B, 50 samples)需52單位，總預算850

2. AgentTTS三階段解決：

•  初始階段：基于見解1，確認檢索用大模型，QA用小模型
• 中期階段：基于見解2，確定QA任務最優采樣范圍為10-50
• 后期階段：基于見解3，發現可降級檢索模型(Qwen2.5-32B, 5)釋放預算給QA

3. 最終方案：("Qwen2.5-32B", 5, "LLaMA-3.2-3B", 20)，Gen_EM達0.78，比次優方法高0.04

4. 關鍵啟示：子任務間存在級聯影響，必須全局優化而非孤立優化

2Wiki數據集上850計算預算下AgentTTS與AgentHPO的完整試驗生成和決策指南比較

上圖詳細比較了AgentTTS和AgentHPO在2Wiki數據集上850計算預算下的表現。AgentTTS能夠更有效地識別關鍵模式，避免在次優配置上浪費資源，而AgentHPO則在搜索空間中進行了更隨機的探索。

與AgentHPO的本質區別：AgentHPO專為超參數優化設計，未考慮多階段任務中子任務的異質性。它假設所有參數同等重要，而AgentTTS通過三大見解明確區分了不同子任務的優化特性：

1. 模型選擇優先級（見解1）

2. 采樣范圍邊界（見解2）

3. 預算分配的級聯效應（見解3）

這使AgentTTS能更精準地定位搜索空間中的高價值區域。對比AgentHPO僅達到0.68的Gen_EM，性能提升8.3%。關鍵啟示在于：預算分配必須考慮子任務間的級聯影響，而非孤立優化每個任務。

安全考量與部署挑戰

安全風險與應對策略

盡管AgentTTS在性能優化方面表現出色，但在實際部署中需要考慮潛在的安全風險。研究指出："LLM容易受到對抗性攻擊，如越獄、后門注入和成員推斷攻擊，這增加了AgentTTS的安全風險。"

具體風險包括：

• 重復采樣放大風險：AgentTTS依賴于對基礎LLM的重復采樣，這不僅會放大其優勢，也會放大其局限性
• 幻覺增強風險：測試時擴展整合可能會加劇大型語言模型中的幻覺問題
• 安全漏洞傳播：一個子任務中的安全漏洞可能影響整個任務鏈

應對策略：

• 實施嚴格的輸入驗證和過濾機制
• 引入多層驗證機制，特別是對關鍵決策點
• 定期進行安全審計和滲透測試
• 限制敏感任務中的采樣次數，減少攻擊面

實際部署考量

在實際部署AgentTTS時，還需考慮以下因素：

測試時擴展實現機制：AgentTTS采用重復采樣與融合(Repeated Sampling with Fusion)的實現機制。這種方法通過生成多個輸出并使用獎勵模型進行聚合，相比順序擴展(Sequential Scaling)具有更好的可擴展性和更廣泛的解決方案覆蓋。研究表明："并行擴展更適合復雜任務，因為它具有更好的可擴展性和更廣泛的解決方案覆蓋。"

成本指標選擇：在實際商業應用中，應考慮使用API價格作為成本指標，而非單純的計算FLOPs。實驗數據顯示，即使在此指標下，小模型在問答任務中仍然具有明顯優勢，這為實際成本優化提供了重要依據。

實時性能監控：運營時，還可以探索實時性能監控與動態預算再分配機制。根據子任務的實時表現動態調整后續任務的預算分配，進一步提升整體性能。研究表明："早期子任務的擴展策略直接影響后續階段"，這為動態調整提供了理論基礎。

總結：AgentTTS的核心價值主張

AgentTTS代表了測試時計算資源優化的新范式，其核心價值在于三大方面：

首先，三大核心見解指導下的高效搜索機制突破了傳統方法的局限。通過理解"不同子任務對模型大小的差異化偏好"、"測試時擴展的飽和特性"和"跨子任務預算的動態平衡"，AgentTTS能夠在指數級增長的搜索空間中快速找到接近最優的配置。這些見解指導搜索的不同階段：見解1選擇模型，見解2聚焦采樣，見解3平衡預算使用。

其次，可解釋性與魯棒性的完美結合使AgentTTS既提供清晰的決策理由，又能適應復雜的非平滑搜索空間。系統能夠生成明確的決策指南，例如"對于檢索任務，較大的模型表現出色...因此進一步探索應傾向于大型Qwen2.5-72B模型，盡管其采樣次數較低。"這種透明性增強了用戶對系統決策的信任，同時使調試和優化更加高效。

最后，從理論到實踐的完整閉環驗證了AgentTTS的實用性。在六大數據集上的綜合評估證實了其在搜索效率、最終性能和魯棒性方面的優勢，為多階段復雜任務的計算資源優化提供了可靠解決方案。

AgentTTS不僅解決了當前的資源優化挑戰，還為未來多階段任務的智能計算分配提供了方法論框架，有望成為推動LLM高效部署的新基準。未來，高效利用計算資源將成為AI系統設計的關鍵考量。