編者按： 我們今天為大家?guī)?lái)的文章，作者的觀點(diǎn)是：GPT-5 通過(guò)引入“智能路由器”架構(gòu)，實(shí)現(xiàn)了按需調(diào)用不同專(zhuān)家模型的動(dòng)態(tài)協(xié)作機(jī)制，標(biāo)志著大模型正從“全能單體架構(gòu)”邁向“專(zhuān)業(yè)化協(xié)同架構(gòu)”的新范式。

文章深入剖析了 GPT-5 路由機(jī)制的四大決策支柱 —— 對(duì)話類(lèi)型、任務(wù)復(fù)雜度、工具需求與用戶顯性意圖，并對(duì)比了其相較于 GPT-4、Toolformer 及早期插件系統(tǒng)的突破性進(jìn)步。作者還詳細(xì)拆解了該架構(gòu)的技術(shù)實(shí)現(xiàn)路徑、核心優(yōu)勢(shì)（如響應(yīng)速度提升、資源成本優(yōu)化、可解釋性）以及潛在挑戰(zhàn)（如延遲疊加、路由誤判、調(diào)試?yán)щy）。尤為難得的是，文中還提供了基于開(kāi)源工具構(gòu)建輕量級(jí) GPT-5 式路由器的可行方案，為開(kāi)發(fā)者指明了實(shí)踐方向。

作者 | Bhavishya Pandit

編譯 | 岳揚(yáng)

初次與 GPT-5 對(duì)話時(shí)，我就意識(shí)到它不僅是在回答問(wèn)題，更在精心選擇回應(yīng)方式。其背后的智能“路由器”會(huì)將每個(gè)問(wèn)題分配給最合適的處理模塊：輕量級(jí)核心模型瞬間處理各類(lèi)簡(jiǎn)單問(wèn)題和總結(jié)摘要類(lèi)任務(wù)，重量級(jí)的 GPT-5 思考模型則專(zhuān)攻復(fù)雜推理，而需要工具支持時(shí)，“路由器”會(huì)啟動(dòng)計(jì)算器或外部檢索功能。

這種架構(gòu)變革的意義十分重大。如今的 GPT-5 不再是一個(gè)單一系統(tǒng)，更像是由“路由器”協(xié)調(diào)的專(zhuān)家網(wǎng)絡(luò)。在本期《Where’s The Future in Tech》中，我將解析其運(yùn)行機(jī)制，對(duì)比歷代模型的差異，并探討其中預(yù)示的人工智能設(shè)計(jì)新方向。

01 為什么路由機(jī)制現(xiàn)在非常重要？

坦白說(shuō)，早在 GPT-4 面世時(shí)，我們就已發(fā)現(xiàn)一個(gè)比較嚴(yán)重的問(wèn)題 —— 無(wú)論是創(chuàng)作莎士比亞風(fēng)格的詩(shī)歌還是檢查是否有拼寫(xiě)錯(cuò)誤，人們都在使用同一個(gè)龐然大物。這簡(jiǎn)直就是用火箭發(fā)動(dòng)機(jī)烤面包 —— 雖然可行，但既浪費(fèi)資源、成本高昂，又常常大材小用。

GPT-5 的路由機(jī)制徹底改變了這種局面。它不再每次都啟動(dòng)火箭引擎，而是通過(guò)路由系統(tǒng)快速分析請(qǐng)求并分配到合適的處理路徑：

• 簡(jiǎn)單閑聊？ → 分流至快速的輕量級(jí)模型
• 復(fù)雜推理？ → 導(dǎo)向 GPT-5 的核心思考模塊
• 數(shù)理邏輯？ → 轉(zhuǎn)至 symbolic tool（譯者注：利用傳統(tǒng)編程和數(shù)學(xué)規(guī)則來(lái)保證結(jié)果精確性的工具）或計(jì)算器
• 結(jié)構(gòu)化任務(wù)（SQL、API）？ → 分配給專(zhuān)用任務(wù)執(zhí)行器

02 路由機(jī)制的四大支柱

GPT-5 在決定啟動(dòng)哪個(gè)“大腦”時(shí)究竟考量哪些因素？通過(guò)日常使用并研讀 OpenAI 的技術(shù)文檔后，我發(fā)現(xiàn)其核心邏輯可歸納為四大要素：對(duì)話類(lèi)型（conversation type）、任務(wù)復(fù)雜度（task complexity）、工具需求（tool needs）及顯性的用戶意圖（explicit user intent）。

1. 對(duì)話類(lèi)型

當(dāng)前對(duì)話是隨意閑聊，還是代碼審查、數(shù)學(xué)證明或故事草稿等結(jié)構(gòu)化任務(wù)？GPT-5 已學(xué)會(huì)為不同對(duì)話類(lèi)型匹配最優(yōu)的處理模型。例如關(guān)于周末計(jì)劃的閑聊會(huì)啟用高速響應(yīng)模式，而分步驟推導(dǎo)定理則會(huì)立即激活深度思考模式。

2. 任務(wù)復(fù)雜度

當(dāng)指令看起來(lái)比較復(fù)雜時(shí)，GPT-5 會(huì)立即調(diào)用重量級(jí)推理模型。用技術(shù)術(shù)語(yǔ)來(lái)說(shuō)，路由器能識(shí)別出你話語(yǔ)中隱含的、關(guān)于任務(wù)難度的細(xì)微信號(hào)，并分配更強(qiáng)大的模型來(lái)處理。正如 AIMultiple 所指：GPT-5采用多模型混合架構(gòu)，根據(jù)提示詞復(fù)雜度與響應(yīng)速度需求進(jìn)行路由 —— 既避免在簡(jiǎn)單任務(wù)上耗費(fèi)算力，也確保復(fù)雜需求得到充分解決。

3. 工具需求

一旦指令中出現(xiàn)“計(jì)算”、“查詢”或“起草郵件”等關(guān)鍵詞，路由器會(huì)自動(dòng)調(diào)度配備專(zhuān)用工具的模型。與早期需手動(dòng)啟用插件的系統(tǒng)不同，現(xiàn)在的 GPT-5 會(huì)隱形處理這一過(guò)程：若查詢明顯需要執(zhí)行代碼或訪問(wèn)數(shù)據(jù)庫(kù)，系統(tǒng)將自動(dòng)移交專(zhuān)屬模型。早期測(cè)試顯示，憑借更精準(zhǔn)的路由與專(zhuān)業(yè)化分工，GPT-5 的工具調(diào)用錯(cuò)誤率較 GPT-4 降低近 50%。

4. 顯性的用戶意圖

一般情況下，路由器會(huì)直接響應(yīng)用戶指令。若輸入“請(qǐng)深入思考”，系統(tǒng)會(huì)立即啟動(dòng)深度推理模式。筆者測(cè)試過(guò)“快速總結(jié)”與“深度剖析”等具有細(xì)微差異的不同措辭，能清晰觀察到 GPT-5 在實(shí)時(shí)切換處理模式 —— 這仿佛解鎖了新的“軟指令”層，用戶措辭對(duì)路由決策的影響程度，已不亞于系統(tǒng)內(nèi)置的啟發(fā)式規(guī)則。

03 超越 Toolformer 與內(nèi)置插件的一次飛躍

有些人可能還記得 Toolformer[1]：那是 2023 年的一篇論文，這項(xiàng)研究讓語(yǔ)言模型在訓(xùn)練中自學(xué)通過(guò) API 調(diào)用外部工具。這個(gè)想法很聰明，但卻是靜態(tài)的 —— 模型僅能從數(shù)據(jù)集中的信號(hào) tokens 學(xué)習(xí)固定的規(guī)則，比如“此處使用計(jì)算器”。部署完成后，它就無(wú)法超越自己的記憶范圍進(jìn)行適配。

GPT-5 的路由器則截然不同，它能在運(yùn)行時(shí)動(dòng)態(tài)做出決策。它不會(huì)機(jī)械地復(fù)述預(yù)設(shè)指令，而是像一位實(shí)時(shí)在線的助手 —— 聽(tīng)到你的問(wèn)題后，能當(dāng)場(chǎng)判斷：“我現(xiàn)在應(yīng)該調(diào)用計(jì)算器了。”

ChatGPT 曾經(jīng)的插件同樣存在類(lèi)似的局限：用戶必須手動(dòng)啟用插件，并明確指示“用 Wolfram Alpha 進(jìn)行數(shù)學(xué)計(jì)算”。GPT-5 則用一個(gè)內(nèi)置的策略層取代了這種模式。只要用戶查詢需要調(diào)用工具，路由器就會(huì)直接將請(qǐng)求路由到已連接相應(yīng)工具的合適模型。即便是新 API 中推出的自定義工具，其后端也依賴這套路由系統(tǒng)。

簡(jiǎn)言之，GPT-5 融合了 Toolformer 的自主工具調(diào)用能力與 ChatGPT 的插件生態(tài)，但在中間加入了一位實(shí)時(shí)的“交通指揮員”。如果說(shuō) GPT-4 像一臺(tái)獨(dú)立的超級(jí)計(jì)算機(jī)，那么 GPT-5 則更像是由路由器協(xié)調(diào)的一組云端腦處理單元（cloud of brain processes）。如果你曾經(jīng)調(diào)試過(guò)微服務(wù)，立刻就能明白這個(gè)比喻為何如此貼切。

04 構(gòu)建屬于你自己的 GPT-5 式路由器

現(xiàn)在，我知道你可能會(huì)想：“這個(gè)概念很酷，但我到底該怎么自己動(dòng)手做出類(lèi)似的東西呢？”幸運(yùn)的是，你并不需要像 OpenAI 那樣擁有無(wú)限算力才能?chē)L試。借助當(dāng)前的開(kāi)源生態(tài)，你完全可以在自己的機(jī)器上搭建一個(gè)輕量級(jí)的 GPT-5 式路由器。以下是一種可行的實(shí)現(xiàn)思路：

1. 用戶意圖與請(qǐng)求復(fù)雜度識(shí)別

路由器必須首先理解請(qǐng)求的類(lèi)型：是快速的事實(shí)信息查詢、需要大量推理過(guò)程的數(shù)學(xué)證明題、還是圖像生成需求，還是需要瀏覽網(wǎng)頁(yè)呢？一個(gè)輕量級(jí)的分類(lèi)器（甚至小型 LLM）即可完成這項(xiàng)工作。

2. 不同模式間的動(dòng)態(tài)路由

路由器會(huì)智能地在不同模式間進(jìn)行切換，而非一致地處理所有查詢：

• 快速模式：將查詢發(fā)送給低延遲模型以獲取快速響應(yīng)
• 思考模式：?jiǎn)⒂猛评?token 進(jìn)行更長(zhǎng)時(shí)間的思考，以便處理需要深度邏輯分析、權(quán)衡多種因素、或通過(guò)多個(gè)步驟才能解決的復(fù)雜問(wèn)題
• 備用模式：當(dāng) GPU 顯存緊張時(shí)，就將請(qǐng)求路由到更小的備用模型，從而確保系統(tǒng)永不宕機(jī)

3. 底層技術(shù)架構(gòu)

以下是一套可落地的開(kāi)源方案：

• 核心推理引擎 + 資源限制機(jī)制（thinking budget） → NVIDIA[2] Nemotron Nano V2 9B（一款混合了 Mamba 與 Transformer 架構(gòu)的模型，兼容 RTX 顯卡，支持 token 使用量調(diào)控）
• 多模態(tài)理解 → Nemotron Nano VL 8B（支持文本 + 圖像輸入）
• 圖像生成 → Flux Dev（視覺(jué)內(nèi)容生成）
• 智能體框架 → CrewAI[3]（任務(wù)管理與工作流管理）
• 記憶模塊 → Mem0[4]（跨對(duì)話上下文持久化）

僅憑該技術(shù)棧，我們就能構(gòu)建出與 GPT-5 底層運(yùn)作極為相似的路由器系統(tǒng)。

4. 通過(guò)資源限制機(jī)制（thinking budget）控制成本

并非每個(gè)指令都需要“耗費(fèi)萬(wàn)枚 token 的深度思考”。通過(guò)限制單次請(qǐng)求的推理 token 上限，可大幅降低開(kāi)銷(xiāo)。采用這種方法的團(tuán)隊(duì)報(bào)告稱(chēng)，該方法最高可節(jié)省 60% 成本，因?yàn)槁酚善髦辉谡嬲枰牡胤酵度胨懔Α?/p>

5. 面向生產(chǎn)的 API

NVIDIA 已通過(guò) NIM API 和 Hugging Face 提供這些模型。這意味著你無(wú)需從頭訓(xùn)練，現(xiàn)在即可接入模型開(kāi)始實(shí)驗(yàn)。

05 GPT-5 路由器的核心優(yōu)勢(shì)

• 效率與速度

• 大多數(shù)查詢默認(rèn)交給快速模型處理，大幅節(jié)省算力
• 輕量級(jí)任務(wù)不再占用深度推理引擎資源
• OpenAI 曾暗示，當(dāng)系統(tǒng)負(fù)載過(guò)高時(shí)，“mini”模型可以接手低優(yōu)先級(jí)的用戶查詢，實(shí)現(xiàn)彈性擴(kuò)展

• 響應(yīng)速度

• 對(duì)于基礎(chǔ)問(wèn)題，GPT-5 能“即時(shí)”作答，在基準(zhǔn)測(cè)試中通常比 GPT-4 Turbo 快 2–3 倍
• 自動(dòng)路由機(jī)制意味著用戶無(wú)需手動(dòng)切換模型 —— 需要速度時(shí)自動(dòng)給出快速回答，需要深度時(shí)則提供深入分析
• 保留“快速模式/思考模式”的手動(dòng)切換開(kāi)關(guān)，滿足用戶精準(zhǔn)控制的需求

• 可解釋性與模塊化設(shè)計(jì)

• 每個(gè)子模型都專(zhuān)注于特定領(lǐng)域，支持獨(dú)立迭代升級(jí)
• 錯(cuò)誤定位更精準(zhǔn)：可區(qū)分“路由選擇失誤”與“模型推理錯(cuò)誤”
• 這就像 AI 流水線中的微服務(wù)架構(gòu) —— 模塊化、職責(zé)清晰、更易維護(hù)

• 專(zhuān)業(yè)化 = 更高質(zhì)量

• 子模型針對(duì)特定場(chǎng)景進(jìn)行了專(zhuān)項(xiàng)優(yōu)化：例如，“thinking” 模型用于多步驟推理，“main” 模型用于簡(jiǎn)潔準(zhǔn)確的知識(shí)輸出
• 兼顧兩者優(yōu)勢(shì)：兼具 GPT-4 級(jí)別的知識(shí)深度與 GPT-3 級(jí)別的響應(yīng)速度
• 支持對(duì)話中無(wú)縫切換模式，比如從頭腦風(fēng)暴無(wú)縫切換到代碼處理，無(wú)需用戶顯式指令

06 隱憂與挑戰(zhàn)：局限性分析

• 調(diào)試?yán)щy

• 錯(cuò)誤溯源困難：?jiǎn)栴}究竟源于路由器選錯(cuò)模型，還是所選模型自身的失誤？
• 調(diào)試過(guò)程更接近分布式系統(tǒng)，而非單一單體架構(gòu)
• 需借助專(zhuān)用追蹤工具（借鑒 Amazon Bedrock 框架）記錄每個(gè)環(huán)節(jié)：路由決策、工具調(diào)用、中間結(jié)果、最終的輸出整合
• 任何環(huán)節(jié)出錯(cuò)都意味著“需要檢查的動(dòng)態(tài)部件更多了”

• 延遲疊加

• 每一次額外的跳轉(zhuǎn)（例如主模型→思考模型→數(shù)學(xué)工具→返回計(jì)算結(jié)果→最終答案）都會(huì)增加延遲
• 簡(jiǎn)單問(wèn)題通常會(huì)繞過(guò)中間層，但復(fù)雜查詢可能會(huì)明顯變慢
• Amazon 的多智能體報(bào)告就曾警告過(guò)這一點(diǎn)：串行推理鏈越長(zhǎng)，開(kāi)銷(xiāo)越大
• 緩解方案：并行調(diào)用（parallelizing calls） + 結(jié)果緩存（caching results），但多工具工作流的響應(yīng)速度仍可能低于單次 GPT-4 調(diào)用

• 資源成本

• 多個(gè)小型模型有時(shí)反而比單個(gè)大模型消耗更多算力，必須精細(xì)調(diào)整路由器的閾值，確保邊界任務(wù)被分配給更快的模型
• 第三方研究發(fā)現(xiàn)，ChatGPT-5 在某些查詢中使用的 token 數(shù)量是 GPT-4 的兩倍，原因在于編排過(guò)程帶來(lái)的額外開(kāi)銷(xiāo)
• OpenAI 也承認(rèn) GPT-5 雖追求效率，但可能“更耗算力”
• 本質(zhì)是更智能的資源分配與更高的系統(tǒng)復(fù)雜度之間的權(quán)衡

• 用戶體驗(yàn)偏差

• 一些用戶已經(jīng)注意到語(yǔ)氣差異：思考模式（正式、嚴(yán)謹(jǐn)） vs 主模式（自然、流暢）
• 通過(guò)“人格過(guò)濾器”對(duì)輸出進(jìn)行風(fēng)格對(duì)齊，確保用戶感知到的始終是一個(gè)連貫、統(tǒng)一、有辨識(shí)度的對(duì)話伙伴
• 若未經(jīng)調(diào)優(yōu)，對(duì)話可能感覺(jué)像多個(gè)風(fēng)格略有差異的 AI 在輪流發(fā)言
• 正如一句調(diào)侃所說(shuō)：“GPT-5 的大腦很聰明，但可能存在身份認(rèn)知危機(jī)”

• 路由失誤

• 路由器有時(shí)會(huì)誤判：該用“深度模式”的問(wèn)題卻選擇了“快速模式”，反之亦然
• 通過(guò)“模型切換”事件進(jìn)行檢測(cè)（例如用戶點(diǎn)擊“重新生成”答案時(shí)）
• 最終補(bǔ)救措施仍是用戶點(diǎn)擊“重新生成”，然后期待路由器作出不同選擇
• 每次切換都需重新加載靜態(tài)提示詞，既增加延遲，又增加 token 消耗
• 實(shí)際應(yīng)用中，回答過(guò)程中的模式切換會(huì)破壞“流暢對(duì)話”的體驗(yàn)

07 這一技術(shù)將如何影響 AI 的未來(lái)發(fā)展？

GPT-5 的“路由器 + 多模型”架構(gòu)講述了一個(gè)更大的故事：AI 正在告別“一刀切”的單一模型時(shí)代。研究人員長(zhǎng)期以來(lái)一直在探討模塊化與 Agentic AI，而 GPT-5 正是這一轉(zhuǎn)變正在發(fā)生的最清晰例證之一。正如某份分析所言，GPT-5 的“多智能體架構(gòu)（路由器 + 模型）”暗示了我們未來(lái)可能會(huì)如何設(shè)計(jì)模塊化的 AI 系統(tǒng)，來(lái)突破單一模型的局限。用通俗的話說(shuō)，未來(lái)大語(yǔ)言模型系統(tǒng)將由專(zhuān)家網(wǎng)絡(luò)構(gòu)成，而不是依賴一個(gè)“全能的”通用模型。

未來(lái)的 AI 很可能會(huì)變得更像多個(gè)智能體協(xié)同工作，而非由單一模型包攬一切。我們或許很快會(huì)看到更加細(xì)粒度的專(zhuān)家模型（一些實(shí)驗(yàn)室已在測(cè)試“100-expert LLMs”），由一個(gè)中央控制器協(xié)調(diào)調(diào)度。GPT-5 已經(jīng)證明，只要硬件持續(xù)進(jìn)化，這種因?yàn)閰f(xié)調(diào)過(guò)程而產(chǎn)生的開(kāi)銷(xiāo)是值得的。因此，如果 GPT-6 或 Gemini Next 配備了一個(gè)超強(qiáng)路由器，管理數(shù)十個(gè)子模型，或者插件演變?yōu)橛稍Ｐ停╩etamodel）按需調(diào)用的自主“智能體”，你也不必感到驚訝。

前方的挑戰(zhàn)

當(dāng)然，模塊化并非沒(méi)有代價(jià)。GPT-5 也凸顯了我們必須解決的幾大挑戰(zhàn)：

• 未來(lái)需要統(tǒng)一的模型，最終將各種專(zhuān)業(yè)化角色融合進(jìn)一個(gè)“大腦”中。
• 通過(guò)更智能的緩存技術(shù)，來(lái)避免路由過(guò)程中因重復(fù)加載靜態(tài)提示詞而產(chǎn)生的額外開(kāi)銷(xiāo)。
• 需要更強(qiáng)大的溯源工具，來(lái)幫助開(kāi)發(fā)者調(diào)試由多個(gè)智能體協(xié)同完成的復(fù)雜對(duì)話。
• 采用更高級(jí)的路由器訓(xùn)練方法（例如強(qiáng)化學(xué)習(xí)），讓路由器真正學(xué)會(huì)最優(yōu)的決策策略。

盡管如此，GPT-5 的設(shè)計(jì)清楚地表明了一點(diǎn)：模塊化已成定局。這種架構(gòu)正反映了人類(lèi)組織知識(shí)的方式——由專(zhuān)業(yè)化專(zhuān)家團(tuán)隊(duì)協(xié)作完成復(fù)雜任務(wù)。如今，AI 終于開(kāi)始迎頭趕上。

08 Final thoughts

在使用 GPT-5 數(shù)月之后，我既感到興奮，也心懷敬畏。實(shí)時(shí)路由器已將這個(gè)模型從一個(gè)孤獨(dú)的“天才”，轉(zhuǎn)變?yōu)橐粋€(gè)由多個(gè)專(zhuān)家組成的協(xié)作集體。 路由器和專(zhuān)家模型的分工架構(gòu)在帶來(lái)效率和能力提升的同時(shí)，也帶來(lái)了一個(gè)挑戰(zhàn)：如何讓這個(gè)分布式系統(tǒng)中的所有部件保持協(xié)調(diào)一致、同步工作。就像樂(lè)隊(duì)成員必須聽(tīng)從指揮、節(jié)奏統(tǒng)一，否則再厲害的樂(lè)手也奏不出和諧樂(lè)章。

最讓我興奮的是，GPT-5 證明了人工智能不必是一個(gè)單一、龐大的整體。我們可以實(shí)現(xiàn)“按需專(zhuān)業(yè)化” —— 系統(tǒng)不僅能學(xué)會(huì)如何學(xué)習(xí)，還能針對(duì)每個(gè)查詢動(dòng)態(tài)調(diào)整自己的策略。作為一名開(kāi)發(fā)者，我甚至學(xué)會(huì)了如何“與路由器對(duì)話”—— 通過(guò)類(lèi)似 “Auto mode” 或 “Fast” 這樣的提示詞來(lái)引導(dǎo)它。展望未來(lái)，如果 GPT-6 的表現(xiàn)更像一個(gè)“心智社會(huì)”（譯者注：society of minds，是一個(gè)在人工智能和認(rèn)知科學(xué)領(lǐng)域非常著名且富有詩(shī)意的概念，由 Marvin Minsky 提出。它認(rèn)為智能并非源于一個(gè)單一的、統(tǒng)一的處理器，而是由大量簡(jiǎn)單的、各司其職的“智能體”通過(guò)交互、協(xié)作與競(jìng)爭(zhēng)涌現(xiàn)出來(lái)的。），我也不會(huì)感到意外。但就目前而言，GPT-5 的路由機(jī)制已經(jīng)是一個(gè)令人著迷的里程碑，我很慶幸自己有機(jī)會(huì)深入探索它。

END

本期互動(dòng)內(nèi)容 ??

?你覺(jué)得 AI 的“人格一致性”重要嗎？如果一次對(duì)話中因?yàn)檎{(diào)用不同模塊導(dǎo)致語(yǔ)氣不同，你會(huì)覺(jué)得割裂嗎？

文中鏈接

[1]??https://arxiv.org/abs/2302.04761??

[2]??https://www.nvidia.com/en-in/??

[3]??https://www.crewai.com/??

[4]??https://mem0.ai/??

本文經(jīng)原作者授權(quán)，由 Baihai IDP 編譯。如需轉(zhuǎn)載譯文，請(qǐng)聯(lián)系獲取授權(quán)。

原文鏈接：

??https://bhavishyapandit9.substack.com/p/gpt5-router-a-deep-dive??