圖片

• AI賦能棧AI Enablement Stack，構(gòu)建更全面可用的AI Agent
• AI賦能棧AI Enablement Stack，更全面的AI Agent技術(shù)棧
• 這個(gè)五層結(jié)構(gòu)的AI Enablement Stack，把真正可用的AI Agent技術(shù)棧講透了
• 理解AI賦能棧AI Enablement Stack，AI Agent開發(fā)與構(gòu)建少走彎路
• AI Enablement Stack：全面分類與生態(tài)補(bǔ)缺，推動(dòng)AI Agents潛力最大化

盡管已在AI開發(fā)領(lǐng)域投入了數(shù)十億美元，但編碼Agents仍受制于原始的工具。AI技術(shù)堆棧不斷涌現(xiàn)，卻沒有一個(gè)是專門為編碼Agents脫穎而出量身打造的。

如今，這些Agents面臨著兩大關(guān)鍵挑戰(zhàn)。其一，Agents的編碼方式就如同人類使用記事本一樣——沒有集成開發(fā)環(huán)境（IDE）的輔助。這導(dǎo)致了效率低下的問題：迭代次數(shù)增多、token消耗增大以及結(jié)果缺乏一致性。

其二，大多數(shù)Agents缺乏操控基礎(chǔ)設(shè)施（daytona稱之為“人工智能工作空間”）以動(dòng)態(tài)測(cè)試和驗(yàn)證代碼的能力。相反，它們大多僅限于執(zhí)行基本的文件操作，如讀取和寫入代碼，卻無(wú)法在實(shí)際環(huán)境中執(zhí)行、測(cè)試或驗(yàn)證其輸出結(jié)果。這種缺乏運(yùn)行時(shí)上下文的情況嚴(yán)重影響了它們的效能。

GitHub Copilot、Cursor或Cody等AI編碼助手，會(huì)在你工作時(shí)建議代碼改進(jìn)。這些工具功能足夠強(qiáng)大，但它們面臨很大的限制：通常只能在單個(gè)文件中運(yùn)行，并且無(wú)法訪問您的完整開發(fā)環(huán)境。這限制了其完全理解和模擬項(xiàng)目行為的能力。

即使Cursor等工具引入了“影子工作區(qū)（shadow workspaces）”等功能，AI仍然無(wú)法完全訪問動(dòng)態(tài)、全面的環(huán)境，以在不中斷你工作的情況下安全地進(jìn)行測(cè)試和迭代。

為了改變這種情況，我們需要一種新的解決方案：與Agents無(wú)關(guān)的中間件基礎(chǔ)設(shè)施。這種中間件充當(dāng)一個(gè)強(qiáng)大的基于云的系統(tǒng)，可以動(dòng)態(tài)地為AI Agents創(chuàng)建隔離的工作空間——或者說(shuō)沙箱。

可以將其視為漫威電影宇宙中的多元宇宙，每個(gè)新的變化都會(huì)衍生出自己的時(shí)間線，在這種情況下，就是一個(gè)沙箱。這種設(shè)置允許人工智能在不同的沙箱中獨(dú)立運(yùn)行實(shí)驗(yàn)、探索解決方案并進(jìn)行迭代，而不會(huì)影響您的主要項(xiàng)目。當(dāng)一條路徑被證明有價(jià)值時(shí)，人工智能可以將那些經(jīng)過測(cè)試的解決方案無(wú)縫地集成回你的代碼中。

這種中間件可動(dòng)態(tài)創(chuàng)建隔離工作區(qū)或沙箱供AI Agent運(yùn)行，讓AI能在不影響主項(xiàng)目的情況下進(jìn)行實(shí)驗(yàn)、探索和迭代，找到有價(jià)值方案后無(wú)縫集成回代碼。

它能解決AI編碼代理面臨的有限上下文和實(shí)驗(yàn)干擾問題，使編碼代理從以文件為中心的助手轉(zhuǎn)變?yōu)槟塥?dú)立分析解決問題的合作伙伴，并且相比傳統(tǒng)云平臺(tái)，其通過自動(dòng)化高效資源管理降低成本和工作負(fù)載。實(shí)現(xiàn)該中間件需具備動(dòng)態(tài)環(huán)境管理、全面系統(tǒng)交互、工作區(qū)知識(shí)圖譜和獨(dú)立AI身份等功能。

讓Agents突破文件操作限制，利用動(dòng)態(tài)工作空間進(jìn)行測(cè)試和完善的重要性。若不具備這些能力，AI Agents將受到掣肘，無(wú)法驗(yàn)證自身的工作成果，也難以確保取得成功的結(jié)果。

為應(yīng)對(duì)這些挑戰(zhàn)，daytona繪制出了人工智能賦能棧AI Enablement Stack。這一全面的分類體系對(duì)AI Agents有效運(yùn)行所必需的工具和平臺(tái)進(jìn)行了分類，同時(shí)突出了當(dāng)前生態(tài)系統(tǒng)中必須填補(bǔ)的關(guān)鍵空白，只有這樣才能讓編碼Agents充分發(fā)揮其潛力。

AI Enablement Stack的分類體系明確了AI Agents運(yùn)行所需關(guān)鍵工具與平臺(tái)，值得對(duì)智能體感興趣的朋友尤其是產(chǎn)品經(jīng)理和開發(fā)人員全面理解和掌握。

為什么需要人工智能賦能棧？

大多數(shù)現(xiàn)有的人工智能技術(shù)堆棧以列表形式呈現(xiàn)——將眾多公司歸類在通用的標(biāo)題之下，通常是為了勾勒競(jìng)爭(zhēng)格局，而非針對(duì)特定用例來(lái)映射解決方案。這些棧雖提供了一定的清晰度，但卻未能滿足為現(xiàn)實(shí)世界應(yīng)用構(gòu)建人工智能系統(tǒng)的實(shí)際需求。

daytona預(yù)見，在未來(lái)，無(wú)論是公司還是個(gè)人都將創(chuàng)建自己的專屬AI Agents，以滿足多樣化的用例需求。這些Agents可用于解決內(nèi)部挑戰(zhàn)，也可能融入更大的系統(tǒng)之中，從而提升客戶體驗(yàn)，讓產(chǎn)品或服務(wù)變得更加高效、易用。

這種理念很簡(jiǎn)單，因?yàn)槭澜缯叨華gents的未來(lái)邁進(jìn)。隨著這一轉(zhuǎn)變的推進(jìn)，繪制出創(chuàng)建功能強(qiáng)大、可投入生產(chǎn)的Agents所需的所有構(gòu)建模塊至關(guān)重要。這不僅有利于當(dāng)前已列出的供應(yīng)商，也有益于這些工具的未來(lái)使用者。在每天都有新公司和新技術(shù)涌現(xiàn)的領(lǐng)域，這能為他們提供清晰的指引，幫助他們了解有哪些可用資源來(lái)實(shí)現(xiàn)自身的Agents目標(biāo)。

daytona創(chuàng)始人兼CEO伊萬(wàn)·布拉津（Ivan Burazin）和尼古拉·巴利奇共同創(chuàng)建的AI Enablement Stack正是為了提供這樣的指引。這是一個(gè)五層架構(gòu)，從基礎(chǔ)基礎(chǔ)設(shè)施開始，逐步構(gòu)建直至面向消費(fèi)者、能創(chuàng)造實(shí)際價(jià)值的AI Agents。每一層都具備關(guān)鍵能力，這些能力相互結(jié)合，能夠釋放AI Agents的全部運(yùn)營(yíng)潛力。

AI賦能棧AI Enablement Stack的分類體系明確了AI Agents運(yùn)行所需工具與平臺(tái)，指出了生態(tài)關(guān)鍵空白以助編碼Agents發(fā)揮潛力，值得對(duì)智能體感興趣的朋友尤其是開發(fā)人員全面理解和掌握。

AI Enablement Stack以代碼形式維護(hù)在其公共GitHub倉(cāng)庫(kù)中。如果你發(fā)現(xiàn)缺少某個(gè)供應(yīng)商或需要更新任何信息，可以直接通過拉取請(qǐng)求進(jìn)行貢獻(xiàn)。一旦獲得批準(zhǔn)，棧的可視化界面和README.md文件列表會(huì)自動(dòng)生成更新，以確保其始終是最新的。

GitHub倉(cāng)庫(kù)：https://github.com/daytonaio/ai-enablement-stack

理解五層架構(gòu)

AI Enablement Stack由五個(gè)相互關(guān)聯(lián)的層次組成，為AI Agents的開發(fā)提供了完整的基礎(chǔ)。從基礎(chǔ)設(shè)施開始，依次經(jīng)過智能、工程和治理等層次，每一層都提供關(guān)鍵能力，通過面向消費(fèi)者的Agents創(chuàng)造價(jià)值。讓我們來(lái)探討每一層的作用。

  第一層-基礎(chǔ)設(shè)施：奠定基礎(chǔ)Infrastructure: Starting from the Foundation

AI Enablement Stack的基礎(chǔ)是基礎(chǔ)設(shè)施層，它是支持所有人工智能開發(fā)和部署的支柱。該層由三個(gè)基本組件構(gòu)成：云服務(wù)提供商、模型訪問和人工智能工作空間，這些組件確保人工智能系統(tǒng)能夠高效地構(gòu)建、測(cè)試和部署。

云服務(wù)提供商為訓(xùn)練和運(yùn)行人工智能模型提供可擴(kuò)展的資源。例如，谷歌云擁有專門的硬件（如張量處理單元）和人工智能管道工具；而像CoreWeave這樣的公司則利用英偉達(dá)圖形處理器。

在此基礎(chǔ)之上是模型訪問層，它確保與人工智能模型的交互和部署。Cohere提供了一個(gè)用于訪問先進(jìn)語(yǔ)言模型的應(yīng)用程序編程接口（API），使開發(fā)者能夠直接將這些功能集成到他們的應(yīng)用程序中。Hugging Face擁有豐富的預(yù)訓(xùn)練模型和工具庫(kù)，使開發(fā)者能夠部署和微調(diào)人工智能系統(tǒng)。

最后，在這一層的頂部是人工智能工作空間，開發(fā)者和AI Agents在此互動(dòng)以創(chuàng)建和優(yōu)化人工智能系統(tǒng)。例如，Daytona提供人工智能工作空間管理，支持個(gè)人或大規(guī)模企業(yè)的Agent工作流程。

  第二層：智能：認(rèn)知核心Intelligence: The Cognitive Core

AI Enablement Stack的中心是智能層，這是驅(qū)動(dòng)人工智能系統(tǒng)的認(rèn)知核心。該層包括三個(gè)基本組成部分：框架、知識(shí)引擎和專業(yè)模型，它們共同推動(dòng)處理、決策和信息檢索。

專業(yè)模型為人工智能系統(tǒng)帶來(lái)了特定領(lǐng)域的專業(yè)知識(shí)。例如，Codestral專注于生成結(jié)構(gòu)化、高質(zhì)量且針對(duì)特定行業(yè)的代碼，幫助企業(yè)快速原型制作和部署軟件解決方案。Poolside Malibu擅長(zhǎng)將上下文數(shù)據(jù)整合到人工智能工作流程中。

知識(shí)引擎?zhèn)戎赜谛畔z索、組織和上下文理解。Pinecone專門研究向量數(shù)據(jù)庫(kù)技術(shù)，使人工智能系統(tǒng)能夠在大型數(shù)據(jù)集中進(jìn)行高效且可擴(kuò)展的搜索。Supabase憑借其開源關(guān)系數(shù)據(jù)庫(kù)功能，通過提供結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)和快速查詢來(lái)補(bǔ)充這一點(diǎn)，確保AI Agents能夠隨時(shí)獲取正確的數(shù)據(jù)。這些工具共同實(shí)現(xiàn)了無(wú)縫的數(shù)據(jù)處理和檢索，使人工智能系統(tǒng)能夠提供精確、具有上下文感知的輸出。

框架為構(gòu)建人工智能應(yīng)用程序提供了基礎(chǔ)工具。LangChain已成為關(guān)鍵參與者，使開發(fā)者能夠?qū)⒍鄠€(gè)人工智能模型和數(shù)據(jù)源整合到連貫的工作流程中。同樣，PydanticAI簡(jiǎn)化了結(jié)構(gòu)化、模式感知的人工智能交互的創(chuàng)建，使在智能系統(tǒng)中管理復(fù)雜的輸入和輸出變得更加容易。

  第三層：工程——開發(fā)者工具包Engineering - The Developer's Toolkit

工程層作為開發(fā)者構(gòu)建人工智能應(yīng)用程序的工具包，彌合了原始人工智能能力和生產(chǎn)就緒解決方案之間的差距。該層包括訓(xùn)練模型、開發(fā)應(yīng)用程序以及通過測(cè)試確保質(zhì)量的基本工具和資源，使開發(fā)者能夠創(chuàng)建健壯可靠的人工智能系統(tǒng)。

測(cè)試和質(zhì)量保證確保人工智能系統(tǒng)可靠運(yùn)行并符合生產(chǎn)標(biāo)準(zhǔn)。LangSmith是LangChain生態(tài)系統(tǒng)的一部分，為人工智能鏈提供了一個(gè)強(qiáng)大的調(diào)試和評(píng)估框架，幫助開發(fā)者測(cè)試和優(yōu)化復(fù)雜工作流程的性能。結(jié)合Weights&Biases的跟蹤功能，開發(fā)者獲得了強(qiáng)大的系統(tǒng)來(lái)診斷問題并在迭代過程中提高模型性能。

工具使開發(fā)過程中的人工智能系統(tǒng)編排和優(yōu)化無(wú)縫銜接。Greptile簡(jiǎn)化了為人工智能工作流程提取、轉(zhuǎn)換和管理數(shù)據(jù)的過程，確保模型使用高質(zhì)量且與上下文相關(guān)的數(shù)據(jù)。PromptLayer為提示管理和調(diào)試提供了強(qiáng)大的解決方案，幫助開發(fā)者跟蹤更改、嘗試配置并優(yōu)化提示與人工智能模型之間的交互。這些工具確保開發(fā)工作流程順暢、高效且記錄詳盡。

訓(xùn)練和微調(diào)工具是該層的核心，使開發(fā)者能夠訓(xùn)練和優(yōu)化人工智能模型。這些工具確保人工智能模型高效、準(zhǔn)確，并針對(duì)預(yù)期任務(wù)進(jìn)行了優(yōu)化。Bloop和LLM Stack在微調(diào)和操作人工智能工作流程中發(fā)揮著關(guān)鍵作用。Bloop簡(jiǎn)化了代碼搜索和理解，為開發(fā)者在人工智能開發(fā)過程中導(dǎo)航和管理大型代碼庫(kù)提供了強(qiáng)大的工具。LLM Stack工具增強(qiáng)了大型語(yǔ)言模型的定制和部署，簡(jiǎn)化了將這些系統(tǒng)適應(yīng)特定用例的過程，同時(shí)優(yōu)化了它們?cè)谏a(chǎn)中的性能。

  第四層：可觀測(cè)性與治理——控制層Observability and Governance - The Control Layer

可觀測(cè)性與治理層是人工智能賦能棧的控制層，確保人工智能系統(tǒng)得到有效的監(jiān)控、評(píng)估、保護(hù)和管理。該層包括四個(gè)基本組成部分：開發(fā)管道、評(píng)估與監(jiān)控、風(fēng)險(xiǎn)與合規(guī)以及安全與訪問控制，這些部分確保人工智能系統(tǒng)可靠、透明地運(yùn)行，并符合組織標(biāo)準(zhǔn)。

安全和訪問控制確保人工智能系統(tǒng)免受未經(jīng)授權(quán)的訪問和惡意行為的侵害。LiteLLM提供了輕量級(jí)的解決方案來(lái)管理API安全，確保敏感的人工智能工作流程得到保護(hù)并且訪問得到有效控制。

風(fēng)險(xiǎn)與合規(guī)。人工智能系統(tǒng)必須符合道德和監(jiān)管標(biāo)準(zhǔn)，這一部分確保與之保持一致。Guardrails AI將護(hù)欄直接集成到人工智能工作流程中，以防止意外行為并確保負(fù)責(zé)任地使用人工智能。Lakera提供了評(píng)估人工智能模型的倫理影響和風(fēng)險(xiǎn)的治理工具，幫助團(tuán)隊(duì)管理責(zé)任并遵守合規(guī)框架。這些工具減輕了風(fēng)險(xiǎn)并促進(jìn)了人工智能開發(fā)和部署中的問責(zé)制。

評(píng)估與監(jiān)控。這一部分跟蹤人工智能系統(tǒng)的性能、完整性和健康狀況，以防止漂移、異常和性能下降。Pydantic Logfire提供了針對(duì)人工智能模型定制的結(jié)構(gòu)化日志記錄和性能監(jiān)控。WhyLabs提供了全面的工具來(lái)監(jiān)控?cái)?shù)據(jù)質(zhì)量，幫助實(shí)時(shí)識(shí)別變化或不一致性。此外，TraceLoop有助于調(diào)試和評(píng)估人工智能管道，提供對(duì)系統(tǒng)行為的洞察并提高可靠性。這些工具使團(tuán)隊(duì)能夠維持系統(tǒng)性能并確保可靠的輸出。

開發(fā)管道確保人工智能系統(tǒng)高效地構(gòu)建和部署，具有簡(jiǎn)化模型生命周期管理的工具。Portkey使開發(fā)人員能夠在人工智能應(yīng)用開發(fā)的不同階段自動(dòng)化和優(yōu)化工作流程。Baseten支持機(jī)器學(xué)習(xí)模型的快速部署和管理，而LangServe則專注于可靠且可擴(kuò)展地提供語(yǔ)言模型。這些工具共同確保人工智能開發(fā)保持順暢并適應(yīng)不斷變化的需求。

  第五層：Agent消費(fèi)者層——界面層Agent Consumer Layer-The Interface Layer

Agent消費(fèi)者層代表了人工智能賦能棧的頂點(diǎn)，人工智能的力量在這里轉(zhuǎn)化為有形的、面向用戶的應(yīng)用程序。在這一層，由底層基礎(chǔ)設(shè)施、智能和工程層賦能的AI Agents與用戶和系統(tǒng)互動(dòng)，提供現(xiàn)實(shí)世界的價(jià)值。

這一層擁有各種各樣的Agents，從能夠獨(dú)立運(yùn)行的完全自主系統(tǒng)到增強(qiáng)人類生產(chǎn)力的輔助工具，再到針對(duì)細(xì)分任務(wù)定制的專用Agents。當(dāng)Agents利用下面各層構(gòu)建的能力時(shí)——從基礎(chǔ)設(shè)施和智能到工程控制和治理——這一層的真正力量得以顯現(xiàn)。

構(gòu)建未來(lái)的Agentic AI生態(tài)系統(tǒng)

盡管今天的Agents示例令人印象深刻，但它們僅僅代表了可能性的開端。學(xué)術(shù)以及商業(yè)所設(shè)想的未來(lái)，將出現(xiàn)無(wú)限數(shù)量的Agents來(lái)解決大量用例。這些Agents不僅將解決高度專業(yè)化的問題，還將賦予個(gè)人和組織創(chuàng)建符合其獨(dú)特需求的定制解決方案的能力。

Agent消費(fèi)者層不僅僅是界面——它是整個(gè)AI賦能棧潛力的實(shí)現(xiàn)。下面的每一層都為使這些Agents具有功能性、可靠性和影響力做出了貢獻(xiàn)。隨著AI Agents成為軟件開發(fā)不可或缺的一部分，它們的生態(tài)系統(tǒng)將在復(fù)雜性和實(shí)際影響方面不斷擴(kuò)大。

如果你對(duì)AI Enablement Stack感興趣，可以通過供應(yīng)商、更新信息以及社交網(wǎng)絡(luò)分享的形式，助力daytona完善這個(gè)AI Agents生態(tài)系統(tǒng)，助力塑造AI開發(fā)的未來(lái)。

參考資料：

Building Better AI Agents: The AI Enablement Stack：https://www.daytona.io/dotfiles/building-better-ai-agents-the-ai-enablement-stack#layer-4-observability-and-governance-the-control-layer

What is AI Agent-Agnostic Infrastructure Middleware：https://openhands.daytona.io/infrastructure

本文轉(zhuǎn)載自???王吉偉???，作者：王吉偉