你如何在智能體系統中平衡風險管理與安全性和創新性?又如何應對數據和模型選擇方面的核心考量?在VB Transform會議上，第一資本銀行AI基礎部門的技術高級副總裁Milind Naphade分享了從實際實驗和應用程序中得出的部署和擴展智能體工作流程的最佳實踐和經驗教訓。

第一資本銀行致力于站在新興技術的前沿，最近推出了一款生產級的、最先進的多自主式AI系統，以提升購車體驗。在這個系統中，多個智能體協同工作，不僅為購車者提供信息，還能根據客戶的偏好和需求采取具體行動。例如，一個智能體與客戶溝通，另一個根據業務規則和可用工具制定行動計劃，第三個智能體評估前兩個智能體的準確性，第四個智能體則向用戶解釋并驗證行動計劃。鑒于有超過1億客戶使用第一資本銀行的其他各種潛在應用場景，該智能體系統旨在應對大規模和復雜的挑戰。

“當我們考慮如何改善客戶體驗、讓客戶滿意時，我們會思考，有哪些方法可以實現這一點?”Naphade說，“無論是開戶、查詢余額還是預約試駕車輛，客戶都有很多想做的事情。歸根結底，非常簡單，就是如何理解客戶的需求?如何了解你可用的滿足機制?如何將第一資本銀行這樣的受監管機構的所有嚴格規定、所有政策、所有業務規則、所有約束(無論是監管方面的還是其他方面的)都考慮在內?”

他說，自主式AI顯然是內部和面向客戶用例的下一步。

設計智能體工作流程

金融機構在設計支持客戶旅程的任何工作流程時都有特別嚴格的要求，第一資本銀行的應用程序包括許多復雜流程，因為客戶會利用對話工具提出問題并查詢信息，這兩個因素使得設計過程尤為復雜，需要對整個旅程進行全面審視，包括客戶和人類客服在每一步的反應、回應和推理。

“當我們觀察人類如何進行推理時，我們注意到幾個顯著的事實，”Naphade說，“我們發現，如果我們使用多個邏輯智能體來設計，就能很好地模仿人類推理，但接著你會問自己，不同的智能體具體做什么?為什么是四個?為什么不是三個?為什么不是20個?”

他們研究了歷史數據中的客戶體驗：哪些對話進行得順利，哪些出了問題，對話應該持續多久以及其他顯著事實。他們了解到，通常需要與智能體進行多輪對話才能理解客戶的需求，而且任何智能體工作流程都需要為此做好規劃，同時還要完全基于組織的系統、可用工具、API和組織政策指導原則。

“對我們來說，主要的突破是意識到這必須是動態和迭代的，”Naphade說，“如果你看看很多人如何使用大語言模型(LLM)，他們只是將LLM作為之前存在機制的前端，他們只是用LLM進行意圖分類，但我們從一開始就意識到，那不可擴展?！?/p>

借鑒現有工作流程

基于他們對人類客服如何回應客戶推理的直覺，第一資本銀行的研究人員開發了一個框架，其中一組具有不同專業知識的專家AI智能體共同解決問題。

此外，第一資本銀行在開發智能體系統時融入了強大的風險框架，作為一家受監管的機構，Naphade指出，除了其一系列內部風險緩解協議和框架外，“在第一資本銀行內部，為了管理風險，還有其他獨立實體觀察我們、評估我們、質疑我們、審計我們，”Naphade說，“我們認為，擁有一個專門評估前兩個智能體行為的智能體是個好主意，這個智能體的職責完全基于第一資本銀行的政策和規則?！?/p>

評估者確定先前的智能體是否成功，如果沒有，則拒絕該計劃并要求規劃智能體根據其判斷的問題所在進行糾正，這一過程以迭代方式進行，直到達到適當的計劃。事實證明，這對公司的自主式AI方法大有裨益。

“評估智能體是我們引入世界模型的地方，那是我們模擬如果一系列行動實際執行會發生什么的地方，因為我們是一家受監管的企業，所以我們需要這種嚴格性——我認為這實際上使我們走上了可持續且強大的發展軌跡，我預計很多企業最終都會走到這一步?！?/p>

自主式AI的技術挑戰

智能體系統需要與整個組織的履行系統協作，且都具有各種權限，在各種上下文中調用工具和API，同時保持高準確性也是一項挑戰——從消除用戶意圖的歧義到生成并執行可靠的計劃。

“我們進行了多次迭代實驗、測試、評估、人工干預，所有這些正確的指導原則都需要在我們實際推出這樣的產品之前完成，”Naphade說，“但最大的挑戰之一是我們沒有任何先例，我們無法說，哦，別人是這樣做的，那效果如何?這里有新穎性的元素，我們是第一次這樣做。”

模型選擇以及與英偉達的合作

在模型方面，第一資本銀行密切關注學術和行業研究，在會議上發表演講并緊跟最新動態。在目前的應用案例中，他們使用了開放權重模型，而非封閉模型，因為這允許他們進行大量定制。Naphade斷言，這對他們來說至關重要，因為AI戰略中的競爭優勢依賴于專有數據。

在技術棧本身，他們使用了包括內部技術、開源工具鏈和英偉達推理棧在內的組合工具。與英偉達的緊密合作幫助第一資本銀行獲得了所需的性能，并在英偉達的庫中合作開發了行業特定機會，同時為Triton服務器和他們的TensoRT LLM優先安排了功能。

自主式AI：展望未來

第一資本銀行繼續在其業務中部署、擴展和優化AI智能體，他們的第一個多智能體工作流程是Chat Concierge，通過公司的汽車業務部署，它旨在為汽車經銷商和客戶提供購車過程支持。借助豐富的客戶數據，經銷商正在識別出有誠意的潛在客戶，這顯著改善了他們的客戶參與度指標——在某些情況下提高了55%。

“他們能夠通過這個自然、便捷、全天候工作的智能體生成更多有誠意的潛在客戶，”Naphade說，“我們希望將這種能力帶到更多面向客戶的互動中，但我們希望以一種管理良好的方式進行，這是一段旅程。”