就在不久前，科技界目光聚焦于一篇別具深意的文章。其作者正是Salesforce首席科學家、斯坦福大學計算機科學兼職教授——Silvio Savarese。

Savarese還有一個令人矚目的身份——「AI教母」李飛飛的丈夫。

Silvio Savarese深入探討了AI智能體的未來發展，提出了三大階段的演變：從獨立任務執行到多智能體協作，再到企業級的全面協調。

智能體將不僅僅是工具，更將成為提升工作效能和創造力的強大伙伴。

同時，他還深入思考了在這一激動人心的發展進程中，人類所應扮演的角色與承擔的責任。

本文在不改變原文大意的情況下，編譯如下：

最近，通過推出Agentforce，Salesforce正在推動企業邁向一個全新的AI賦能時代。

步入AI的第三波浪潮，借助AI智能體，人們工作起來會更有能力、更覺有趣、更富創造力。

從人才招聘到醫療保健領域，AI與人類在各行各業的合作日益廣泛。這種協作不僅能快速滿足大規模的需求，而且在多數情況下，比單純的人工操作更加精準。

雖然需要些時間，但智能體無疑會在多方面優化我們的工作：提升生產力與效率，輔助戰略決策，我堅信，它還能提高整體工作滿意度。

無論普通員工還是高管，幾乎所有企業人員都能在調配人力的同時，指揮數字勞動力。

在這個時代的發展進程中，信任和問責制至關重要。

其演進分為三個階段：首先，專業智能體負責獨立任務；接著，多智能體系統實現無縫協作；最后，企業級協調系統將徹底改變企業的運作模式。

Salesforce的AI研究團隊肩負著塑造企業AI未來的使命。接下來，為大家講講我們對智能體發展的展望，以及人類在此過程中需扮演的角色 。

AI智能體的演變：從規則到推理

LLM是經過訓練的深度學習模型，能理解文本還能生成文本。

AI智能體的發展和機器學習的進步密切相關。早期傳統的基于規則的系統，比如機器人過程自動化（RPA），能精準完成一系列任務，但在應對變化時就容易出現問題。這類早期系統需要大量技術支持，還要找專業人員咨詢。

過去幾十年，機器處理信息的方式有了很大變化，從原來死板的自動化系統，變成了現在靈活、適應能力強又高效的學習系統。

現在，像Agentforce這樣的現代平臺造出的智能體，能明白具體情況，適應新變化，還能做各種任務。

而未來的發展方向更值得期待：我們將會有借助多智能體推理的自適應智能體。

這種智能體可以從周圍環境中學到東西，在實際使用中不斷進步，能和人類、企業客戶、合作伙伴、供應商一起工作。甚至，還能跟越來越貼近人們生活的個性化AI助手配合。

現在，我們才剛開始朝著企業AI智能體發展的三個階段邁進。

企業智能體的三個階段

就好比音樂從簡單的單音旋律，逐漸演變成復雜美妙的交響樂。AI智能體也在不斷進步，從單個獨自工作，變為多個智能體協同配合。

每個階段都建立在上一階段的基礎上，為企業創造出更加豐富、更有層次的互動。

第一階段：單個AI專家智能體

第一階段，專家智能體聚焦特定行業，能出色完成既定任務。這給日常關鍵的商業運作帶來了前所未有的效率和準確性。這些智能體是企業應用AI的基礎。它們處理零散任務又穩又快，極大改變了部門的工作流程。

它們還能將AI的最新成果用于工作。比如，精準預測最佳行動方案，根據每位客戶的偏好和行為，給出高度個性化的產品推薦。此外，不管是面向客戶、服務還是銷售代表（人和智能體都是如此），都能生成高質量的指導意見、營銷文案和信函。

例如，在商業領域，智能體徹底改變了庫存和賬戶管理。

智能體可不只做簡單的庫存檢查，還會主動監控多個地點的庫存狀況，預測季節性需求變化，實時生成賬戶摘要，從中找出不尋常的模式或潛在機會。

過去，人工分析這些任務要花好幾個小時，現在智能體幾秒鐘就能搞定，而且分析得更準、更透徹。這給零售客戶帶來了更優質、更個性化，甚至是神奇的體驗。

服務運營也發生了類似轉變。這些智能體不光能做基本的賬單匯總，還會分析客戶互動模式，自動對服務請求分類、排序，進而得出有關客戶需求的預測性洞察。

智能體能夠發現客戶行為中的趨勢，這些趨勢可能意味著客戶滿意度有問題，或者存在業務拓展機會。如此一來，就為服務團隊提供了實用信息，而不只是一堆原始數據。

如此一來，客戶服務變得輕松又流暢。終端客戶幾乎察覺不到服務的存在——很多時候，他們還沒意識到有問題，問題就已經解決了。

金融服務領域，智能體大大提高了客戶服務效率。

確認爭議時，智能體能分析交易歷史，識別潛在的欺詐活動，還會自動啟動相關安全協議。做財務規劃時，智能體整合市場數據、客戶個人歷史和各類經濟指標，生成全面的分析報告。

合理使用這些智能體，企業后臺的運作效率會大幅提升，消費者也能體驗更先進的私人銀行、投資指導和財富管理服務。

第二階段：復合智能體——無縫協作者

這一階段，公司內部的專家智能體開始協同合作，朝著一個共同的商業目標努力。

「協調者智能體」負責組織多個專家智能體協同工作。這就好比餐廳的總經理，要把出色的接待員、服務員、經理、廚師、備餐員和配送員組織起來，大家齊心協力，贏得那個夢寐以求的米其林星級。

在復雜的商業場景中，復合智能體的表現是怎樣的呢？我們來看看這個客戶服務場景。

有一位忠誠的零售客戶，想要更換一款過季商品的尺碼。這時，多個智能體在背后默默協作。

首先，有一名前線服務代表負責處理客戶最初的詢問。接著，一名庫存專家會去檢查各個地方的產品庫存情況。同時，物流智能體開始計算運輸選項和時間安排。還有賬單專家，認真審查客戶的賬戶歷史和支付選項。

最關鍵的是「協調者智能體」，它把前面這些智能體的工作成果匯總到一起，生成一個有條理、高效率，既符合品牌形象又貼合客戶需求的回復。這些回復會交給前線工作人員，他們審核、完善后，再分享給客戶。

當多智能體方法實施得當，「協調者智能體」為人類協調者提供服務時，能帶來諸多由AI驅動的顯著優勢：

• 可靠性提升：系統借助專門化、可靠的智能體聚焦特定領域。由于每個智能體的工作范圍較窄，這不僅提升了可靠性，還減少了幻覺現象。
• 安全性增強：采用分布式處理方式，把敏感數據的處理交給特定智能體，從而增強了安全性。
• 可擴展性強：隨著需求改變，生態系統能無縫擴展。組織可不斷增添新的專門化智能體，輕松拓展功能。這或許是其中最重要的優勢。

第三階段：集成式智能體——企業協調者

在理想的最終階段，跨組織邊界的復雜智能體對智能體（A2A）交互出現了，這開創了全新的商業模式。

除了傳統的企業對企業（B2B）、企業對消費者（B2C）模式外，還涌現出企業對智能體（B2A），甚至企業對智能體再到消費者（B2A2C）的交互形式。在這些新模式中，AI智能體成了工作和交易的中介。

來看一個簡單的汽車租賃場景：客戶的個人AI智能體與租賃公司的商業AI智能體進行談判。

客戶智能體一心爭取更劃算的價格和更多價值，租賃公司智能體則試圖靠附加服務多賺錢。但租賃公司的智能體得拿捏好分寸，推銷要積極，又不能太激進，以防生意被競爭對手搶走。

這些智能體之間的交互，需要依據復雜的博弈理論。這要求它們具備高超的談判技巧，遵循特定的協議，能夠在不確定的情況下管理風險，有可靠的信任驗證機制，還要能巧妙地化解沖突。

現在，想象一下復雜的企業流程。

就拿供應鏈優化和客戶協調這些工作來說，無論你是消費者，還是企業員工，集成式AI能讓你擁有一個智能助手。這個助手可以根據你的需求和期望，處理復雜的協調工作，開展有價值的協作。

但是，要實現這個目標，我們人類還有很多工作要做。

必要條件：信任與責任

當我們部署愈發復雜的智能體系統時，每一項決策都必須遵循信任與責任這兩個基本原則。

構建信任

在智能體時代，信任的內涵遠不止于防范有害內容、偏見和幻覺。

Salesforce近期的研究表明，61%的客戶覺得，隨著AI的發展，可信度變得比以往任何時候都更加重要。我們正步入一個全新領域，在這個領域中，組織需要對人類與AI的共生關系抱有深度信任。

這種信任基于以下要素。首先是準確性和邊界：AI智能體必須在明確的范圍里運行，同時保持準確。

智能體的自我意識同樣關鍵。就像一個值得敬重的同事，AI智能體得清楚自己的能力邊界，明白什么時候該向人類尋求幫助。這就需要一套復雜的交接協議，保證AI和人類能無縫配合。

比如，我們的AI研究團隊正在研究訓練方法，教AI智能體遇到解決不了的難題時，把不確定的地方標出來，接著去尋求幫助。只要訓練得當，AI就會知道什么時候不能瞎猜，而是向人類求助。

對于多智能體系統，我們還需要全球公認和廣泛采用的協議。有了這些協議，協調者智能體才能安全、合乎道德地與其他企業的智能體交流、協商與合作，實現雙方共同利益。這種互動得快速、高效，還得公平。

最后，隨著AI智能體越來越多，我們的安全措施也得增強。

和其他技術一樣，一些人也會利用AI搞破壞。他們可能會訓練AI蠕蟲來泄露數據，或者嘗試控制其他AI智能體，曝光客戶的私人數據。

強化保護、做好隱私控制以及持續進行監控，是維持信任的關鍵。只有建立了信任，AI才能從工具變成和我們一起成長的業務伙伴。

確保問責制

當組織開始部署能每秒做出數千個決策的AI智能體時，需要建立明確的責任和監督框架。

這樣一來，一旦出現問題，我們就能有應對的辦法。這要有一套周全的方案。下面講講負責監督智能體的管理團隊該怎么做。

清晰的責任鏈條：AI 智能體做出重要決策時，得清楚到底誰來負責，不能有絲毫含糊。這可能意味著建立新的角色，比如「AI運維官」，他們不僅有權監管智能體的部署工作，而且在問題發生時也承擔責任。

我們需要一個強大的系統，在信息不完整、有偏見、出現幻覺或者產生有害輸出之前，就把問題查出來并解決掉。

這可不只是做簡單的安全檢查，還要持續監控智能體做出的決策，具備實時干預的能力，而且要有一套完整的審計追蹤機制。

研究團隊最近在檢索增強生成（RAG）上有了很大的進展，這讓AI系統獲取和驗證信息的方式有了很大改善。這些新成果能讓我們快速評估和調整AI系統，確保它給出的結果既準確又靠譜。

要制定一套流程，讓人類能對智能體進行監督和干預。不能只局限于「human-in-the-loop」這個簡單概念，要設計出更復雜的框架，明確人類在何時、以何種方式介入智能體的決策。

在常規任務中，智能體能充分發揮自主性，而遇到重大決策時，人類的判斷仍能起到關鍵作用 。

一旦出現錯誤，我們要有一套結構化應對方法。這不僅包含技術層面的回滾程序，還得明確如何與客戶溝通、采取哪些補救措施，以及制定系統性改進的協議，以防止類似問題的發生。

目前，做出商業決策的自主AI智能體面臨著責任界定的問題，現有的監管環境并不適用于它們。

我們需要和監管機構合作，制定合適的治理結構，明確AI智能體的責任，建立全新的法律和合規框架。

展望未來：科學方法與企業創新

要想部署真正有效的AI系統，企業高層要有長遠眼光，把這些技術進步運用到實際應用中。

企業在AI應用上是否成功，不只看部署了多少AI智能體，或者實施速度有多快。關鍵在于企業領導和技術專家的精心規劃，讓AI與現有的工作流程、業務過程以及人類的工作偏好完美融合。

Salesforce在企業CRM領域摸爬滾打多年，經驗豐富，很懂業務邏輯優化。我們把這些經驗和知識融入到 Agentforce的部署策略里。系統不僅功能強大，在滿足客戶業務需求和運營人員需求方面，也做到了可靠又負責。

未來，人類和AI不再相互對立，而是攜手合作，各展所長。隨著Agentforce發布，智能體已經成為提升工作效能的強大助力，讓團隊完成以前辦不到的任務。

開始這一轉型的時機就是現在，就像每一次突破性實驗都始于假設一樣，每次成功的AI轉型也都是從一個愿景開始，到最終驗證成真！