就像指揮家引導(dǎo)樂(lè)團(tuán)一樣，從獨(dú)奏表演者到同步合奏。人類將領(lǐng)導(dǎo)企業(yè) AI 智能體經(jīng)歷三個(gè)進(jìn)化階段——單一智能體架構(gòu)、多智能體協(xié)作架構(gòu)、智能體編排架構(gòu)。

下文我們?cè)敿?xì)剖析之。

企業(yè) AI 智能體架構(gòu)設(shè)計(jì)三個(gè)階段

正如音樂(lè)從單音符旋律演變?yōu)閺?fù)雜的交響樂(lè)，AI 智能體正從獨(dú)奏表演者發(fā)展到編排合奏。每個(gè)階段都建立在前一個(gè)階段之上，在企業(yè)環(huán)境中創(chuàng)造出更豐富、更細(xì)致的互動(dòng)。

階段 1：“單一智能體”  —— 專業(yè)貢獻(xiàn)者

在智能體演變的第一階段，專業(yè)智能體在特定行業(yè)內(nèi)的明確任務(wù)中表現(xiàn)出色，為常規(guī)但至關(guān)重要的業(yè)務(wù)操作帶來(lái)前所未有的效率和準(zhǔn)確性。它們代表了企業(yè) AI 采用的基礎(chǔ)，處理離散任務(wù)，以一種改變部門工作流程的一致性和速度。它們還擅長(zhǎng)提供迄今為止 AI 進(jìn)步的好處，如預(yù)測(cè)下一個(gè)最佳行動(dòng)和產(chǎn)品推薦，高度個(gè)性化以適應(yīng)每個(gè)客戶的偏好和行為。以及生成性指導(dǎo)，為顧客、服務(wù)和銷售人員——無(wú)論是人類還是機(jī)器人——提供最高水平的營(yíng)銷語(yǔ)言和通信。

例如，在商業(yè)領(lǐng)域，它們徹底改變了庫(kù)存和賬戶管理。實(shí)際上，智能體不僅僅是處理基本的庫(kù)存檢查；它們主動(dòng)監(jiān)控多個(gè)地點(diǎn)的庫(kù)存水平，預(yù)測(cè)季節(jié)性需求，并生成實(shí)時(shí)賬戶摘要，標(biāo)記不尋常的模式或機(jī)會(huì)。曾經(jīng)需要數(shù)小時(shí)人類分析的任務(wù)現(xiàn)在可以在幾秒鐘內(nèi)完成，準(zhǔn)確性和深度更高，為零售客戶帶來(lái)優(yōu)化、個(gè)性化、幾乎“神奇”的體驗(yàn)。

服務(wù)運(yùn)營(yíng)也看到了類似的轉(zhuǎn)變。除了基本的賬單總結(jié)，這些智能體分析客戶互動(dòng)模式，自動(dòng)分類和優(yōu)先處理服務(wù)請(qǐng)求，并生成關(guān)于客戶需求的預(yù)測(cè)性洞察。它們發(fā)現(xiàn)客戶行為中的趨勢(shì)，這可能表明滿意度問(wèn)題或擴(kuò)展機(jī)會(huì)，為服務(wù)團(tuán)隊(duì)提供可操作的智能，而不是原始數(shù)據(jù)。結(jié)果是，客戶服務(wù)感覺毫不費(fèi)力、無(wú)處不在，幾乎對(duì)最終客戶來(lái)說(shuō)是隱形的——他們的問(wèn)題現(xiàn)在通常在他們甚至不知道有問(wèn)題之前就已解決。

同時(shí)，在金融服務(wù)領(lǐng)域，智能體重新定義了客戶服務(wù)效率。在處理爭(zhēng)議確認(rèn)時(shí)，它們分析交易歷史，識(shí)別潛在欺詐活動(dòng)的模式，并自動(dòng)觸發(fā)相關(guān)的安全協(xié)議。對(duì)于財(cái)務(wù)規(guī)劃，它們通過(guò)關(guān)聯(lián)市場(chǎng)數(shù)據(jù)、個(gè)人客戶歷史和廣泛的經(jīng)濟(jì)指標(biāo)生成全面的分析。如果正確使用，這些智能體將為企業(yè)帶來(lái)前所未有的后臺(tái)效率，并為消費(fèi)者帶來(lái)下一代零售銀行業(yè)務(wù)、投資指導(dǎo)和財(cái)富管理體驗(yàn)。

階段 2：“和聲” 智能體 — 無(wú)縫協(xié)作者

這個(gè)階段引入了同一公司內(nèi)專業(yè)智能體之間的編排協(xié)作，共同為一個(gè)共同的業(yè)務(wù)目標(biāo)合作。在這種情況下，“指揮智能體”協(xié)調(diào)多個(gè)專家協(xié)同工作，類似于餐廳的總經(jīng)理如何協(xié)調(diào)才華橫溢的迎賓員、服務(wù)員、經(jīng)理、廚師、準(zhǔn)備廚師和傳菜員共同工作，以贏得夢(mèng)寐以求的米其林星級(jí)。

對(duì)于復(fù)雜的業(yè)務(wù)操作，“和聲” AI 對(duì)于一個(gè)客戶服務(wù)場(chǎng)景是什么樣子的？考慮一個(gè)客戶服務(wù)場(chǎng)景，其中多個(gè)智能體無(wú)形地一起工作，以支持一位忠實(shí)零售客戶的請(qǐng)求票，以交換季末 SKU 的尺寸。

• 前線服務(wù)智能體處理最初的客戶詢問(wèn)
• 庫(kù)存專家檢查多個(gè)地點(diǎn)的產(chǎn)品可用性
• 物流智能體計(jì)算運(yùn)輸選項(xiàng)和時(shí)間表
• 賬單專家審查賬戶歷史和付款選項(xiàng)，最重要的是：
• 指揮智能體將所有這些輸入?yún)f(xié)調(diào)成一個(gè)連貫的、有效的、符合品牌和上下文相關(guān)的響應(yīng)，供掌舵的人類審查、完善并與客戶分享。

當(dāng)實(shí)施良好時(shí)，這種多智能體方法，有一個(gè)“指揮智能體”服務(wù)于其“指揮人類”，提供了強(qiáng)大的 AI 驅(qū)動(dòng)優(yōu)勢(shì)：系統(tǒng)通過(guò)利用專注于特定領(lǐng)域的專業(yè)、可信智能體來(lái)實(shí)現(xiàn)增強(qiáng)的可靠性，同時(shí)減少幻覺，因?yàn)槊總€(gè)智能體在更狹窄的范圍內(nèi)操作。這種分布式方法還通過(guò)將敏感數(shù)據(jù)處理隔離到特定智能體來(lái)加強(qiáng)安全性。也許最重要的是，該生態(tài)系統(tǒng)提供了無(wú)縫的可擴(kuò)展性——組織可以不斷添加新的專業(yè)智能體來(lái)擴(kuò)展能力，以適應(yīng)需求的演變。

階段 3：“合奏” 智能體 — 企業(yè)編排者

最后一個(gè)階段——理想階段——增加了跨組織邊界的復(fù)雜智能體間（A2A）互動(dòng)，創(chuàng)造了全新的商業(yè)關(guān)系模式。除了傳統(tǒng)的 B2B 和 B2C 模式，我們看到 B2A（企業(yè)對(duì)智能體）甚至 B2A2C 互動(dòng)的出現(xiàn)，其中 AI 智能體作為工作和交易的中介。

考慮一個(gè)簡(jiǎn)單的租車場(chǎng)景：客戶的個(gè)人 AI 智能體與租車公司的業(yè)務(wù) AI 智能體進(jìn)行談判。客戶的智能體優(yōu)化最佳價(jià)格和價(jià)值，而租車公司的智能體旨在通過(guò)附加服務(wù)最大化收入。但業(yè)務(wù)智能體必須在激進(jìn)的銷售策略和輸給競(jìng)爭(zhēng)對(duì)手的風(fēng)險(xiǎn)之間找到平衡。這些互動(dòng)可以由復(fù)雜的“博弈論”原則來(lái)管理，需要高級(jí)的談判技巧和協(xié)議，在不確定性下進(jìn)行風(fēng)險(xiǎn)管理，驗(yàn)證機(jī)制以確保沿途的信任，更不用說(shuō)巧妙解決沖突的能力。

現(xiàn)在，想象一下這種情況擴(kuò)展到我們?cè)诟餍袠I(yè)中看到的越來(lái)越復(fù)雜的企業(yè)流程：從供應(yīng)鏈優(yōu)化到客戶體驗(yàn)編排。無(wú)論你是消費(fèi)者還是企業(yè)員工，合奏 AI 將意味著你將有一個(gè)助手來(lái)執(zhí)行復(fù)雜的編排和根據(jù)你的個(gè)性化需求和愿望進(jìn)行有意義的合作。為了實(shí)現(xiàn)這一點(diǎn)，我們?nèi)祟愡€有一些工作要做。

不可協(xié)商的命令：信任和責(zé)任 

隨著我們部署越來(lái)越復(fù)雜的智能體系統(tǒng)，兩個(gè)基本原則必須指導(dǎo)每一個(gè)決策：信任和責(zé)任。

建立信任 

在智能體 AI 時(shí)代，信任遠(yuǎn)遠(yuǎn)超出了對(duì)毒性、偏見和幻覺的技術(shù)保障。最近的 Salesforce 研究表明，61%的客戶認(rèn)為 AI 的發(fā)展使得可信度比以往任何時(shí)候都更加關(guān)鍵——他們是對(duì)的。我們正在進(jìn)入一個(gè)需要組織對(duì)人類和 AI 之間共生關(guān)系有深刻信心的領(lǐng)域。

這種信心建立在四個(gè)基本基礎(chǔ)之上。

首先是準(zhǔn)確性和邊界的基石—— AI 智能體必須在明確定義的參數(shù)內(nèi)運(yùn)行，同時(shí)保持精確性。除了防止錯(cuò)誤外，這些防護(hù)措施還將創(chuàng)造可預(yù)測(cè)的、可信的合作伙伴關(guān)系，增強(qiáng)集體智慧。

同樣重要的是智能體的自我意識(shí)。像任何有價(jià)值的同事一樣，AI 智能體必須承認(rèn)自己的局限性，并知道何時(shí)需要人類專業(yè)知識(shí)。這需要復(fù)雜的交接協(xié)議，以確保人工和人工智能之間的無(wú)縫協(xié)作。例如，我們的 AI 研究團(tuán)隊(duì)探索訓(xùn)練方法，教導(dǎo) AI 智能體標(biāo)記不確定領(lǐng)域，并在遇到未識(shí)別的挑戰(zhàn)時(shí)尋求幫助。正確訓(xùn)練后，AI 將知道何時(shí)不嘗試猜測(cè)，而是向人類尋求幫助。

對(duì)于多智能體系統(tǒng)，我們還需要全球接受和采用的參與協(xié)議。可以這樣想：銀行有全球協(xié)議，或規(guī)則，以系統(tǒng)化個(gè)人、企業(yè)和國(guó)家之間的資金轉(zhuǎn)移。交通有協(xié)議以確保遵守規(guī)則，由我們的通用交通燈顏色系統(tǒng)管理。互聯(lián)網(wǎng)有“IP”——我們的全球互聯(lián)網(wǎng)協(xié)議，允許數(shù)據(jù)包在網(wǎng)絡(luò)間傳輸并到達(dá)正確的目的地。

因此，未來(lái)的智能體也將需要這些普遍認(rèn)同和實(shí)施的協(xié)議，以便指揮智能體可以安全、道德地與其他企業(yè)的智能體進(jìn)行通信、談判和協(xié)作，實(shí)現(xiàn)雙方的共同利益。這種“合奏”級(jí)別的參與需要快速、高效和公平。如果沒有這樣的協(xié)議，我們可能會(huì)面臨智能體間“垃圾郵件”的風(fēng)險(xiǎn)，最壞情況下是欺詐和其他危險(xiǎn)。

最后，隨著我們的 AI 智能體勞動(dòng)力的增長(zhǎng)，我們的安全措施也必須增強(qiáng)。與任何技術(shù)一樣，有惡意的人也可以使用 AI，設(shè)計(jì)和訓(xùn)練“AI 蠕蟲”以進(jìn)行數(shù)據(jù)泄露或試圖劫持其他 AI 智能體以泄露私人客戶數(shù)據(jù)。增強(qiáng)的保護(hù)、隱私控制和持續(xù)監(jiān)控不應(yīng)僅被視為技術(shù)要求——它們對(duì)于維持將 AI 從我們使用的工具轉(zhuǎn)變?yōu)槲覀兤髽I(yè)將與之共同成長(zhǎng)的合作伙伴的信任至關(guān)重要。

確保責(zé)任 

隨著組織部署每秒做出數(shù)千個(gè)決策的 AI 智能體，我們必須建立明確的責(zé)任和監(jiān)督框架，以確保我們有計(jì)劃應(yīng)對(duì)出現(xiàn)問(wèn)題時(shí)的情況。這需要全面的方法。以下是監(jiān)督智能體實(shí)施工作的 C 級(jí)團(tuán)隊(duì)的起點(diǎn)。

• 智能體決策的明確責(zé)任鏈。當(dāng) AI 智能體做出重要決策時(shí)，關(guān)于誰(shuí)負(fù)責(zé)不應(yīng)有任何模糊之處。這甚至可能意味著建立新角色，如“AI 運(yùn)營(yíng)官”，他們既有監(jiān)督智能體部署的權(quán)力，也有出現(xiàn)問(wèn)題時(shí)的責(zé)任。
• 健全的系統(tǒng)，用于檢測(cè)和糾正不完整信息、偏見、幻覺或有毒輸出——在它們影響您的業(yè)務(wù)之前。這超出了基本安全檢查，包括持續(xù)監(jiān)控智能體決策、實(shí)時(shí)干預(yù)能力和系統(tǒng)化審計(jì)跟蹤。我們的研究團(tuán)隊(duì)在檢索增強(qiáng)生成（RAG）方面的最新進(jìn)展就是一個(gè)例子，它極大地改進(jìn)了我們的 AI 系統(tǒng)訪問(wèn)和驗(yàn)證信息的方式。這些創(chuàng)新使快速評(píng)估和糾正方向成為可能——確保 AI 系統(tǒng)提供準(zhǔn)確、可靠的結(jié)果，人類和企業(yè)可以信賴。
• 定義的流程，用于人類監(jiān)督和干預(yù)，平衡自主權(quán)與控制。我們需要超越“人類在環(huán)中”的簡(jiǎn)單概念，開發(fā)復(fù)雜的框架，以確定何時(shí)以及如何人類應(yīng)干預(yù)智能體決策。正如我的同事 Paula Goldman 所說(shuō)，更多的是“人類掌舵”。這意味著創(chuàng)建指南和全組織的標(biāo)準(zhǔn)方式，與智能體溝通以及明確的升級(jí)路徑，最大化智能體在常規(guī)任務(wù)中的自主性，同時(shí)保持人類判斷在高風(fēng)險(xiǎn)決策中的核心地位。
• 結(jié)構(gòu)化的方法，用于在發(fā)生錯(cuò)誤時(shí)糾正問(wèn)題。這不僅包括技術(shù)回滾程序，還包括清晰的客戶溝通、補(bǔ)救和系統(tǒng)改進(jìn)協(xié)議，以防止類似問(wèn)題的發(fā)生。
• 新的法律和合規(guī)框架，明確解決 AI 智能體的責(zé)任。當(dāng)前的監(jiān)管環(huán)境并非為自主 AI 智能體做出業(yè)務(wù)決策而設(shè)計(jì)。我們需要與監(jiān)管機(jī)構(gòu)積極合作，開發(fā)適當(dāng)?shù)闹卫斫Y(jié)構(gòu)。

好了，這就是我今天想分享的內(nèi)容。

本文轉(zhuǎn)載自???玄姐聊AGI??  作者：玄姐