報告引言

人工智能智能體正變得日益先進，這對決策、問責和監督產生了重大影響。

隨著人工智能不斷發展并融入經濟和社會的各個領域，對于企業領導者、政策制定者和其他參與塑造人工智能發展、實施和治理未來的利益相關者來說，理解人工智能智能體的作用、能力和可能產生的影響至關重要。

自任務自動化開始以來，智能體的概念 —— 即通過傳感器感知環境并通過效應器對其采取行動的實體 —— 一直在不斷演變。隨著大型語言模型（處理自然語言的人工智能模型）和大型多模態模型（處理自然語言、圖像、視頻和 / 或音頻的人工智能模型）的最新進展，人工智能智能體的概念正進入一個快速發展和試驗的新階段。在這一階段，從編碼助手到工作流自動化、個人助手等一系列新的應用案例不斷涌現。

隨著人工智能智能體的持續發展，社會正逐漸邁向開發具有更高自主性的創新系統，這些系統能夠在最少的人類參與或指導下完成任務。這預示著一個由人工智能驅動的創新和效率新時代的到來，其有可能影響全球經濟的各個領域。鑒于這一深遠前景，考慮安全和治理措施以指導先進人工智能智能體的負責任開發和實施至關重要。

本文首先定義了人工智能智能體的概念，然后概述了不同類型的智能體及其隨時間的演變。最后一部分展望未來，總結了部署人工智能智能體所帶來的新興技術和社會經濟影響的示例，以及降低風險的可能措施。

人工智能智能體的定義

人工智能智能體能夠自主響應輸入和對環境的感知，做出復雜決策并改變環境。

根據國際標準化組織的定義，人工智能智能體可廣義地定義為使用傳感器感知（聲音、文本、圖像、壓力等）并（使用效應器）對環境做出響應的實體。人工智能智能體通常具有自主性（定義為在無需持續人工干預的情況下獨立運行和決策的能力）和權限（定義為在規定范圍內執行特定行動的授予權限和訪問權利），以采取行動實現一組特定目標，從而改變其環境。

圖 1 展示了人工智能智能體的核心組件：

• 用戶輸入：人工智能智能體接收的外部（如人類、其他智能體）輸入。這可能是通過基于聊天的界面輸入的指令、語音命令或預先錄制的數據。
• 環境：人工智能智能體運行的邊界。它是智能體應用其傳感器和效應器根據接收到的輸入和控制中心決定的行動來感知和改變周圍環境的區域。環境可以是物理基礎設施，如自動駕駛汽車的映射區域，也可以是數字基礎設施，如編碼智能體的企業內部網。
• 傳感器：智能體感知環境的機制。傳感器可以是物理設備（如相機或麥克風），也可以是數字設備（如對數據庫或網絡服務的查詢）。
• 控制中心：通常與模型（如大型語言模型）一起構成人工智能智能體的核心。控制中心幫助處理信息、做出決策和規劃行動。根據人工智能智能體的能力，控制中心涉及復雜的算法和模型，使智能體能夠評估不同選項并選擇最佳行動方案。
• 感知：人工智能智能體接收到的關于其環境的數據輸入，可能來自各種傳感器或其他數據源。它們代表智能體對其環境的感知或理解。
• 效應器：智能體用于對環境采取行動的工具。在物理環境中，效應器可能包括機械臂或輪子，而在數字環境中，它們可能是發送給其他軟件系統的命令，如生成數據可視化或執行工作流。
• 行動：代表效應器所做的改變。在物理環境中，行動可能是推動一個物體，而在數字環境中，它們可能與更新數據庫相關。

人工智能智能體的演進

開發人員已經將人工智能從基于規則的系統轉變為能夠在執行任務時學習和適應的主動智能體。

人工智能智能體的發展始于 20 世紀 50 年代，從那時起，它們已經從簡單的基于規則的系統演變為能夠進行復雜決策的復雜自主實體。早期的人工智能具有確定性的行為特征，依賴固定規則和邏輯，這使得這些系統可預測，但無法從新經驗中學習或適應。

人工智能研究的進展引入了能夠處理更大數據集和管理不確定性的系統，從而產生了概率性結果和非確定性行為。這一轉變使得決策更加靈活和動態，超越了僵化的框架。

20 世紀 90 年代是一個重要的轉折點，機器學習應用變得更加廣泛。人工智能系統開始從數據中學習，隨時間適應并提高性能。在此期間神經網絡的引入為深度學習奠定了基礎，深度學習自此成為現代人工智能的核心。

自 2017 年以來，大型語言模型的興起改變了人工智能在自然語言理解和生成方面的能力。這些模型使用大量數據生成類似人類的文本并參與復雜的基于語言的任務。

如今的人工智能智能體使用各種學習技術，包括強化學習或遷移學習，使其能夠不斷提升能力、適應新環境并做出更明智的決策。

關鍵技術趨勢

在過去 25 年中，計算能力的提升、互聯網上大量數據的可用性以及新的算法突破推動了人工智能智能體能力基礎技術的顯著發展。以下是對這些技術的簡要描述：

• 大型模型：大型語言模型和大型多模態模型徹底改變了人工智能智能體的能力，特別是在自然語言處理以及文本、圖像、音頻和視頻的生成方面。大型模型的出現得益于多項技術進步和 Transformer 架構，該架構為更深入地理解上下文和單詞關系鋪平了道路，極大地提高了自然語言處理任務的效率和性能。總之，先進的人工智能模型實現了對自然語言更好的理解、生成和交互。
• 機器學習和深度學習技術：一系列技術通過提高效率和增強專業性極大地改進了人工智能模型。一些機器學習和深度學習技術的示例包括：

a.監督學習：有助于從標記數據集中學習，使模型能夠準確預測或分類新的、以前未見過的數據。

b.強化學習：使智能體能夠通過在動態環境中試錯來學習最優行為。智能體可以不斷更新其知識庫，而無需定期重新訓練。

c.基于人類反饋的強化學習：使智能體能夠通過人類反饋進行適應和改進，特別關注使人工智能行為與人類價值觀和偏好保持一致。

d.遷移學習：涉及采用預先訓練的模型（通常在大型數據集上進行訓練，如識別汽車）并將其適應于新的但相關的問題（如識別卡車）。

e.微調：涉及采用預先訓練的模型并在較小的、特定任務的數據集上進一步訓練。這個過程使模型能夠保留其基礎知識，同時提高其在特定任務上的性能。

這些以及其他學習范式經常結合使用，極大地擴展了人工智能智能體在各個應用領域的問題解決能力。人工智能智能體能力的演變如圖 2 所示，智能體類型將在下一節進一步展開。

 人工智能智能體的類型

本節概述了不同類型的人工智能智能體，并追溯了它們的演變，強調了支持其發展的關鍵技術進步。根據其定義特征，人工智能智能體可分為確定性或非確定性，如下所述：

 高級人工智能智能體

許多當前的人工智能智能體架構通常基于或與大型語言模型相關聯，其配置方式復雜。圖 3 展示了導致當前人工智能智能體突破及其不斷擴展的能力的關鍵組件的簡化概述。

人工智能智能體從用戶輸入開始，用戶輸入被導向智能體的控制中心。用戶輸入可以是執行指令的提示。控制中心將用戶輸入導向模型，模型構成了人工智能智能體的核心算法基礎。根據應用需求，該模型可以是大型語言模型或大型多模態模型。然后，模型處理來自用戶指令的輸入數據以生成期望的結果。

架構的核心是控制中心，它是管理整個系統信息和命令流的關鍵組件。它充當編排層，將輸入導向模型，并將輸出路由到適當的工具或效應器。簡單來說，該層協調以下之間的信息流動：1）用戶輸入，2）決策和規劃，3）內存管理，4）工具訪問和 5）系統的效應器，以在數字或物理環境中采取行動。

人工智能智能體的決策和規劃組件使用模型的輸出來輔助多步驟過程的決策和規劃。在這部分中，實現了諸如思維鏈（CoT）推理等高級功能，這使人工智能智能體能夠進行多步驟推理和規劃。思維鏈是一種技術，人工智能智能體通過系統地處理和闡述中間步驟來得出結論，這增強了智能體以透明方式解決復雜問題的能力，因為模型底層推理的每個步驟都以自然語言再現。

內存管理對于操作的連續性和相關性至關重要。該組件確保人工智能智能體記住先前的互動并保持上下文。這對于需要歷史數據來做出決策或在聊天機器人中保持對話上下文的任務至關重要。

工具使人工智能智能體能夠訪問和與多種功能或模態進行交互。例如，在在線環境中，人工智能智能體可以訪問外部工具，如網絡搜索以收集實時信息和日程安排工具以管理約會和發送提醒，以及項目管理軟件以跟蹤任務和截止日期。在模態方面，人工智能智能體可以使用自然語言處理工具以及圖像識別能力來執行需要理解文本和視覺數據源的任務。

一旦做出決策或制定計劃，人工智能智能體的效應器組件就會執行所需的行動。這可能涉及與物理世界交互（在機器人技術中）、執行軟件功能或向人類用戶提供建議和決策。

學習組件是模型的內在組成部分，使人工智能智能體能夠隨著模型收集更多輸入，使用第 2.1 節中提到的機器學習和深度學習技術，隨著時間的推移提高其性能。

應用層圍繞控制中心、模型和其他組件，充當人工智能智能體與其環境之間的接口。它解釋控制中心的輸出并使其適應特定任務或領域。例如，在醫療人工智能智能體中，應用層將通過適當的用戶界面將模型輸出轉換為診斷、治療建議或醫療警報。

總之，當先進人工智能智能體的各個組件協同工作時，它們代表了智能體對環境進行建模、維護帶有信念和偏好的內存或知識存儲以及學習、規劃、決策、感知（感知）、行動（交互）和與周圍環境通信的能力。

示例：汽車信息娛樂系統中的人工智能智能體

汽車信息娛樂系統中的人工智能智能體充當智能助手，通過語音命令激活，用于管理導航、娛樂、氣候控制和其他車輛設置。它處理實時交通、天氣和駕駛員偏好以優化路線，在遇到延誤或危險時建議替代路線。該智能體根據用戶習慣個性化娛樂，推薦附近的停靠點，如餐廳或加油站，并主動提供更新，如低燃油警報或電動汽車的最佳充電點 —— 所有這些都確保駕駛員始終專注于道路。

人工智能智能體系統

人工智能智能體系統是一種將多個異構（如基于規則和基于目標的智能體）或同構（如僅基于目標的智能體）人工智能智能體集成的組織結構。每個智能體通常是專門化的，擁有自己的能力、知識和決策過程，同時共享數據以協同實現系統目標。

有幾種可能的設計，例如：

• 智能體混合：其中每個智能體按順序被調用，智能體處理來自前一個智能體的輸出。
• 中央編排：協調智能體的調用并相應地管理輸入和輸出。

人工智能智能體系統旨在確保每個智能體都為總體目標做出貢獻，無論是涉及管理復雜的實時過程，如自動駕駛、優化工業過程還是協調活動；例如，在智慧城市基礎設施中。通過在專門的智能體之間分配工作量，系統可以處理動態環境并適應變化的條件，確保最佳性能。

示例：自動駕駛汽車人工智能智能體系統

一個人進入自動駕駛汽車（AV）。該自動駕駛汽車由一個人工智能智能體系統組成，包括用于感知、路徑規劃、定位（確定其在道路上的特定位置）和控制（轉向和剎車）的智能體。

感知和定位智能體致力于通過傳感器、全球定位系統（GPS）和攝像頭持續繪制環境地圖。規劃智能體根據實時交通、天氣和道路狀況計算最優軌跡。控制智能體處理車輛的核心機械操作，如剎車、加速和轉向。人工智能信息娛樂系統作為與乘客的接口，根據用戶偏好處理語音命令、調整路線、氣候、娛樂或其他車內設置。

所有智能體以協調和集中的方式協同工作，確保車輛安全、高效地到達目的地，同時優先考慮乘客的舒適和安全。

人工智能智能體的未來：邁向多智能體系統

多智能體系統（MAS）由多個獨立的人工智能智能體以及人工智能智能體系統組成，它們通過協作、競爭或協商來實現共同的任務和目標。這些智能體可以是自主實體，如軟件程序或機器人，每個通常都具有特定的能力、知識和決策過程。這使得智能體能夠并行執行任務、相互通信并適應復雜環境的變化。

多智能體系統的架構由每個參與智能體或系統的期望結果和目標決定。有幾種架構類型，例如：

• 網絡架構：在這種設置中，所有智能體或系統可以相互通信以達成符合多智能體系統目標的共識。例如，當自動駕駛汽車在狹窄空間停車時，它們會進行通信以避免碰撞。在這種情況下，多智能體系統防止事故的目標與每個自動駕駛汽車的安全導航目標一致，使它們能夠有效協調并達成共識。
• 監督架構：在這種模型中，一個 “監督者” 智能體協調其他智能體之間的交互。當智能體的目標存在分歧且無法達成共識時，這種架構很有用。監督者可以在考慮每個智能體的獨特目標的同時，調解和確定多智能體系統目標的優先級，從而找到折衷方案。例如，當買家和賣家智能體無法就交易達成一致時，可由人工智能智能體監督者進行調解。

雖然目前的努力主要集中在封閉環境或特定軟件生態系統中開發人工智能智能體，但未來可能會看到多個智能體在不同領域和應用中進行協作。在多智能體系統中，不同類型的智能體可以共同處理日益復雜的任務，這些任務需要多步驟流程，并整合來自各個領域的專業知識以實現更復雜的結果。

這些智能體可以在更廣泛的自適應系統中進行通信和交互，使它們能夠比單個智能體甚至人工智能智能體系統更有效地處理特定任務和復雜情況。

在某些情況下，多智能體系統解決了單智能體系統的局限性，如可擴展性問題、在出現故障或錯誤時缺乏彈性以及技能集有限。通過在多個智能體之間分配任務，多智能體系統可以提高效率和能力。

從理論上講，多智能體系統具有高度的適應性，因為智能體可以動態地添加或刪除，使系統能夠響應不斷變化的環境和要求。這種可擴展性對于需要隨時間增長或演變而無需大量重新設計的應用至關重要。

在許多方面，多智能體系統可以被視為一種未來的系統類型，它可以通過人類可理解的語言或有待確定的人工智能智能體協議在多個用戶或組織之間協調智能體行動。

示例：使用車對萬物（V2X）通信的智慧城市交通管理

在智慧城市中，一個多智能體系統（MAS）使用車對萬物（V2X）通信實時管理交通流量，使車輛能夠與其他車輛、行人和道路基礎設施進行交互。每個交通信號燈由一個人工智能智能體系統控制，該系統與附近的信號燈、公共交通系統、緊急服務和停車服務進行通信以檢查可用性。配備自己的人工智能智能體系統的車輛共享速度、位置和道路狀況等數據，以便進行協調行動，提高道路安全、交通效率和能源使用效率。例如，如果發生事故，人工智能智能體可以重新規劃交通路線、調整信號燈時間、通知緊急服務，并與車輛和行人進行通信以避開事故區域，所有這些都只需最少的人工干預。這個系統通過動態適應實時情況優化交通流量、提高道路安全并降低能源消耗。例如，如果一個停車場已滿，系統可以引導車輛前往更遠的可用停車場，即使這與司機和車載人工智能智能體對近距離的偏好相沖突。

多智能體系統的互操作性

多智能體系統中的一個技術挑戰是實現不同人工智能智能體和人工智能智能體系統之間的有效通信。在某些情況下，交互受到本地應用環境邊界的限制，將人工智能智能體的潛力限制在更窄和更專業化的子領域，在這些子領域中更容易保持控制。

人工智能智能體的互操作性依賴于通用通信協議，這些協議是管理人工智能智能體如何交換信息的規則和標準。這些協議通常可分為兩類：

• 預定義協議：基于已建立的智能體通信語言和本體。由于它們是預定義的，通信模式是可預測和一致的；然而，它們可能無法很好地適應出現新通信需求的動態環境。
• 涌現協議：允許智能體根據自己的經驗學習如何有效通信，通常使用強化學習技術。這使智能體能夠根據變化的環境和任務調整其通信策略。然而，解碼和理解涌現通信仍然是一個持續的研究挑戰。

很好地理解人工智能智能體之間交換的消息至關重要，否則可能會影響多智能體系統的整體可靠性。這種不一致可能會導致智能體協作時出現誤解或行動不一致，特別是在需要精確協調的復雜環境中。為了提高多智能體交互的透明度，交換的信息需要易于人類訪問和解釋。

本文轉載自??歐米伽未來研究所??，作者： 歐米伽未來研究所 ????