每家公司都存在信息缺口和瓶頸，歸根結底，這正是AI為企業帶來的真正價值：擴大信息獲取渠道，幫助人們連接更多信息點。

但是，當你部署一個像智能體這樣的系統，該系統連接著企業的每一個數據源，旨在回答問題、主動從數百個應用程序或部門中挖掘洞察，并采取行動(無論是否有人類提出要求)，會發生什么呢?

你會得到一個可能極大提升生產力的智能體，但同時也可能成為一個重大的安全風險。

好了，別急著渲染末日氛圍——這個問題并非完全新鮮，畢竟，近六成的安全漏洞都是由人為造成的。

但是，由數百個應用程序提供企業數據支持、能夠以前所未有的規模分發這些信息的智能體，卻將擔憂提升到了一個新的層次。事實上，Gartner預測，到2028年，智能體將成為四分之一企業安全漏洞的罪魁禍首。

隨著企業尋求采用和部署智能體，它們必須確保這項新興技術能夠與企業數據深度融合，以充分發揮其能力，同時防止關鍵數據泄露。

智能體何時應行使判斷力?

若要使2025年成為自主式AI進入職場的一年，智能體必須知道何時以及如何“守口如瓶”，以避免泄露敏感數據。

如果沒有為智能體制定適當的數據管理和訪問管理政策，它們可能會變得不合規，并產生數據隱私風險，無意中將數據泄露給不應訪問的用戶。

許多數據平臺提供商都提供治理工具，這些工具可以幫助確保數據安全、準確性和完整性，但它們的局限性也很顯著。

這些解決方案通常技術性強且復雜，因為它們是為分析師和數據科學家設計的，而不是為那些越來越多地使用智能體來增強工作的營銷人員、銷售人員或服務專業人員設計的。

由于大多數這些數據平臺并非為商業用戶而建，它們通常也與業務流程脫節——即CRM和企業應用程序，而這些正是用戶每天工作的地方，這種脫節意味著智能體缺乏商業背景知識，無法理解何時以及如何保護某些數據，如客戶信息或敏感研究。

如果沒有這種背景知識和適當的管理政策，企業將面臨數據不合規、數據泄露和AI濫用的風險，從而損害信任并減緩創新步伐。

嚴格的數據管理和AI政策很快將成為基本要求，Gartner預測，到2027年，全球各國政府將頒布AI管理法律，而信任、風險和安全管理能力將成為AI產品的主要差異化因素。

如何建立管理控制

智能體之所以如此強大，不僅在于它們能夠像全天候響應客戶問題或預訂銷售會議那樣自主采取行動，還在于它們植根于企業的數據之中，這使得智能體能夠根據客戶與品牌的完整旅程，個性化客戶互動或為人類員工推薦后續步驟。

但是，對如此廣泛的企業數據的訪問也意味著企業必須建立訪問管理政策，以確保智能體及其用戶只能訪問他們有權查看的數據。

幸運的是，AI與企業管理數據多年的實踐并無太大不同，基于政策驅動的訪問建立了規則，以管理不同用戶和智能體對結構化和非結構化數據的訪問。

例如，一家生命科學公司可能會限制對研發數據的訪問，同時允許更廣泛的營銷信息訪問。對于在歐盟和美國設有業務足跡的公司，訪問政策可能會禁止美國用戶訪問在歐盟創建的客戶數據，以遵守《通用數據保護條例》(GDPR)。

技術挑戰在于在整個企業中大規模實施一致的數據訪問。

數據混合，或從多個來源組合數據，從未像現在這樣成為一項艱巨的任務，根據MuleSoft的2025年連接性基準報告，近一半的企業平均管理著超過1000個獨立的應用程序，而只有2%的企業成功整合了超過一半的應用程序。

數據孤島是IT領導者面臨的最大障礙之一，它限制了企業擴展AI驅動自動化和提供實時、個性化體驗的能力。

好消息是，如今建立訪問政策比以往任何時候都更容易，企業可以通過點擊創建政策，并將其附加到例如在CRM生態系統中定義為銷售、服務或營銷員工的用戶上，該政策將告知智能體向用戶展示哪些數據，防止他們訪問未經授權的信息。

人類與智能體如何協同工作

智能體的潛在好處是不可否認的，隨著智能體承擔日常任務，人類員工得以解放，可以專注于更具創造性和戰略性的優先事項。

很快，多智能體系統(其中智能體可以調用其他智能體或潛在地創建新智能體)將成倍地增加個人和企業所能做的事情——開啟一個增長不再局限于人類產出的世界。

當然，這一未來只有當人類信任他們的智能體助手時才可能實現，對智能體能力的信心對于推動自主式AI革命至關重要。

CIO將在建立對AI系統的信任方面發揮最重要的作用，承擔起設置數據管理和訪問政策的責任，并允許根據特定用例和組織結構進行定制。

他們將負責確保智能體考慮請求的地理來源、發出請求的人以及他們被授權的訪問級別等上下文因素，以防止數據泄露，這使CIO能夠在降低風險的同時，在整個企業中擴展智能體的部署。

隨著人類員工越來越多地與自主智能體合作，這項技術的提供商必須確保智能體知道如何自我審查并防止安全漏洞，同時盡可能為人類同事提供信息豐富且有幫助的服務。