企業中的大部分AI應用對安全團隊而言是不可見的

大多數企業內部的AI活動都在IT和安全團隊不知情的情況下進行。根據Lanai的數據,企業中高達89%的AI使用是“隱形”的,帶來了數據隱私、合規與治理方面的風險。
隨著AI功能直接嵌入各類業務工具,這一“盲區”正在擴大。員工常將個人AI賬戶連接到工作設備,或使用未經批準的服務,使安全團隊難以監控。Lanai指出,這種缺乏可見性的狀況讓企業面臨數據泄露和監管違規的威脅。
隱形的AI使用場景
在醫療行業,員工使用AI工具總結患者數據,引發了 HIPAA(美國健康保險可攜性與責任法案)相關隱私擔憂。金融領域的團隊在準備IPO時,不知不覺將敏感信息轉入個人ChatGPT賬戶。保險公司利用嵌入式AI功能按人口統計數據細分客戶,可能違反反歧視規定。
Lanai的CEO Lexi Reese提到,一個令人意外的發現來自那些已經獲得IT批準的工具:
“最讓我吃驚的是,很多創新隱藏在已獲批準的應用(包括SaaS和自建應用)內部。比如,一個銷售團隊將郵政編碼的人口統計數據上傳到Salesforce Einstein,用以提升追加銷售轉化率,雖然帶來了營收增長,卻違反了州級保險定價的反歧視規則。
表面上看,Salesforce是獲批平臺,但實際嵌入的AI功能帶來了CISO從未察覺的合規風險。”
Lanai表示,這只是更廣泛趨勢的縮影。AI經常內嵌在Salesforce、Microsoft Office、Google Workspace等常用工具中。由于這些功能是員工日常使用的一部分,它們可以繞過傳統的 DLP(數據泄露防護)和網絡監控措施。
Lanai平臺的運作方式
為應對這一問題,Lanai推出了一款基于終端的AI可觀測智能體,該平臺直接在員工設備上安裝輕量級檢測軟件,在“邊緣”實時捕捉AI活動,而無需將數據回傳至中央服務器。
Reese解釋,這種架構需要解決復雜的工程難題:
“在終端運行AI模型改變了游戲規則。簡單的辦法是維護一個靜態列表,然后分析瀏覽器的訪問或把每次對話傳到云端,但這兩種方式要么更新滯后,要么產生新的數據外泄風險。
我們將提示檢測模型直接部署在筆記本和瀏覽器中,數據流量不離開設備邊界。難點在于:既要壓縮檢測模型以確保性能不受影響,又要足夠智能以識別提示交互,而不僅僅是識別應用名稱。
一旦識別出AI交互,我們的SaaS平臺會通過風險與工作流智能模型,對提示模式進行聚類分析,而非簡單掃描關鍵字。這既保護隱私,又減少延遲,讓我們可以在數千個終端上擴展,而不會拖慢系統。”
Lanai表示,借助標準的移動設備管理(MDM)系統,該軟件可在 24 小時內完成部署。安裝后,企業即可了解自身的AI使用足跡,并制定管理策略。
治理優先,而非一刀切封禁
Lanai強調,其目標不是徹底阻止AI,而是為 CISO 等領導層提供決策所需的可見性。企業可以據此評估風險,決定哪些工具可以批準或限制。
Reese 指出,對于受嚴格監管的行業,如醫療,僅靠應用層面的監控遠遠不夠:
“獲批的平臺不代表獲批的工作流。我們關注的是提示與數據模式,而不僅僅是應用。
例如,在一家大型醫院網絡中,臨床醫生使用其網頁端 EHR(電子病歷)系統中嵌入的AI總結功能自動生成患者就診摘要。表面看,這屬于經過批準的 EHR 平臺,但該流程將受保護的健康信息(PHI)輸入了不在 HIPAA 商業合作協議范圍內的AI模型。
Lanai能夠識別這種差異,不是因為簡單標記‘EHR 使用’,而是通過識別特定的提示+數據模式,發現敏感患者記錄進入了不安全的AI流程。
我們會檢測提示中涉及的數據類型、調用的AI功能,以及流程是否符合企業或監管方定義的敏感場景,從而在同一個 SaaS 工具內部實時區分合規創新與高風險濫用,而這是傳統監控無法做到的。”
量化成效
Lanai表示,采用其平臺的組織在減少AI相關事件方面取得了顯著成效:
“在那家醫療體系中,‘數據暴露事件’主要是指臨床醫生將患者記錄、實驗室結果或受保護的健康信息粘貼到 EHR 或生產力應用中的AI功能里。
部署Lanai 60天內,客戶相關事件減少了高達 80%。并非員工停止使用AI,而是因為企業終于獲得了可見性,能夠及時標記并引導不安全的流程,”Reese 說。
在金融服務領域也出現了類似趨勢:部分機構在一個季度內,將未經批準的AI在敏感財務數據分析中的使用減少了約 70%。有時這是因為未經批準的應用被停用,另一些情況下,企業則通過將AI使用場景納入獲批技術堆棧的安全環境中,既保留了生產力優勢,又消除了風險。
























