但一位專家表示，這一估計數字偏低。“我認為實際情況可能更糟，”網絡安全和AI專家約瑟夫·斯坦伯格(Joseph Steinberg)說，“在大型公司中，這個數字肯定要高于這個平均值。”

事實上，他預測企業中使用的高風險AI應用程序數量只會不斷增加。

這意味著，CISO需要對員工正在使用的每個GenAI應用程序進行風險評估，然后制定員工必須遵守的政策和程序。他在接受采訪時表示，并警告CISO和CEO不要采用“鴕鳥算法”——即通過忽視(甚至獎勵)員工在辦公室或家中對AI的影子使用來假裝危險不存在。

“毫無疑問，企業內部存在大量以高度有問題的方式使用GenAI應用程序的情況，”他說，“記住，我可以在我的個人電腦上使用一個GenAI應用程序，而我的公司對此毫無控制權，僅僅通過我的提問，我就可能泄露大量數據——而且可能不僅是我提問的內容，還有其他人提問的內容，因為GenAI會從問題模式中學習。”

“這很難阻止，因為企業無法完全控制這種風險，因為有人可以在自己的時間和自己的機器上做到這一點。”

他補充說，企業有時會故意或無意地獎勵員工使用未經批準的GenAI應用程序，例如，通過贊揚一份做得太好的報告。

“說實話，”他說，“許多禁止使用GenAI的公司實際上都在獎勵他們的員工使用它，他們永遠不會承認這一點，但如果你根據表現進行評估，而你的表現因為使用影子IT或AI(在自己的機器上、自己的時間里)得到了提升，如果你沒有受到懲罰，你就不會停止。”

斯坦伯格是在評論一項關于GenAI在企業中普及程度的研究時發表上述言論的，該研究分析了2024年12個月內7000多名客戶的流量日志，以檢測SaaS應用程序的使用情況，如ChatGPT、Microsoft Copilot、Amazon Bedrock等，研究還單獨查看了今年前三個月客戶數據泄露預防事件的匿名數據。

研究發現：

? 平均而言，大多數企業將在其環境中看到總共66個GenAI應用程序，大部分是“寫作助手”(占樣本的34%，其中最大的是Grammarly)，“對話智能體”(略低于29%，如Microsoft Copilot、ChatGPT和Google Gemini等應用程序)，“企業搜索”應用程序(占樣本的10%多一點)和“開發者平臺”應用程序(占樣本的10%多一點)。這四個類別加起來占GenAI應用程序的84%。

? 10%的GenAI應用程序被稱為“高風險”，因為根據客戶遙測數據，在研究期間的某個或某些時間點，客戶曾限制或阻止對這些應用程序的訪問。

? GenAI數據泄露預防事件今年比2024年增加了一倍多。

報告警告說，寫作助手并非可以輕視的應用程序。“如果AI寫作助手在沒有適當安全控制的情況下集成到企業的系統中，它可能成為網絡攻擊的載體，黑客可以利用GenAI應用程序中的弱點來訪問內部系統或敏感數據。”

“隨著GenAI的采用不斷增加，其風險也在增加，”報告說，“如果企業對GenAI應用程序及其更廣泛的AI生態系統缺乏可見性，就可能面臨泄露敏感數據、違反法規和失去知識產權控制的風險。監控AI交互不再是可選項，它對于幫助防止影子AI的采用、執行安全政策以及實現負責任的AI使用至關重要。”

報告為CISO確定了以下GenAI安全最佳實踐：

? 了解并控制企業在GenAI方面的使用情況和允許范圍。實施條件訪問管理，根據用戶和/或組、位置、應用程序風險、合規設備以及合法的業務理由來限制對GenAI平臺、應用程序和插件的訪問。

? 通過在整個基礎設施和數據安全工作流程中實施集中策略執行來實時檢查內容，以防止未經授權的訪問和敏感數據泄露。

? 通過零信任安全框架來防御現代基于AI的網絡威脅，以識別和阻止GenAI響應中的高度復雜、規避性強且隱蔽的惡意軟件和威脅。