云安全雙刃劍，如何正確利用生成式AI
以ChatGPT與Sora為代表的AIGC技術，正在以令人驚嘆的自動化、智能化能力席卷文字創作、軟件開發、影視后期等領域。打工人的“技能樹”上若缺少了AI方向的技能，都可能會讓自己在AI時代的競爭力大幅降低。那么不妨猜猜看，一向會第一時間利用各類新技術的黑客，會不會把AI技術融入到自己的攻擊流程中?
那是必然的!
延伸閱讀，點擊鏈接了解 Akamai cloud-computing
攻防兩端，AI應用并非對稱發展
雙刃劍一般的生成式AI一方面能幫助企業員工釋放生產力；但到了黑客手中，也會成為一種發起狂轟濫炸飽和式攻擊的智能化武器。近期，文生視頻大模型Sora高逼真度的人物形象塑造，就在驚艷業界的同時，讓人不禁擔心同類技術是否會被黑客濫用于深度偽造的“換臉”社會工程攻擊上。而很快就出現了一個實例：有網絡犯罪分子通過AI換臉技術巧設圈套，詐騙香港職員2億港幣。
除了來自外部的威脅會用到AI，隨著企業內部對AI的應用逐漸深入，這也會導致出現一些新的挑戰。AI高度普及的大趨勢下，AI工具正在納入多行業的工作流程中。Forrester研究咨詢公司預測，2024年有60%員工會在工作中使用自己的AI工具，但這會帶來監管和合規性挑戰。因為這是一種員工自知、公司層面未知的影子AI。譬如，這種員工可能會使用AI掃描數百個PPT內容，一旦掃描內容涉及企業機密，便有可能存在數據泄露的風險。
很多企業已經注意到這種情況，并開始采取一定的措施。IBM GenAI安全報告數據顯示，51%高管們表示，去年自己在AI網絡安全方面的預算相比2021年增加了51%。預計到2025年，預算將進一步增加43%。
那么有了想法和目標，具體又該如何應對？既然是AI造成的威脅，能否用AI技術來防范？答案是肯定的！
AI已成為影響云安全的新“變量”
攻擊多樣化
黑客對AI的武器化濫用，正在催化與激化出多種多樣的安全風險，包括由于ML模型缺陷導致的敏感數據泄露，以及惡意行為者濫用AI實施的網絡釣魚或社會工程攻擊。此外，AI生成的文本、圖像、視頻等內容作品，也存在潛在的版權風險。
常見AI風險威脅 | ||
社會工程 | 勒索病毒 | 網絡釣魚 |
數據投毒 | 數據泄露 | 版權侵害 |
攻擊界面增加
AI大模型在企業間的普及應用，得益于云服務提供的巨量算力。為實現低延遲、高可靠的響應速度，企業更需要使用云端的計算、存儲、網絡資源。從集中式的云端，到分布式的邊緣區域，當下的攻擊界面已延展至邊緣數據中心，以及更多的邊緣設備和應用系統（如物聯網），這讓安全的防護邏輯也更趨向于邊緣側，中心化的安全架構將很難實現AI架構的安全需求。
邊緣安全關注點 | ||
邊緣位置 | 邊緣設備 | 邊緣威脅 |
攻擊巨量高頻
基于AI武器化工具的自動化能力，黑客發起攻擊的體量與頻次持續飆升。威脅情報公司SlashNext報告顯示，從2022年底到2023年第三季度，惡意網絡釣魚郵件出現了1265%的增幅。應對海量高頻的攻擊體量，僅依靠企業IT團隊的人工運維，將不足以構筑強有力的安全防線。
AI時代，Akamai給出四大云安全對策
鑒于“黑客 + AI”所進化出的高頻、多樣、大面積攻擊形態，2024年將成為企業夯實AI云安全基礎的關鍵一年。在多種攻擊樣式中，上文提及的社會工程攻擊已成為網絡犯罪分子的首選武器。黑客通過精心巧設的騙局手法，從財務、人事等非IT部門雇員入手，撕開企業的安全缺口。
針對AI的安全防御缺口有多大呢？相關數據顯示，有94%的高管已意識到部署AI解決方案之前確保安全非常重要；但在未來六個月內，僅有24%創新型AI項目，將包含網絡安全組件。
為什么層出不窮的網絡犯罪分子總是能策劃出“令人信服”的高仿釣魚郵件、仿冒網站、假面會議等騙局？這是由于借助AI更容易查到受害者的個人隱私信息、生物信息、社會關系信息，并通過生成式AI技術進行深度模擬與偽造。面對從種種維度滲透入侵的攻擊“誘餌”，整個數字化社會與企業組織全員，都需要提升云安全素養，展開針對惡意AI的“全員反詐”。
為了幫助企業構筑安全防線，善用AI提升安全識別力，Akamai提出了下列四條對策：
- 定期展開云安全培訓，培養全員AI應用素養：泛濫于視頻宣傳等領域的AI深度偽造，對輿論的影響力和破壞力驚人。全社會與企業組織成員，均需展開相關培養，培養全員AI素養來提升識別欺詐的意識，以及安全應用AI的標準操作。
- 不僅僅依賴IT部門，全員協同共構安全防線：多云與邊緣創新趨勢下，攻擊界面持續擴張，API與供應鏈攻擊無孔不入。由于AI架構的變化以及AI工具使用范圍的擴大，整個的安全體系更需要下沉，組織不僅要借助IT部門預測不斷變化的威脅，還要定期評估組織的整體安全和風險態勢，全員共構安全防線。
- 真正做好安全基礎工作，仍然是第一防御要務：從AI基礎架構、核心組件、通信協議、基礎算法等方面，依舊存在傳統的安全威脅。要做好AI的安全防護，更需要在威脅的識別、可視化、零信任、微隔離、API安全等方面，夯實安全基礎防護。防控AI大模型的數據泄露風險，即可采用零信任架構與API可視化和行為分析。
- 用AI點亮安全視野，提升全域威脅可見性：以AI對抗AI是當下的一大云安全策略。利用AI的深度學習能力，建立攻擊識別模型，提升攻擊識別度、降低誤報率。Akamai云安全產品中便融合有深度學習算法，可助力企業客戶對惡意爬蟲與釣魚攻擊的識別；借助AI大模型能力，還能夠收集到更多威脅情報，通過深度分析得到更精準的威脅感知和預警。
應對黑客在濫用AI上所取得不對稱優勢，Akamai現有傳統人工智能類產品能力，可以幫助客戶檢測到“異常情況、攻擊情況、碰撞攻擊、帳號盜用”等風險，在安全事件發生前提升對威脅的可見性。
基于ML算法構建的三大優勢
1、可擴展性
對于Akamai全球智能云平臺捕獲的大量數據，可由機器學習算法來完成分析，以此來應對黑客的規?；柡凸舻木薮篌w量。
2、動態識別
機器學習算法對于攻擊的識別，并非靜態的簽名模式，而是可以動態提取字段，多角度進行賦分、判別攻擊的類別和等級。
3、自動運維
機器學習算法獲得新數據時，會更新規則、動態調整策略，采用Deny模式，進而解放安全運維的人力操作，智能實現安全策略的部署、檢測、優化等功能。
同時，面對層出不窮的網絡釣魚、勒索軟件攻擊、DDoS高峰惡意流量沖擊等AI助攻下的巨量威脅，Akamai也有針對性地積淀與構建了一系列云安全產品線，緩解AI所帶來的潛在安全威脅。
注入AI能力的云安全產品矩陣
Akamai App & API Protector
提供給自適應安全保護引擎，自動為企業的應用程序和API推送更新的保護措施；借助Akamai管理的更新和機器學習賦能的自主調優，可盡可能減少工作量，無需進行耗時的手動維護。
Akamai Bot Manager
使用AI模型檢測高級爬蟲程序，進行用戶行為分析、瀏覽器指紋識別等主動安全防御；基于每天數十億的爬蟲程序請求和登錄，從更真實、更具價值的數據中獲取情報。
Akamai Guardicore Segmentation
輸出全域IT基礎架構的動態安全圖譜，查看用戶實時和過往的進程級顆粒度活動，借助AI建議、用于修復勒索軟件和常見案例的模板以及精確工作負載屬性，跨混合云、本地和傳統系統保護關鍵資產，實現更具精細粒度的AI微分段模式。
Akamai Hunt
Akamai Hunt托管威脅搜尋服務，在收集到分段部署的本地數據和DNS傳感器中全局數據等信號源后，可以將AI/ML分析應用于多個遙測源和收集的信號，快速檢測威脅；隨后，通過詳細的實時告警提供相關見解和抵御威脅的安全信息。
云邊一體，AI向未來
回顧Akamai云安全創新歷程，自2016年以來，Akamai一直在利用深度學習AI幫助客戶部署安全解決方案。借助AI工具支持分析和分類Akamai每天觀察到的超過450TB新攻擊數據和11萬億次DNS查詢，構建有全球范圍內的云安全可見性。
伴隨著企業愈發需在邊緣獲取高性價比、高穩定性、超低延遲的算力資源與安全防護，Akamai也在持續研究如何更好地使用大語言模型和生成式AI, 未來將進一步增強Akamai Connected Cloud等云計算、云安全、云分發產品矩陣效能，助力客戶貼近終端用戶的計算、安全與內容交付需求，煥新智能開發與安全運維體驗，全方位釋放生產力，加速全球化市場布局。
如您所在的企業也在考慮采購云服務或進行云遷移，
點擊鏈接了解Akamai Linode的解決方案
