許多利益相關者開始接受這樣一個事實，即人工智能也可以是“邪惡”的力量。根據國外相關媒體報道，在美國和日本，超過90%的網絡安全專業人士預計黑客會開始使用人工智能發動攻擊。事實上，這已經成為現實。

人工智能為網絡黑客提供了巨大的機會，使他們能夠在速度、數量和復雜程度方面大規模增加攻擊。根據Alejandro Correa Bahnsen在Cyxtera中，基于AI的攻擊可以在超過15%的時間內繞過傳統的檢測系統，而普通的網絡釣魚攻擊(沒有人工智能)只能在0.3%的時間內檢測到攻擊。

用人工智能保衛人工智能：下一代網絡威脅的人工智能解決方案

在應對這種日益增長的威脅時，需要注意的是，基于人工智能的進攻的同時，也可以做出基于人工智能的防御。也就是說，deepfakes可以欺騙安全系統，因此應用更高級別的人工智能支持的身份驗證等等。

現在只是剛剛開始接受人工智能的風險。企業應盡快采取行動保護其系統免受這些攻擊。WannaCry為網絡攻擊引入了一個完全不同的復雜程度——現在加上人工智能?那么我們不知道以后會發生什么事。

人工智能在網絡攻擊中的風險

1、可擴展性

在2016年的黑帽大會上，資深研究人員首次展示了自動魚叉式釣魚程序. 魚叉式網絡釣魚通常是一種任務分配和耗時的方式，這取決于攻擊的范圍。攻擊者很可能需要收集大量關于目標的信息，以進行有效的社會工程。這些研究人員展示了如何使用數據科學和機器學習來自動化和規模化魚叉式網絡釣魚攻擊。

2、假冒

早在幾個月前，有專家認為，以后AI是網絡犯罪的主要威脅。因為AI具體了現在網絡犯罪的所有智能特征，加上它可以學習冒充。這種冒充行為可能很容易就騙過一部分人，通過特定的方式進行詐騙。更糟糕的是，AI是得天獨厚的產物，它可能在實施的過程中不斷升級做出自我修正，所以很多時候我們有所懷疑也會被它首先遇見。

可能有人說使用更高級的語音或者生物身份認證。但前度時間熱門“螞蟻呀嘿”為什么突然銷聲匿跡了，因為就是暴露了人面識別生物的安全漏洞。

3、躲避檢測

人工智能可以用來逃避檢測的一種方法是數據中毒. 通過鎖定和破壞用于訓練和配置智能威脅檢測系統的數據，例如，使系統明顯地將垃圾郵件標記為安全的，黑客可以更隱蔽、更危險地轉移目標。

研究表明，僅對一個數據集的3%進行毒害，就可以使錯誤的可能性提高91%。人工智能可以用來逃避攻擊同時也可以適應防御機制。

4、復雜性

以上所有的要點都強調了人工智能如何增強攻擊。由于自動化和機器學習，人工智能攻擊的情況更糟。無論攻擊成功與否，自動化突破了人類努力的局限，而機器學習則使攻擊算法從經驗中改進，變得更加高效。

適應性意味著，除非開發出更強大的抵抗創新工具，否則基于人工智能的攻擊只會變得更強大、更危險。

用人工智能防御人工智能

A、 威脅檢測的機器學習

在用人工智能防御人工智能的過程中，機器學習可以幫助自動檢測威脅，尤其是對于傳統防病毒和防火墻系統無法抵御的新威脅。機器學習可以將傳統威脅檢測中的嚴重威脅誤報實例顯著減少50%到90%(網絡安全智能化)。

與上一代基于特征的檢測工具不同，機器學習可以監視和記錄組織中員工的網絡使用模式，并在觀察到異常行為時發出警報。

顯然地， 93%的SOC現在在威脅檢測中使用人工智能和機器學習工具。生成的數據越多，網絡攻擊越復雜，安全專業人員就必須通過有監督和無監督的機器學習來增強他們的防御和檢測能力。

B、 通過增強人工智能認證

弱身份驗證是惡意參與者獲得對端點的未授權訪問的最常見方式。即使是生物特征認證也似乎不再具有防故障功能。人工智能通過增加防御能力來提高防御能力認證要求。

基于風險的認證工具使用人工智能支持的行為生物特征識別可疑活動并防止端點泄露。然后，身份驗證擴展到實時智能的用戶驗證. RBA也稱為自適應智能，它評估位置信息、IP地址、設備信息、數據敏感度等詳細信息，以計算風險評分并授予或限制訪問權限。

例如，如果一個人在工作日的早晨總是通過計算機登錄，而且有一次，他試圖在周末通過移動設備在餐廳登錄，這可能是一種異常的跡象，系統會及時對其進行標記。

對于智能RBA安全模型，僅僅知道系統的密碼對于攻擊者來說是不夠的。

除此之外，人工智能認證系統將開始實施連續身份驗證，同時仍在使用行為分析。該系統不是每個會話只登錄一次，而是在中途受到攻擊，而是在后臺連續工作，通過分析用戶環境和行為以確定可疑模式，從而對用戶進行身份驗證。

C、預防網絡釣魚的人工智能

增強威脅檢測是人工智能用于防止電子郵件釣魚攻擊而且，在使用網站下載媒體內容時，還可以實現安全性。它也可以通過簡單的行為分析來實現。假設你收到一封據稱是老板的郵件或者信息，AI可以對信息進行分析，找出與實際老板平時溝通方式與其或者行為式不一致的模式。

諸如寫作風格、語法和單詞選擇等功能可以揭示矛盾，防止陷入陷阱，并安全地瀏覽和下載。

人工智能還可以掃描電子郵件元數據來檢測被篡改的簽名，即使電子郵件地址看起來沒問題。它還掃描鏈接和圖像以驗證其真實性。與傳統的反網絡釣魚工具不同，傳統的反釣魚工具通過容易繞過的過濾器來阻止惡意電子郵件，人工智能直接面對網絡釣魚電子郵件的核心：社會工程。

讓社會工程攻擊難以克服的是，它們是心理上的，而不是技術上的。到目前為止，純粹的人類智慧和懷疑論一直是克服它們的工具。現在，人工智能已經加強了預防，將憂慮擴展到人類的極限之外。

通過識別對人類來說不太明顯的模式，人工智能可以確定電子郵件何時是惡意的即使它不包含任何可疑的鏈接或代碼。它通過自動化大規模地做到了這一點。

D、 預測分析

人工智能在網絡安全方面的最終好處是能夠在攻擊發生之前預測并建立防御。人工智能可以幫助人類監督者在組織的整個網絡基礎設施上保持全面的可見性，并分析端點以檢測可能的漏洞。在這個遠程工作和BYOD策略的時代，IT部門越來越發現端點安全性困難，AI可以使他們的工作更輕松。

人工智能是我們對0day漏洞的最佳選擇，允許我們在這些漏洞被惡意參與者利用之前快速構建智能防御。人工智能網絡安全正在成為我們組織的一種數字免疫系統，類似于人類體內的抗體如何成為針對外來物質的系統攻擊。

結論

去年，一些澳大利亞研究人員繞過了著名的Cylance 人工智能殺毒軟件，沒有使用數據集中毒的常用方法。他們只是研究了殺毒軟件的工作原理，并創建了一個通用的繞過解決方案。這次演習要求質疑離開計算機來決定什么是值得信任的做法，也引起了人們對人工智能對網絡安全的有效性的質疑。

然而，更重要的是，這項研究強調了這樣一個事實：人工智能并不是一顆靈丹妙藥，人類的監督對于打擊先進的網絡威脅仍然是必要的。我們所知道的是，僅靠人類的努力和傳統的網絡安全工具是不足以克服由人工智能驅動的下一代網絡威脅的。

我們必須把人工智能作為對付人工智能的最佳攻防手段。