隨著人工智能(AI)和機器學習(ML)越來越多地部署在整個組織中，他們的任務是解決一些最大的業(yè)務挑戰(zhàn)。最難的問題之一：IT安全。

根據(jù)IBMSecurity的數(shù)據(jù)，2020年，全球數(shù)據(jù)泄露的平均成本為386萬美元，美國為864萬美元。隨著我們的技術堆棧隨著微服務、物聯(lián)網(wǎng)和云服務變得更加復雜，我們必須保護的端點數(shù)量不斷增加。

[[427497]]

企業(yè)可以利用人工智能的力量來對抗更狡猾的惡意軟件和網(wǎng)絡釣魚攻擊。我們還可以使用它來增強我們的安全團隊，使他們能夠處理越來越多的威脅。

隨著這些算法成為我們IT系統(tǒng)中更重要的部分，我們還需要詢問我們?nèi)绾伪Ｗo我們自己的AI。讓我們深入探討人工智能和機器學習在保護我們的組織方面可以產(chǎn)生的影響。

識別不斷發(fā)展的惡意軟件和網(wǎng)絡釣魚攻擊

惡意軟件和網(wǎng)絡釣魚攻擊變得越來越復雜。惡意軟件作者不斷產(chǎn)生新的變種，拋棄舊的病毒特征以逃避檢測。當安全專業(yè)人員追逐這些不斷變化的病毒藍圖時，這是一場終極的打地鼠游戲。

機器學習可以提供幫助。通過使用所有已知惡意軟件的歷史目錄，它可以查明常見的行為模式，例如常見的文件大小、這些文件中存儲的內(nèi)容以及代碼中隱藏的字符串模式。通過識別這些指紋，可以實時關閉新病毒或現(xiàn)有病毒的變種。

機器學習可以實時查明模式并關閉惡意軟件。

使用人工智能，網(wǎng)絡釣魚攻擊變得類似于精心調(diào)整的營銷電子郵件。犯罪者不僅可以通過網(wǎng)絡挖掘您的姓名和電子郵件地址，還可以了解您的工作地點、興趣以及您信任的朋友和同事的姓名。這始終可以手動完成，但人工智能使黑客能夠大規(guī)模構(gòu)建這些自定義配置文件。

除了針對特定主題和人員定制電子郵件內(nèi)容外，黑客還可以分析電子郵件回復，看看哪些措辭會觸發(fā)更大的點擊率，因為它會不斷學習如何制作完美的網(wǎng)絡釣魚鉤子。

為了解決這個問題，我們可以設置人工智能來監(jiān)控我們的網(wǎng)絡，以確定我們員工日常活動的模式。一旦建立了基線，該模型就可以識別網(wǎng)絡釣魚鏈接的點擊何時不正常，并在用戶憑據(jù)被盜用之前關閉惡意活動。它是一個非常有針對性的安全墻，圍繞用戶構(gòu)建，對整個網(wǎng)絡和業(yè)務造成的干擾最小。

加入競賽

人工智能社區(qū)一直是開源的強大支持者。他們定期共享源代碼和數(shù)據(jù)集，以幫助進一步發(fā)展這項有前途的技術。

不幸的是，你不能在代碼庫周圍放置鐵絲網(wǎng)來阻止壞人。當您將這些現(xiàn)成的工具與云計算能力相結(jié)合時，任何黑客都擁有工具和基礎設施來構(gòu)建基于人工智能的攻擊，以達到毀滅性的效果。

雖然我們的數(shù)據(jù)有限，關于有多少黑客是由人工智能推動的，但我們知道這將是未來幾年黑客工具包中的一項強制性技能。隨著人工智能工具變得越來越強大，計算時間越來越便宜，哪個黑客不想加大對類固醇的攻擊?

這確實是一場軍備競賽，組織將被迫部署人工智能安全解決方案，以跟上流氓行為者的步伐。

保護人工智能免受黑客攻擊

這個問題有另一方面：據(jù)Gartner稱，37%的組織已經(jīng)在某種程度上實施了人工智能。這比四年前增加了470%。

人工智能和機器學習正迅速成為我們IT基礎設施的關鍵組成部分。這使他們成為目標。如果黑客可以訪問我們的AI，他們就可以毒害我們的數(shù)據(jù)以感染我們的模型。他們可以利用我們算法中的錯誤來產(chǎn)生意想不到的結(jié)果。無論是執(zhí)行軍事任務的無人機，還是向客戶提供產(chǎn)品的工作流程，失敗都可能是災難性的。

增加而不是替換安全人員

人們聽說機器人和人工智能如何準備取代他們的工作。但通常情況下，人工智能將補充我們的工作，使我們更有效地發(fā)揮我們的作用。網(wǎng)絡安全也不例外。

人工智能安全工具不是您安裝后忘記的東西。它們是機器學習模型，必須在數(shù)百萬個數(shù)據(jù)點上進行訓練。如果模型沒有產(chǎn)生所需的響應，那么您將比以往任何時候都更容易受到攻擊，因為您是在錯誤的安全感下運作的。

一旦模型經(jīng)過審查，工作就不會停止。與您之前的解決方案相比，這種新的監(jiān)控可能會捕獲更多的異常。安全專業(yè)人員需要對這些警報進行分類，以將潛在威脅與噪音區(qū)分開來。沒有適當?shù)那趭^，一切都會變成噪音。

人工智能在安全方面的局限性

人工智能和機器學習并不是萬能的。安保人員必須與這些模型密切合作，對它們進行培訓和磨練，而這些專業(yè)人員既不便宜也不容易找到。

另一個挑戰(zhàn)是數(shù)據(jù)和成本：我們需要積累足夠的干凈數(shù)據(jù)來構(gòu)建我們可以信任的強大算法。干凈的數(shù)據(jù)不會發(fā)生——必須對其進行分析和驗證以確保其準確性。

存儲大量數(shù)據(jù)和購買必要的計算時間來運行大量ML算法的成本非常高，而實施包羅萬象的人工智能安全解決方案對某些人來說可能過于昂貴。根據(jù)《哈佛商業(yè)評論》，40%的高管表示人工智能計劃所需的技術和專業(yè)知識過于昂貴。

傳統(tǒng)的防病毒和防火墻解決方案無法跟上零日威脅和惡意軟件變種浪潮的步伐。人工智能和機器學習提供了一種主動解決方案。他們可以從用戶社區(qū)中找到行為模式，以在威脅開始之前阻止威脅。人工智能可以幫助安全專業(yè)人員消化大量數(shù)據(jù)以查明問題。他們可以幫助我們跟上意圖傷害人工智能黑客社區(qū)的步伐。

在成為所有企業(yè)的安全解決方案之前，人工智能仍有一些成熟的工作要做，但它正在迅速發(fā)展。如果沒有人工智能和機器學習的核心，很難想象IT安全的未來。