一種名為ChatGPT的語言生成AI模型免費提供，已經(jīng)風靡互聯(lián)網(wǎng)。雖然人工智能有可能幫助IT和安全團隊提高效率，但它也使威脅行為者能夠開發(fā)惡意軟件。

在接受 Help Net Security 采訪時，Ivanti 首席安全官 Daniel Spicer 談到了這項技術(shù)對網(wǎng)絡(luò)安全的意義。

關(guān)于人工智能在網(wǎng)絡(luò)安全中的應(yīng)用，有哪些理由值得關(guān)注？

科技行業(yè)一直專注于創(chuàng)建生成人工智能，該人工智能響應(yīng)命令或查詢以生成文本、視頻或音頻內(nèi)容。這種類型的人工智能無法分析和情境化數(shù)據(jù)和信息以提供理解。

目前，生成式人工智能的價值，如ChatGPT和DALL-E，是偏向于威脅行為者的。生成式 AI 為您提供您所要求的內(nèi)容——這在制作網(wǎng)絡(luò)釣魚電子郵件時很有用。信息安全需要人工智能，它可以獲取信息，通過額外的上下文增強信息，并根據(jù)其理解得出結(jié)論。

這就是為什么生成式 AI 解決的用例對威脅參與者極具吸引力的原因。關(guān)于威脅行為者應(yīng)用人工智能的一個明顯擔憂與社會工程有關(guān)。人工智能可以毫不費力地創(chuàng)建大量復雜的網(wǎng)絡(luò)釣魚電子郵件。它還可以創(chuàng)建非常逼真的虛假配置文件。即使是以前被認為合理無機器人的地方，如LinkedIn，現(xiàn)在也有令人信服的個人資料，甚至包括個人資料圖片。我們才剛剛開始看到影響。

我們還已經(jīng)看到威脅行為者正在使用 ChatGPT 來開發(fā)惡意軟件。雖然 ChatGPT 的代碼編寫能力的質(zhì)量結(jié)果好壞參半，但專門從事代碼開發(fā)的生成式 AI 可以加速惡意軟件的開發(fā)。最終，我們將看到它有助于更快地利用漏洞 - 在漏洞披露后的幾個小時內(nèi)，而不是幾天。

另一方面，人工智能有可能幫助IT和安全團隊變得更加高效和有效，實現(xiàn)自動和/或半自動漏洞檢測和修復以及基于風險的優(yōu)先級。這使得可以分析數(shù)據(jù)的人工智能對于面臨資源限制的IT和安全團隊來說非常有前途，但不幸的是，這種類型的工具尚不存在，當它存在時，由于需要培訓才能理解特定環(huán)境中的“正常”，因此實施起來可能很復雜。

該行業(yè)現(xiàn)在需要將注意力轉(zhuǎn)向構(gòu)建人工智能，以幫助防御者分析和解釋大量數(shù)據(jù)。在我們看到人工智能工具能夠理解的巨大改進之前，攻擊者將繼續(xù)擁有優(yōu)勢，因為今天的工具滿足他們的要求。

ChatGPT 已實施檢查以防止惡意使用。這些檢查是否足以阻止網(wǎng)絡(luò)犯罪分子？

一句話，沒有。到目前為止，ChatGPT實施的檢查是無效的。例如，研究人員發(fā)現(xiàn)，您向 ChatGPT 提問的方式會顯著改變其響應(yīng)，包括拒絕惡意請求的有效性。根據(jù)您為生成AI工具提供的命令，可以將惡意軟件攻擊的所有步驟拼湊在一起。這種情況的一個好處是 ChatGPT 目前沒有寫出好的代碼——但這種情況會改變。

ChatGPT 的部署應(yīng)該被視為一個大型的演示體驗。這是他們的測試版發(fā)布。生成式人工智能將繼續(xù)變得更好——它已經(jīng)降低了網(wǎng)絡(luò)釣魚攻擊的門檻——未來我們將擁有能夠開發(fā)惡意軟件的更好版本的技術(shù)。

這將改變惡意軟件開發(fā)人員和AV / EDR供應(yīng)商之間的軍備競賽，因為以代碼為中心的AI可以操縱代碼來改變設(shè)計，而不是傳統(tǒng)的打包服務(wù)。

我們不能把精靈放回瓶子里。威脅行為者在其攻擊武器庫中使用生成式人工智能是必然的，現(xiàn)在我們需要專注于如何防御這種新威脅。

ChatGPT 會被沒有技術(shù)知識的攻擊者濫用嗎？

可以肯定的是，ChatGPT 將大大降低威脅參與者基于技能的進入成本。目前，威脅的復雜性或多或少與威脅行為者的復雜性有關(guān)，但ChatGPT 已經(jīng)將惡意軟件空間開放到一個全新的新手威脅參與者水平，他們有一天將能夠更容易地遠遠超過他們的體重。

這是令人震驚的，因為它不僅擴大了潛在威脅的數(shù)量和潛在威脅行為者的數(shù)量，而且還使那些幾乎不知道自己在做什么的人更有可能加入戰(zhàn)斗。即使在惡意軟件領(lǐng)域，也存在前所未有的固有魯莽行為。

但這仍然有其挑戰(zhàn)。由于我們知道該技術(shù)是成功的，我們將看到迭代和改進。

在ChatGPT的未來版本中會發(fā)生什么，用戶可以連接到查找漏洞的工具？

網(wǎng)絡(luò)安全領(lǐng)域已經(jīng)面臨著控制大量代碼漏洞的挑戰(zhàn)。人工智能將把這些數(shù)字推得更高，因為它在發(fā)現(xiàn)漏洞方面既更快又更聰明。結(jié)合人工智能編碼人員，我們可以在幾分鐘內(nèi)看到新發(fā)現(xiàn)的漏洞的武器化，而不是幾天。

需要明確的是，人工智能目前還沒有更好或更快，但我們預(yù)計這種情況會發(fā)生。總有一天，我們將看到漏洞檢測、漏洞武器化和有效載荷都是由人工智能完成的，無需人工干預(yù)。

Check Point研究人員演示了ChatGPT如何創(chuàng)建合理的網(wǎng)絡(luò)釣魚電子郵件。一旦攻擊者開始使用 AI，您預(yù)計威脅將如何演變？

同樣，人工智能使技術(shù)知識有限的人更快、更容易訪問，以產(chǎn)生大量逼真的網(wǎng)絡(luò)釣魚攻擊和虛假個人資料。由于這個入口相對較新，因此在這一點上，它對菜鳥威脅演員來說有點混戰(zhàn)。但是，隨著威脅行為者對人工智能越來越熟悉，我們將看到這種復雜性隨著威脅行為者相互競爭以獲得訪問權(quán)限和知名度而增長。

未來，我們將擁有能夠完成整個攻擊鏈的人工智能——從起草網(wǎng)絡(luò)釣魚電子郵件開始。人工智能將能夠使用現(xiàn)成的工具來確定環(huán)境范圍并快速確定進入勒索軟件組織的最佳途徑，這并不牽強。它將能夠確定網(wǎng)絡(luò)、布局和架構(gòu)，然后操縱工具鏈來混淆有效載荷，以避免被防御者檢測到。所有這些都無需任何人按下另一個按鈕。這對另一邊的人來說不是好消息。