當(dāng)人工智能領(lǐng)導(dǎo)者們爭(zhēng)論什么是安全的人工智能以及這是否意味著我們正走上毀滅之路時(shí)，網(wǎng)絡(luò)安全社區(qū)仍在努力思考如何才能最好地保護(hù)我們的企業(yè)和客戶。人工智能帶來(lái)了巨大的挑戰(zhàn)和機(jī)遇、大量新應(yīng)用和快速發(fā)展的威脅。這使得網(wǎng)絡(luò)安全社區(qū)合作領(lǐng)先于不良行為者比以往任何時(shí)候都更加重要。

人工智能如何為黑客和惡意攻擊者提供力量

2022年，物理安全事件給企業(yè)造成了1萬(wàn)億美元的損失，而人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊繼續(xù)表現(xiàn)出更高的復(fù)雜性、速度和適應(yīng)性。雖然這使得它們更難檢測(cè)和緩解，但DarkGPT和FraudGPT等產(chǎn)品讓惡意行為者更容易造成傷害，而無(wú)需任何編碼技能。

人工智能算法可以將來(lái)自社交媒體和其他來(lái)源的大量數(shù)據(jù)轉(zhuǎn)化為高度針對(duì)性和令人信服的網(wǎng)絡(luò)釣魚(yú)攻擊或其他形式的社交工程。例如，在利用生成式人工智能的競(jìng)爭(zhēng)中，黑客已經(jīng)利用假的ChatGPT網(wǎng)站和模仿真實(shí)網(wǎng)站的網(wǎng)絡(luò)釣魚(yú)詐騙來(lái)利用普通用戶。當(dāng)這些攻擊針對(duì)毫無(wú)戒心的員工時(shí)，它們可以提供對(duì)關(guān)鍵系統(tǒng)的未經(jīng)授權(quán)的訪問(wèn)。

與此同時(shí)，為了快速進(jìn)入市場(chǎng)，合法的GenAI客戶在開(kāi)發(fā)應(yīng)用時(shí)往往沒(méi)有將安全性作為優(yōu)先事項(xiàng)。由于Google的Gemini等產(chǎn)品容易受到攻擊，早期采用者正在使用第三方應(yīng)用程序擴(kuò)充員工隊(duì)伍，而這讓他們處于危險(xiǎn)之中，這意味著員工可能會(huì)在不知情的情況下故意泄露企業(yè)的敏感信息。

隨著網(wǎng)絡(luò)安全社區(qū)學(xué)會(huì)防御一系列人工智能攻擊，該技術(shù)只會(huì)助長(zhǎng)不法分子的氣焰。我們的團(tuán)隊(duì)將面臨越來(lái)越高級(jí)的高級(jí)持續(xù)性威脅(APT)以及更復(fù)雜、更具有規(guī)避性的惡意軟件，這些惡意軟件能夠以更高的精度和速度滲透和操縱工業(yè)控制系統(tǒng)。

人工智能如何賦能網(wǎng)絡(luò)安全防御者

在人工智能加速發(fā)展的世界中，安全領(lǐng)導(dǎo)者面臨的挑戰(zhàn)比以往任何時(shí)候都要快。值得慶幸的是，我們擁有同樣的技術(shù)，我們可以利用人工智能解決方案來(lái)加強(qiáng)防御，并針對(duì)不良行為者發(fā)起主動(dòng)行動(dòng)。

通過(guò)將AI/ML類型的模型納入安全程序，我們的網(wǎng)絡(luò)安全團(tuán)隊(duì)可以更深入地了解我們的數(shù)據(jù)，并發(fā)現(xiàn)我們?cè)緯?huì)忽略的風(fēng)險(xiǎn)。與自動(dòng)化相結(jié)合后，AI工具可以篩選海量數(shù)據(jù)集、比較數(shù)據(jù)集群行為，并在人類同行之前對(duì)潛在危險(xiǎn)做出反應(yīng)，從而快速將暴露的系統(tǒng)與公司的基礎(chǔ)設(shè)施隔離開(kāi)來(lái)。

此外，正如惡意攻擊者使用GenAI制造更強(qiáng)大、更具欺騙性的威脅一樣，企業(yè)也可以使用該技術(shù)構(gòu)建主動(dòng)訓(xùn)練場(chǎng)景。在這種受控環(huán)境中，團(tuán)隊(duì)可以練習(xí)、測(cè)試和改進(jìn)防御能力，從而為應(yīng)對(duì)各種真實(shí)攻擊做好準(zhǔn)備。在日常工作中，可以實(shí)施GenAI，使CISO能夠使用自然語(yǔ)言詢問(wèn)有關(guān)其計(jì)劃的問(wèn)題，并獲得具有預(yù)測(cè)性見(jiàn)解的準(zhǔn)確答案。

雖然員工培訓(xùn)和教育仍然至關(guān)重要，但擊敗當(dāng)今的網(wǎng)絡(luò)犯罪分子需要強(qiáng)大且不斷發(fā)展的技術(shù)防御。

網(wǎng)絡(luò)安全高管的新角色

AI可以幫助提供早期檢測(cè)警告和更快的響應(yīng)時(shí)間，以便在該時(shí)間段內(nèi)識(shí)別違規(guī)行為。隨著職責(zé)的增加，如今的CISO不再像以前那樣身處戰(zhàn)壕。他們更有可能從更高的角度觀察他們的計(jì)劃，使他們能夠采取更全面的方法制定網(wǎng)絡(luò)防御策略，并用可操作的數(shù)據(jù)情報(bào)指導(dǎo)他們的團(tuán)隊(duì)。

對(duì)于CISO來(lái)說(shuō)，擁抱AI/ML對(duì)于實(shí)現(xiàn)這種整體視角并幫助分析他們需要篩選的大量數(shù)據(jù)至關(guān)重要。

總結(jié)

隨著人工智能的能力似乎以驚人的速度增長(zhǎng)，它不斷為雙方帶來(lái)新的可能性。為了領(lǐng)先于被賦予權(quán)力的壞人并塑造一個(gè)有彈性和適應(yīng)性的生態(tài)系統(tǒng)，網(wǎng)絡(luò)安全社區(qū)必須共同努力，發(fā)掘和擁抱風(fēng)險(xiǎn)管理和威脅防御中的可能性。