人工智能（AI）有可能改變社會的本質。雖然人工智能工具給我們帶來了很多的期待，但同時也需要在很多方面提高警惕。例如，網(wǎng)絡犯罪分子和其他威脅行為者將人工智能武器化，即使是AI圖像生成器也不能幸免于濫用。
什么是 AI 圖像生成器？它們是如何工作的？ 如果您曾經使用過AI圖像生成器，那么非常清楚它們的全部內容。即使從未使用過，也很可能在社交媒體和其他地方遇到過人工智能生成的圖像。今天流行的軟件工作原理非常簡單：用戶輸入文本，人工智能根據(jù)該文本生成圖像。
近年來，隨著人工智能技術的發(fā)展，大多數(shù)文本到圖像生成器采用擴散模型，這意味著他們在大量的文本和圖像上接受了長時間的“訓練”，這是他們作品如此令人印象深刻和令人驚嘆的逼真的主要原因。
讓這些人工智能工具更令人印象深刻的是，它們不僅修改現(xiàn)有圖像或將數(shù)千張圖像合并為一個，而且還從頭開始創(chuàng)建新的原始圖像。使用這些文本到圖像生成器的人越多，他們獲得的信息就越多，他們的創(chuàng)作就越好。
目前已經有很多著名的AI圖像生成器：WOMBO、DALL-E、Stable Diffusion、Midjourney、DeepAI、Fotor和Craiyon。科技巨頭——包括谷歌正在發(fā)布自己的，所以我們只能推測未來會帶來更多的價值。
威脅行為者將 AI 圖像生成器武器化的 4 種方式
像幾乎所有技術一樣，人工智能圖像生成器也可能被惡意行為者濫用。實際上，它們已經被用于各種邪惡的目的。但是，犯罪分子究竟可以在AI圖像生成器的幫助下進行哪種類型的詐騙？
1、社會工程
威脅者能夠使用AI圖像生成器做的一件明顯的事情是參與社會工程；例如，創(chuàng)建虛假的社交媒體資料。其中一些程序可以創(chuàng)建令人難以置信的逼真圖像，看起來就像真人的真實照片，詐騙者可以使用這些虛假的社交媒體資料進行網(wǎng)絡釣魚。
與真人的照片不同，人工智能生成的照片無法通過反向圖像搜索發(fā)現(xiàn)，網(wǎng)絡犯罪分子不必使用有限數(shù)量的照片來欺騙目標——使用 AI，他們可以生成任意數(shù)量的照片，從頭開始構建令人信服的在線身份。
但是，在現(xiàn)實生活中，威脅者可以使用AI圖像生成器來欺騙人們。2022年4月， 技術講座博主本·迪金森（Ben Dickinson）收到了一封來自律師事務所的電子郵件，聲稱他在未經許可的情況下使用了圖像。律師們通過電子郵件發(fā)送了一份DMCA版權侵權通知，告訴迪金森他需要鏈接回他們的客戶，或者刪除圖像。
迪金森在谷歌上搜索了這家律師事務所，找到了官方網(wǎng)站。這一切似乎都是完全合法的；該網(wǎng)站甚至有18名律師的照片，包括他們的傳記和證書。但這一切都不是真實的。這些照片都是由人工智能生成的，所謂的版權侵權通知是由一個希望從毫無戒心的博主那里勒索反向鏈接的人發(fā)出的。
2、慈善詐騙
2023 年 2 月土耳其和敘利亞發(fā)生毀滅性地震時，全世界數(shù)百萬人通過捐贈衣服、食物和金錢來表達對受害者的聲援。
根據(jù)一份英國廣播公司的報告，詐騙者利用這一點，使用人工智能創(chuàng)建逼真的圖像并募集捐款。一名騙子在 TikTok Live 上展示了人工智能生成的廢墟圖像，要求他們的觀眾捐款。另一個人發(fā)布了一張人工智能生成的圖像，其中一名希臘消防員從廢墟中救出一名受傷的孩子，并要求他的追隨者進行捐款。
人們只能想象犯罪分子將來會在人工智能的幫助下運行哪種類型的慈善詐騙，但可以肯定的是，他們只會更好地濫用該軟件。
3、深度偽造和虛假信息
政府、活動團體和智庫長期以來一直警告深度偽造的危險AI 圖像生成器，這是因為什么也不能阻止虛假信息代理人在機器人的幫助下創(chuàng)建虛假圖像并在社交媒體上推廣它。
根據(jù)美國國家公共廣播電臺的消息，2022 年 3 月，當時一段描繪烏克蘭總統(tǒng)告訴烏克蘭人投降的假視頻在網(wǎng)上流傳。雖然這只是一個例子，但可能性幾乎是無窮無盡的，而且威脅者可以通過無數(shù)種方式損害某人的聲譽，宣傳虛假敘述或在人工智能的幫助下傳播假新聞。
4、廣告欺詐
趨勢科技研究人員在 2022 年發(fā)現(xiàn)，詐騙者正在利用人工智能生成的內容制作誤導性廣告，并推廣陰暗的產品。他們創(chuàng)建了建議流行名人使用某些產品的圖片，并根據(jù)這些圖片開展廣告活動。
例如，一則“財務咨詢機會”廣告以特斯拉創(chuàng)始人兼首席執(zhí)行官為主角。當然，馬斯克從未認可過有問題的產品，但人工智能生成的鏡頭讓它看起來像這樣，大概是引誘毫無戒心的觀眾點擊廣告。
人工智能和網(wǎng)絡安全：我們需要解決的復雜問題
展望未來，政府監(jiān)管機構和網(wǎng)絡安全專家可能必須共同努力，應對人工智能驅動的網(wǎng)絡犯罪這一新出現(xiàn)的威脅。但是，我們如何才能在不扼殺創(chuàng)新和限制數(shù)字自由的情況下監(jiān)管人工智能并保護普通人呢？這個問題將在未來幾年內變得突出。
在得到答案之前，請盡你所能保護自己：仔細審查你在網(wǎng)上看到的任何信息，避免使用可疑的網(wǎng)站，使用安全軟件，讓你的設備保持最新，并學會使用人工智能來發(fā)揮你的優(yōu)勢。
原文標題：AI Image Generators: An Emerging Cybersecurity Threat
原文作者：DAMIR MUJEZINOVIC
