今年以來(lái)，隨著ChatGPT和GPT-4等技術(shù)的應(yīng)用，深度合成產(chǎn)品和服務(wù)日漸增多。利用AI換臉、AI擬聲等虛假音視頻進(jìn)行詐騙的違法行為屢見(jiàn)不鮮，這些新的詐騙手法十分隱蔽和高效，給社會(huì)造成很大的安全威脅。

近日，“AI詐騙正在全國(guó)爆發(fā)”一度沖上微博熱搜。6月10日，國(guó)家反詐中心辟謠爆發(fā)傳言不實(shí)。但AI詐騙相關(guān)話題的熱度依然居高不下，甚囂塵上。

2023年5月，內(nèi)蒙古包頭警方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例：2023年4月，福建一家科技公司的法人代表郭先生被騙子通過(guò)AI換臉和擬聲技術(shù)，佯裝好友對(duì)其實(shí)施詐騙。在10分鐘內(nèi)，先后分兩筆把430萬(wàn)元轉(zhuǎn)到了對(duì)方的銀行賬戶上。

無(wú)獨(dú)有偶，2023年5月22日，AI換臉詐騙事件再次發(fā)生。安徽一男子9秒被騙132萬(wàn)，詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”讓受害人放松警惕從而得手。其詐騙速度之快，令人乍舌。

這兩則受騙事件套路如出一轍。不法分子利用AI換臉技術(shù)，偽裝成特定人物，提前制作冒充熟人的視頻，并與他人進(jìn)行視頻通話，或使用特定的換臉應(yīng)用程序，以假亂真，博取被害人信任后實(shí)施詐騙行為。

AI換臉的應(yīng)用邊界

新科技的發(fā)展應(yīng)用，可謂是一把雙刃劍，AI 換臉技術(shù)亦是。給我們的生活帶來(lái)了便利的同時(shí)，但也可能會(huì)被用于欺詐和虛假信息傳播，對(duì)隱私和安全構(gòu)成威脅，同時(shí)導(dǎo)致誤解和誤導(dǎo)等問(wèn)題。

AI換臉，即通過(guò)AI人工智能技術(shù)，把別人的臉換成自己的臉，而且臉部表情自然，效果十分逼真。AI換臉技術(shù)主要通過(guò)使用深度學(xué)習(xí)算法和大型模型來(lái)實(shí)現(xiàn)，其實(shí)現(xiàn)原理是通過(guò)人臉檢測(cè)、人臉對(duì)齊、特征提取、特征融合和重建等步驟，將不同人的面部特征進(jìn)行融合，生成具有換臉效果的新圖像。

具體來(lái)說(shuō)，首先，大型模型可以自動(dòng)檢測(cè)人臉，并在輸入圖像中定位人臉區(qū)域。接著，對(duì)輸入圖像中的人臉進(jìn)行對(duì)齊，使得不同人臉的面部特征點(diǎn)位置相同。這通常需要使用人臉關(guān)鍵點(diǎn)和仿射變換等技術(shù)。再者，使用深度學(xué)習(xí)模型，可以提取人臉的特征，這些特征可以用來(lái)指導(dǎo)替換操作。將兩張不同人臉的面部特征進(jìn)行融合，生成新的面部特征。最后，使用重建算法，例如反卷積神經(jīng)網(wǎng)絡(luò)（DCNN）或GAN等，將新的面部特征映射回圖像空間中，生成一張具有換臉效果的新圖像。

總而言之，AI換臉采用的是深度合成技術(shù)，通過(guò)AI建模實(shí)現(xiàn)換臉。利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告等諸多領(lǐng)域不斷深化應(yīng)用。

比如，在影視劇中，劇組可以運(yùn)用AI換臉技術(shù)對(duì)原演員或危險(xiǎn)情節(jié)拍攝進(jìn)行巧妙處理；在教學(xué)方面，AI換臉技術(shù)能夠?qū)崿F(xiàn)互動(dòng)性強(qiáng)的虛擬教學(xué)。

同時(shí)，AI換臉技術(shù)也存在著濫用風(fēng)險(xiǎn)。此前，有多個(gè)電商直播間被曝使用明星AI換臉直播，博取流量。這些直播并不會(huì)直接提到相關(guān)明星藝人的名字，但也不會(huì)主動(dòng)聲明或者否認(rèn)，通過(guò)社交媒體傳播，誘導(dǎo)用戶和粉絲點(diǎn)擊鏈接下載惡意軟件或輸入個(gè)人信息，以達(dá)到直播賣貨或進(jìn)行詐騙的目的。更有甚者，利用AI換臉軟件及技術(shù)非法處理和制作虛假的淫穢視頻后進(jìn)行非法售賣，繞過(guò)人臉識(shí)別系統(tǒng)監(jiān)管從而實(shí)施詐騙、盜竊等犯罪。

可以看出，不法分子使用AI技術(shù)分析目標(biāo)用戶的行為特征和個(gè)人信息，進(jìn)行精準(zhǔn)定向攻擊，竊取個(gè)人敏感信息。這類詐騙往往通過(guò)非法獲取他人個(gè)人數(shù)據(jù)，以及運(yùn)用各種黑灰軟件來(lái)替換數(shù)據(jù)信息來(lái)實(shí)現(xiàn)，從而達(dá)到目的。

AI詐騙“魔高一尺”，防范“道高一丈”

AI換臉詐騙的背后，是隱私信息泄露與詐騙陷阱的結(jié)合。針對(duì)技術(shù)花樣翻新的AI詐騙，公眾要提高防范意識(shí)，加強(qiáng)監(jiān)管、健全立法是重要手段。趨利避害，需要從個(gè)人、政策、技術(shù)、安全企業(yè)等多個(gè)層面和維度共同發(fā)力，才能應(yīng)對(duì)未來(lái)可能出現(xiàn)的新型詐騙手段。

在個(gè)人層面，提高自身使用數(shù)字工具的安全意識(shí)和安全能力。一是當(dāng)在涉及到轉(zhuǎn)賬交易等行為時(shí)要格外留意，可以通過(guò)電話、視頻等方式再三確認(rèn)對(duì)方是否是本人；二是加強(qiáng)個(gè)人信息保護(hù)意識(shí)，謹(jǐn)慎點(diǎn)擊不明鏈接，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過(guò)多地暴露自己的信息，以免被騙子精準(zhǔn)圍獵。

在政策層面，已出臺(tái)相關(guān)文件，但更要加強(qiáng)對(duì)AI技術(shù)的監(jiān)管和管理。2022年11月25日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確了深度合成數(shù)據(jù)和技術(shù)管理規(guī)范。要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理和技術(shù)管理，保障數(shù)據(jù)安全，不得非法處理個(gè)人信息。其中提到：深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。

今年4月11日，國(guó)家網(wǎng)信辦公布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，其中提到，AI內(nèi)容必須真實(shí)準(zhǔn)確，還明確提到，禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

對(duì)于提供“AI換臉”技術(shù)的互聯(lián)網(wǎng)科技類企業(yè)，要加大監(jiān)管力度。此外，各網(wǎng)絡(luò)平臺(tái)對(duì)于AI換臉的應(yīng)用應(yīng)當(dāng)擔(dān)負(fù)起責(zé)任。目前，推出AI換臉功能的平臺(tái)以及允許AI換臉相關(guān)內(nèi)容傳播的平臺(tái)，都應(yīng)該加強(qiáng)審核，以避免AI技術(shù)被不法分子利用。

在技術(shù)層面，緊盯數(shù)據(jù)的信息采集、儲(chǔ)存、共享、披露等各環(huán)節(jié)，進(jìn)行全鏈條管理。當(dāng)前AI安全研究仍然落后于AI能力研究，這也是安全技術(shù)廠商應(yīng)持續(xù)攻關(guān)的方向。加大對(duì)AI換臉技術(shù)的技術(shù)研究和防范措施的開(kāi)發(fā)力度，提高AI換臉技術(shù)的安全性和可靠性，研發(fā)更加智能化的識(shí)別系統(tǒng)用于辨別真?zhèn)?，減少此類詐騙行為的生存空間。

人臉信息作為敏感個(gè)人信息，不正當(dāng)使用將對(duì)社會(huì)公眾的人身和財(cái)產(chǎn)安全帶來(lái)重大風(fēng)險(xiǎn)。在使用新興技術(shù)時(shí)，我們不能忘記法律的規(guī)制、道德倫理的約束，這是所有技術(shù)發(fā)展應(yīng)有的邊界。于此同時(shí)，必須時(shí)刻保持高度警惕，增強(qiáng)自我安全意識(shí)和能力，才能防范網(wǎng)絡(luò)詐騙。