這些被篡改的內容在社交媒體、即時通訊應用和視頻分享平臺上廣泛傳播，模糊了現實與虛構之間的界限。

“Deepfake”一詞是在2017年由一位Reddit用戶創造的，當時該用戶創建了一個以此命名的子論壇(subreddit)。這個子論壇被用來分享AI生成的視頻，其中經常包含名人換臉的色情內容。

起初，人們制作Deepfake是為了娛樂和消遣，但隨著時間的推移，它們已成為犯罪分子手中危險的工具，用于詐騙、身份盜用、勒索和傳播虛假信息。

更令人擔憂的是，現在制作Deepfake已不再需要高超的技能。

Deepfake背后的技術

Deepfake主要依賴于一種名為生成對抗網絡(Generative Adversarial Networks，簡稱GANs)的技術。從本質上講，GANs涉及兩個協同工作的算法。

第一個算法是生成器，負責創建假內容，如視頻或圖像。第二個算法是判別器，負責判斷內容是否真實。這兩個算法相互推動、共同進步：生成器越來越擅長制作逼真的假內容，而判別器則越來越擅長發現不完美之處。

另一種常用于任務(如換臉)的技術是自動編碼器(autoencoders)。與GANs不同，自動編碼器不使用生成器和判別器。相反，它們專注于將人的面部特征壓縮成一種小巧、易于管理的格式，然后將其重建到另一個人的臉上。盡管這種方法不使用GANs，但它仍然能夠制作出令人信服的Deepfake，特別是對于換臉等簡單任務。

隨著各種AI工具的普及，從開源軟件(如DeepFaceLab、Faceswap)到手機應用(如Zao、Reface)，現在制作Deepfake只需要一臺筆記本電腦或智能手機以及合適的軟件。

網絡犯罪分子將Deepfake武器化

根據Entrust的一份報告，2024年每五分鐘就會發生一起Deepfake攻擊。在一起案例中，通過Deepfake視頻會議結合社會工程學手段，導致一家跨國公司損失超過2500萬美元。

這些詐騙對加密貨幣公司造成了重大影響，平均損失達44萬美元。

最近一起引起轟動的詐騙案涉及一名法國女性，她被一名冒充演員布拉德·皮特(Brad Pitt)的騙子欺騙。騙子利用AI生成的圖像讓她相信他們正在談一場浪漫戀愛。在18個月的時間里，這名女性向騙子轉賬83萬歐元，以為這是用于皮特遭遇的醫療緊急情況。

除了造成經濟損失，此類騙局還會導致情感困擾，破壞對數字通信的信任，并擾亂企業運營。

鑒于全球復雜的地緣政治形勢，這項技術還被用于傳播虛假信息，特別是在政治領域。這些AI生成的視頻和音頻記錄可以偽造候選人發表爭議性言論或從事破壞性行為，從而可能影響選民的投票決定。因此，它們可能對民主制度產生毀滅性的影響。

如何識別Deepfake

盡管Deepfake在不斷改進，但它們仍然存在不完美之處，這有助于提升我們的識別能力。

• 面部動作：觀察是否有不自然的眨眼模式或眼睛看起來不自然地靜止。對事件反應中的細微延遲或表情不匹配也可能是破綻。
• 光線和陰影：檢查主體面部的光線是否與周圍環境相匹配。光線不一致，如移動的光或不規則的陰影和反射，可能表明存在篡改。
• 音畫同步：確保口型動作與音頻自然對齊。如果唇音不同步或聲音有輕微失真，可能是編輯的痕跡。
• 視覺偽影：檢查面部與頭發或背景相接的邊緣。不尋常的模糊、扭曲的邊界、像素化或重影效果可能表明視頻已被篡改。

如何減輕Deepfake風險

我們可以采取一些預防措施來保護自己：

• 使用Deepfake檢測工具和軟件：利用專門的工具和基于AI的軟件來檢測Deepfake。這些工具可以分析數字內容中的異常，并幫助驗證其真實性。
• 關注Deepfake趨勢和技術：讓自己了解Deepfake技術的最新進展。了解新技術和常見的操縱跡象有助于識別Deepfake。
• 實施多因素身份驗證(MFA)來驗證身份：這可以防止攻擊者即使制作出逼真的Deepfake也能訪問敏感賬戶。
• 為敏感通信建立暗語或驗證流程：這有助于確保與您通信的人確實是他們所聲稱的人。在處理交易或敏感個人事務時特別有用。
• 限制在網上分享個人媒體：您在網上分享的個人媒體越多，為不法分子制作Deepfake提供的素材就越多。請謹慎分享社交媒體上的圖片、視頻和其他媒體。調整隱私設置，以便只有受信任的個人或群體能夠查看。

雖然我們無法預知未來，但20年前不可能實現或只有少數人能接觸到的事物，現在每個人都可以接觸到，這也意味著懷有惡意的人也能接觸到。

隨著技術的發展，區分真偽將變得越來越困難，而且我們也沒有魔法棒可以保護自己。我們能做的就是小心謹慎，并采取一切力所能及的措施來保護自己。當然，不要相信在互聯網或社交媒體上看到的一切。