細(xì)思極恐！1億網(wǎng)友被騙，AI已經(jīng)學(xué)會(huì)了“易容術(shù)”
近日，一段通過(guò) AI 技術(shù)把朱茵在《射雕英雄傳》中扮演的角色“黃蓉”的臉替換成楊冪的視頻在網(wǎng)絡(luò)引起熱議。
這是朱茵飾演的黃蓉：
?
?
替換成楊冪后：
?
?
還是朱茵活靈活現(xiàn)的表情，但五官已然變成了楊冪，視頻看起來(lái)毫無(wú)破綻，簡(jiǎn)直讓人以為就是本冪演的了。
?
?
網(wǎng)友都被這樣的操作驚呆了，微博話題閱讀量瞬間飆到 1.3 億。
?
?
這種換臉術(shù)看起來(lái)“好玩”，但有網(wǎng)友質(zhì)疑是否侵犯肖像權(quán)。
?
?
27 日，楊冪“換臉”視頻的制作者回應(yīng)，制作視頻的本意是用于技術(shù)交流，并無(wú)營(yíng)利行為，但已將相關(guān)視頻下架，并表示：“對(duì)所有人來(lái)說(shuō)是一個(gè)警示，大家應(yīng)尊重版權(quán)與肖像權(quán)，專注于技術(shù)本身。”
?
?
這種神奇的黑科技被稱作 AI 換臉！然而，如此高階的換臉技術(shù)引來(lái)了無(wú)數(shù)網(wǎng)友的恐慌，“怎么實(shí)現(xiàn)的換臉？如果這一技術(shù)被用在其他地方，會(huì)怎么樣？我會(huì)不會(huì)被別人假冒了都不知道？目前的人臉識(shí)別技術(shù)還安全嗎？”
可怕的換臉 AI 技術(shù)
其實(shí) AI 換臉兩年前從國(guó)外論壇流傳開來(lái)，而國(guó)內(nèi)也有不少仿效者，比如有網(wǎng)友把女主播的臉，換成唐嫣、楊冪、劉亦菲等明星。
是不是覺(jué)得很震撼？人工智能正在以我們所有人想象不到的速度，飛速前進(jìn)，顛覆我們以往的認(rèn)知.....
換臉哥制作這段逼真視頻的工具叫 Deepfake ，這一 AI 技術(shù)在國(guó)外已經(jīng)火了兩年多。
當(dāng)年，美國(guó)國(guó)防部把這項(xiàng)技術(shù)譽(yù)為人類對(duì)于 AI 的軍備競(jìng)賽的一個(gè)開端，能把視頻中的人臉換成其他人，同時(shí)保持臉部肌肉運(yùn)動(dòng)和諧，口型和聲音匹配。
什么是 DeepFakes？
最初，在 Reddit 網(wǎng)站上，一位用戶名為“deepfakes”的網(wǎng)友發(fā)布了自己制作的換臉視頻，將影片的女主角換成了神奇女俠，短時(shí)間吸引了大量的人氣，廣大網(wǎng)友順理成章地把他的網(wǎng)名作為這項(xiàng)技術(shù)的命名。
《神奇女俠》的扮演者蓋爾·加朵的這一面你見過(guò)么？其實(shí)這是一段合成視頻，視頻中并非蓋爾·加朵本人。
而是通過(guò)機(jī)器學(xué)習(xí)技術(shù)搭建了一個(gè)系統(tǒng)，讓 AI 學(xué)習(xí)了女明星的面部特征，然后合成到了成人片里的女演員的頭部。
沒(méi)過(guò)多久，同名算法在 GitHub 開源，由 deepfakes 技術(shù)制作的視頻在網(wǎng)上也越來(lái)越多。杰西卡·阿爾芭、艾瑪·沃特森等好萊塢明星紛紛被“換臉”。
除了 Reddit 上的討論外，在 2018 年 1 月，還有人推出了 Windows 程序的 FakeApp，這大大降低了 DeepFake 的使用門檻，它允許用戶很輕松地自制換臉視頻，即使你沒(méi)有任何人工智能方面的知識(shí)。
但是由于許多用戶將 deepfakes 技術(shù)用于制作虛假視頻，例如偽造政治家公開演講，導(dǎo)致這項(xiàng)技術(shù)聲名狼藉。
DeepFakes 實(shí)際上是一種人臉交換技術(shù)，顧名思義，也就是在圖像或視頻中把一張臉替換成另一張臉。
事實(shí)上，人臉交換技術(shù)在電影制作領(lǐng)域已經(jīng)不是個(gè)新鮮詞了，但是之前電影視頻中的人臉交換非常復(fù)雜，專業(yè)的視頻剪輯師和 CGI 專家需要花費(fèi)大量時(shí)間和精力才能完成視頻中的人臉交換。
這是《速度與激情 7》里的保羅，他在電影沒(méi)殺青之前就意外去世，著實(shí)令人心痛。但后期通過(guò)一種 CGI 的技術(shù)換臉呈現(xiàn)出來(lái)了，這才讓我們看到了分叉口永別的這一幕。
DeepFakes 的出現(xiàn)可以說(shuō)是人臉交換技術(shù)的一個(gè)突破。利用 DeepFakes 技術(shù)，你只需要一個(gè) GPU 和一些訓(xùn)練數(shù)據(jù)，就能夠制作出以假亂真的換臉視頻。
這可以說(shuō)是一個(gè)非常了不起的突破了，因?yàn)槟阒恍枰焉习購(gòu)埲宋锏臉訄D輸入至一個(gè)算法，就能完成人臉交換，制作出非常逼真的視頻效果。就算你是個(gè)對(duì)視頻剪輯一竅不通的外行，也能做到這樣。
DeepFakes 的出現(xiàn)還意味著我們可以在視頻中進(jìn)行大規(guī)模的“換臉”。我們大多數(shù)人都曾經(jīng)把自己的照片上傳到網(wǎng)絡(luò)上，因此，我們大多數(shù)人的臉都能夠輕易地被替換到一些視頻中，成為視頻的“主角”。
不得不說(shuō)，這是件非常可怕的事情，但這也并不那么值得恐慌，畢竟我們大家早已接受了“照騙”（照片造假）。
DeepFakes 的技術(shù)原理
DeepFakes 的核心是一個(gè)“自動(dòng)編碼器”，這個(gè)“自動(dòng)編碼器”實(shí)際上是一個(gè)深度神經(jīng)網(wǎng)絡(luò)，它能夠接收數(shù)據(jù)輸入，并將其壓縮成一個(gè)小的編碼，然后從這個(gè)編碼中重新生成原始的輸入數(shù)據(jù)。
?
?
在這個(gè)標(biāo)準(zhǔn)的自動(dòng)編碼器設(shè)置中，網(wǎng)絡(luò)將嘗試學(xué)習(xí)創(chuàng)建一個(gè)編碼，從中網(wǎng)絡(luò)能夠重新生成輸入的原始圖片。只要有足夠多的圖像數(shù)據(jù)，網(wǎng)絡(luò)就能學(xué)會(huì)創(chuàng)建這種編碼。
DeepFakes 讓一個(gè)編碼器把一個(gè)人臉壓縮成一個(gè)代碼和兩個(gè)解碼器，一個(gè)將其還原成人物 A（Fallon），另一個(gè)還原成人物 B（Oliver）。
下面的圖能夠幫助你理解：
?
?
在這個(gè)案例中，使用的編碼器是一樣的，但是 Fallon 和 Oliver 的解碼器是不同的。
在訓(xùn)練的過(guò)程中，輸入的人臉會(huì)被扭曲，從而模擬一個(gè)“我們希望得到這樣的人臉”的概念。
?
?
下面介紹算法訓(xùn)練的三個(gè)步驟：
- 首先，我們給編碼器輸入了一張 Jimmy 扭曲臉的圖片，并嘗試用解碼器 A 來(lái)重新還原他的臉，這就使得解碼器 A 必須要學(xué)會(huì)在紛繁復(fù)雜的圖片中識(shí)別并且還原出 Jimmy 的臉。
- 然后，把 Oliver 扭曲臉的圖片輸入至同一個(gè)編碼器，并用解碼器 B 來(lái)還原 Oliver 的臉。
- 我們不斷重復(fù)上面的操作，直到兩個(gè)解碼器能夠分別還原出兩個(gè)人的臉，同時(shí)編碼器也能夠?qū)W會(huì)通過(guò)抓取人臉關(guān)鍵信息，從而分辨出 Jimmy 和 Oliver 的臉。
等到以上的訓(xùn)練步驟都完成以后，我們就能把一張 Jimmy 的照片輸入至編碼器，然后直接把代碼傳輸至解碼器 B，將 Jimmy 的臉換成 Oliver 的臉。
?
?
這就是我們通過(guò)訓(xùn)練模型完成換臉的全過(guò)程。解碼器獲取了 Jimmy 的臉部信息，然后把信息交給解碼器 B，這時(shí)候解碼器 B 會(huì)作出這樣的反應(yīng)：“這又是一條干擾信息，這不是 Oliver 的臉，那么我就把你換成 Oliver 吧。”
一條算法僅通過(guò)觀察許多圖片就能夠再次生成、還原這些圖片，這聽起來(lái)挺不可思議的，但 DeepFakes 確確實(shí)實(shí)做到了，而且效果還相當(dāng)不錯(cuò)。
為避免徹底淪落，Reddit 無(wú)奈只得關(guān)掉了 Deepfake 頻道，其 GitHub 開源代碼也被清除。
Twitter 火速刪除了相關(guān)內(nèi)容，并且封禁了相關(guān)內(nèi)容的搜索。FakeApp 的官網(wǎng)目前也已無(wú)法使用。
?
?
2019 年 1 月，荷蘭 DeepTrace 實(shí)驗(yàn)室發(fā)布了一份 DeepFake 發(fā)展報(bào)告，數(shù)據(jù)顯示 2018 年“deepfake”關(guān)鍵詞的谷歌搜索次數(shù)比 2017 年增長(zhǎng)了 1000 倍。
在 deepfake 誕生之前，視頻換臉技術(shù)主要應(yīng)用于電影拍攝中，而且它需要相對(duì)較高的技術(shù)和資金投入。
但現(xiàn)在，deepfake 等深度學(xué)習(xí)技術(shù)的出現(xiàn)大大降低了換臉門檻，使用者不僅用它來(lái)捏造針對(duì)政要人士的假新聞。
這些假視頻、假新聞的危害性之大這里就不贅述了。而且 deepfake 去年甚至驚動(dòng)了美國(guó)五角大樓。
他們通過(guò)美國(guó)國(guó)防部高級(jí)研究計(jì)劃局(DARPA)委托全美各地的專家，想方設(shè)法檢測(cè)各類視頻的真實(shí)性。
不久后，DARPA 就研發(fā)了一款能夠自動(dòng)監(jiān)測(cè)出被換了臉的假視頻的 AI 工具，根據(jù)假視頻一般不會(huì)表現(xiàn)出眨眼、呼吸和眼球運(yùn)動(dòng)這些特征，能夠以 99% 的準(zhǔn)確率識(shí)別出假視頻。
相關(guān)論文和數(shù)據(jù)集：
如今這項(xiàng)技術(shù)正在被越來(lái)越多人使用，而且用途不明。在這種前沿技術(shù)面前，每個(gè)人都可能成為潛在的受害者。
一旦被人濫用，真實(shí)照片與語(yǔ)音模擬器或語(yǔ)音合成系統(tǒng)相結(jié)合，就可以生成任意“假新聞”，任何人可以變成任何人。
如今，眼見已經(jīng)不為實(shí)，對(duì)于泛濫的消息，我們還需加強(qiáng)鑒別，切莫人云亦云。
那些由于技術(shù)濫用對(duì)當(dāng)事人造成的傷害，對(duì)整個(gè)社會(huì)造成的反噬，是人類對(duì)新技術(shù)缺乏敬畏必須付出的代價(jià)。
技術(shù)從來(lái)都是雙刃劍。讓技術(shù)進(jìn)步真正成為我們的鎧甲，而非軟肋，還需要更健全的、與時(shí)俱進(jìn)的規(guī)則與法律的保護(hù)。
“圖之于未萌，慮之于未有”。新技術(shù)的出現(xiàn)，不斷沖擊著我們的法律觀、道德感，提高應(yīng)對(duì)能力，在可能到來(lái)的風(fēng)險(xiǎn)面前做好準(zhǔn)備，才能讓新技術(shù)始終行駛在正確的軌道里，不會(huì)沖出道德、法律的“籬笆”。
?
?
