太可怕了！第一批AI已經(jīng)開(kāi)始詐騙
?? ??
本文經(jīng)極客視界（ID：geekview）授權(quán)轉(zhuǎn)載
?? ??
美國(guó)經(jīng)典詐騙題材電影《11 羅漢》系列
自從微信成為國(guó)民級(jí)社交軟件之后，各類騙子的主戰(zhàn)場(chǎng)也隨之進(jìn)行轉(zhuǎn)移，從原來(lái)的電話短信詐騙進(jìn)行了產(chǎn)業(yè)升級(jí)，成功步入了移動(dòng)互聯(lián)網(wǎng)時(shí)代。
畢竟作為熟人社交的社交工具，微信獲取信任的成本遠(yuǎn)遠(yuǎn)低于其他方式，「秦始皇打錢(qián)」的時(shí)代宣告結(jié)束。
?? 
騙子們依托微信開(kāi)發(fā)了非常多的詐騙方式，比如針對(duì)年輕男性群體的「茶葉詐騙」。
在早期微信還沒(méi)有完全成為熟人社交軟件之前風(fēng)靡一時(shí)，基本套路都是以武夷山某茶莊莊主外孫女在外公重病，親戚覬覦茶莊的時(shí)候走投無(wú)路，通過(guò)「搖一搖」或者「附近的人」找到了天選之子的受騙者，最終一步一步的讓受騙者熱血上頭打錢(qián)買茶葉保衛(wèi)茶莊所有權(quán)。
?? 
隨著媒體的曝光，此類騙術(shù)逐漸失去了效果。但是騙子們的招數(shù)依然層出不窮，最近媒體又爆出了一個(gè)更新的騙術(shù)：近日，趙女士收到父親的語(yǔ)音留言，對(duì)方稱買菜沒(méi)帶錢(qián)要趙女士轉(zhuǎn) 200 元。
趙女士問(wèn)了一句「爸，是你嗎？」很快收到語(yǔ)音答復(fù)。趙女士一聽(tīng)是父親的口音，便將錢(qián)轉(zhuǎn)了過(guò)去，結(jié)果還是被騙。
同樣受害的還有來(lái)自滄州的王女士，王女士接到同學(xué)發(fā)來(lái)的微信，讓她幫忙轉(zhuǎn)點(diǎn)錢(qián)，并發(fā)來(lái)語(yǔ)音催促。一聽(tīng)就是同學(xué)的聲音，王女士好心打款 500 元，同樣被騙。
?? 
這種騙局主要原因還是由于微信盜號(hào)造成的，雖然目前通行的微信版本語(yǔ)音是不能轉(zhuǎn)發(fā)的，但是騙子可以通過(guò)提取語(yǔ)音文件或者安裝「增強(qiáng)版微信」（一般是基于 xposed 框架的插件），都能達(dá)到轉(zhuǎn)發(fā)語(yǔ)音的效果。
雖然這種騙局技術(shù)含量不高，如果警惕性高一點(diǎn)，直接打電話聯(lián)系就可以讓騙子不攻自破。
?? 
這種「增強(qiáng)版微信」相當(dāng)于外掛
但是騙子很聰明的利用了中國(guó)人給彼此留面子的社交規(guī)則，如果是親朋好友語(yǔ)音跟你說(shuō)借個(gè)百來(lái)塊錢(qián)，一般是不太可能去直接打電話質(zhì)疑的，這樣會(huì)顯得自己很小氣。
再加上又有對(duì)方的語(yǔ)音，自然更不會(huì)去進(jìn)一步深究，所以這樣的騙局能成功也不意外。
?? ??
所謂道高一尺魔高一丈，你真的以為打電話就能夠攻破騙子的騙局嗎？
現(xiàn)在的技術(shù)已經(jīng)完全可以通過(guò)算法來(lái)生成人的全套語(yǔ)音了，甚至連憤怒、高興等不同語(yǔ)氣情緒都能夠做到惟妙惟肖，足以以假亂真，而所需要的材料也僅僅只需要被生成者的幾段話。
?? 
開(kāi)發(fā)這項(xiàng)技術(shù)的是谷歌 2016 年在加拿大蒙特利爾大學(xué)建立的人工智能實(shí)驗(yàn)室（MILA）。
基于聲音合成技術(shù)，MILA 在 2017 年 4 月份成立了 Lyrebird 公司。Lyrebird 是一種名為琴鳥(niǎo)的鳥(niǎo)類，這種鳥(niǎo)具有一種特殊的天賦，它不僅能模仿多種其他鳥(niǎo)類的聲音，它還能模仿幾乎一切它聽(tīng)到的聲音。
?? 
創(chuàng)造你自己的聲音阿凡達(dá)
在其網(wǎng)站 DEMO 部分，你可以聽(tīng)到官方合成的足以以假亂真的特朗普以及奧巴馬的聲音，而美國(guó)那邊也有記者用機(jī)器合成的句子跟家里人打電話做實(shí)驗(yàn)，他的母親完全分不清楚真假。
之所以能產(chǎn)生如此高還原度的合成聲音，背后的技術(shù)正是神經(jīng)網(wǎng)絡(luò)（Neural Network）和機(jī)器學(xué)習(xí)（Machine Learning）。
神經(jīng)網(wǎng)絡(luò)模擬電信號(hào)在人腦神經(jīng)元之間的傳遞過(guò)程，對(duì)輸入數(shù)據(jù)進(jìn)行處理。
它利用分層的神經(jīng)元，從大量樣本數(shù)據(jù)中總結(jié)出共同特征。第一個(gè)用神經(jīng)網(wǎng)絡(luò)來(lái)生成人類自然語(yǔ)音的，就是 DeepMind 的 WaveNet。沒(méi)錯(cuò)，就是那個(gè)做 AlphaGo 的公司。
?? 
具體的原理比較復(fù)雜，就不過(guò)多贅述了，總而言之 WaveNet 可以把 PS 痕跡明顯的機(jī)器語(yǔ)音，轉(zhuǎn)換成更加流暢自然的語(yǔ)音，與人類聲音之間的差異大幅降低，目前在鬼畜視頻界做的風(fēng)生水起。
而 Lyrebird 則更進(jìn)一層，它可以基于音色、音調(diào)、音節(jié)、停頓等多種特征，來(lái)定義某個(gè)人的聲音，然后生成更加擬真的聲音。
?? ??
對(duì)于騙子來(lái)說(shuō)，完全可以通過(guò)騷擾電話錄音來(lái)提取你的聲音在 Lyrebird 上進(jìn)行生成，從而可以完成把我們上面說(shuō)的打電話驗(yàn)證真?zhèn)蔚倪@個(gè)過(guò)程給搞定。
聲音靠不住了，那就只能靠臉了。在接到騙子的語(yǔ)言詐騙微信消息的時(shí)候，反手就是一記視頻通話，這樣應(yīng)該騙子就慌了。
?? ??
其實(shí)不止聲音可以偽造，現(xiàn)在連臉都可以通過(guò) AI 來(lái)進(jìn)行偽造了，比如前段時(shí)間在 Reddit 上大火的明星換頭「成人短片」。
一個(gè)網(wǎng)名為 deepfakes 的程序員，他在業(yè)余時(shí)間用家里的電腦和開(kāi)源的 AI 工具 fakeapp，通過(guò)機(jī)器學(xué)習(xí)算法，成功移花接木，將神奇女俠女主角蓋爾·加朵的臉移植到了一名成人女演員身上。
deepfakes 此舉一石激起千層浪，由于 Fakeapp 使用門(mén)檻極低，無(wú)需安裝 Python和 Tensorflow 等編程語(yǔ)言和開(kāi)源軟件庫(kù)就能運(yùn)行，甚至連高性能顯卡都不用，完全可以租用谷歌的云 GPU 搞定。
一時(shí)間歐美各大女星的小電影充斥了整個(gè)社區(qū)，導(dǎo)致 Reddit 做出了緊急封殺處理，一群老司機(jī)就此做鳥(niǎo)獸散。
?? 
換臉原理
而比成人片更可怕的還是制造假新聞，在今年的 4 月份，就有人利用 Fakeapp 做出了一段假視頻，在視頻中美國(guó)前總統(tǒng)奧巴馬對(duì)著鏡頭說(shuō)出了一句令人震驚的話：「川普總統(tǒng)完全就是個(gè)笨蛋。」
這瞬間在美國(guó)造成了轟動(dòng)的影響，大家在這場(chǎng)精心準(zhǔn)備的玩笑中，發(fā)現(xiàn)了一個(gè)可怕的事實(shí)，那就是：我們已經(jīng)進(jìn)入了這樣一個(gè)時(shí)代，我們的敵人可以做出看起來(lái)像任何人在任何時(shí)候說(shuō)任何話的東西。
而 Fakeapp 和 Lyrebird 就是一套組合拳，可以圍繞臉和聲音兩個(gè)主要的辨識(shí)點(diǎn)去做出以假亂真的材料出來(lái)，雖然目前這兩個(gè)技術(shù)還有著不少問(wèn)題，但是我們看到在機(jī)器學(xué)習(xí)的加持下，它們正在變得越來(lái)越強(qiáng)大。
?? 
Fakeapp 已經(jīng) 2.2 版本了
而這兩項(xiàng)技術(shù)創(chuàng)立的初衷其實(shí)也并不是為了作惡，Lyrebird 的創(chuàng)始人就表示他們希望自己的這個(gè)技術(shù)能幫助那些發(fā)聲困難的人，通過(guò)官方 API 接口，為他們打造出自己克隆出的更真實(shí)聲音，而不再是過(guò)去那種機(jī)器發(fā)出的聲音。
而 deepfakes 也表示「任何技術(shù)都可以被邪惡的動(dòng)機(jī)利用，這種事情無(wú)法被禁止。我認(rèn)為人人都可參與機(jī)器學(xué)習(xí)研究不是一件壞事」，雖然這老哥車發(fā)起來(lái)是迅雷不及掩耳，但是看得出來(lái)，這更多也是一名程序員的炫技。
這個(gè)技術(shù)一旦用好了，對(duì)于影視行業(yè)后期來(lái)說(shuō)，是一項(xiàng)重大福音，比如斯坦·李老爺子的客串彩蛋也會(huì)一直進(jìn)行下去。
?? ??
保羅·沃克在《速激 7》的部分場(chǎng)景就是用到了相關(guān)的技術(shù)
deepfakes 的這番話倒是讓人很容易想起當(dāng)年快播創(chuàng)始人王欣在法庭上的那句「技術(shù)無(wú)罪」，如今已經(jīng)出獄的王欣一頭扎進(jìn)了區(qū)塊鏈里面。
?? ??
也許很多年以后，王欣也會(huì)想起在風(fēng)聲已經(jīng)變緊的情況下，他決定繼續(xù)做一個(gè)「有種」的男人的那個(gè)下午。
留 言 有 禮 活 動(dòng)
作為程序員，請(qǐng)談?wù)凙I技術(shù)的利與弊？掃描下方二維碼，關(guān)注51CTO技術(shù)棧公眾號(hào)。歡迎在技術(shù)棧微信公眾號(hào)留言探討。小編將精選出最有價(jià)值的三條評(píng)論，分別獲得 50、30、20 元 的 紅 包 獎(jiǎng) 勵(lì)，活動(dòng)截止時(shí)間 11 月 30 號(hào) 12 時(shí)整。
?? 
