北京時(shí)間4月16日，全球頂級(jí)信息安全峰會(huì)CanSecWest 2021正在召開(kāi)中。騰訊朱雀實(shí)驗(yàn)室受邀參加，并進(jìn)行了題為《The Risk of AI Abuse: Be Careful with Your Voice（AI被濫用的風(fēng)險(xiǎn)：小心您的聲音安全》的分享。這也是連續(xù)第四年騰訊安全平臺(tái)部旗下前沿安全研究團(tuán)隊(duì)的相關(guān)成果入選CanSecWest議題。

騰訊朱雀實(shí)驗(yàn)室的最新研究成果表明，VoIP電話(huà)劫持與AI語(yǔ)音模擬技術(shù)的結(jié)合將帶來(lái)極大潛在風(fēng)險(xiǎn)，在分享中，實(shí)驗(yàn)室創(chuàng)造性地展示了用AI進(jìn)行聲音克隆并劫持電話(huà)的攻擊場(chǎng)景。區(qū)別于此前腳本類(lèi)的電信詐騙，這一新技術(shù)可實(shí)現(xiàn)從電話(huà)號(hào)碼到聲音音色的全鏈路偽造，攻擊者可以利用漏洞劫持VoIP電話(huà)，實(shí)現(xiàn)虛假電話(huà)的撥打，并基于深度偽造AI變聲技術(shù)生成特定人物的聲音進(jìn)行詐騙。

這里所說(shuō)的VoIP是一種語(yǔ)音通話(huà)技術(shù)，經(jīng)由IP來(lái)進(jìn)行語(yǔ)音通話(huà)和參與多媒體會(huì)議，由于其使用便捷、成本低廉的特性，VoIP在全球范圍內(nèi)被廣泛應(yīng)用于辦公電話(huà)場(chǎng)景中。而VoIP電話(huà)劫持是由于早期版本的VoIP存在被網(wǎng)絡(luò)嗅探，并實(shí)施中間人攻擊的風(fēng)險(xiǎn)，攻擊者可利用漏洞篡改來(lái)電方的人名及電話(huà)號(hào)碼，使得接聽(tīng)方的電話(huà)顯示為預(yù)設(shè)的任意內(nèi)容。

騰訊朱雀實(shí)驗(yàn)室研究顯示，通過(guò)深度學(xué)習(xí)技術(shù)可實(shí)現(xiàn)語(yǔ)音模擬，根據(jù)源人物的說(shuō)話(huà)內(nèi)容合成具有目標(biāo)人物音色特征的音頻，輸出偽造特定人物的聲音。其實(shí)這項(xiàng)技術(shù)并不新鮮，在許多場(chǎng)景中已經(jīng)應(yīng)用，比如地圖軟件中的定制語(yǔ)音播報(bào)，就可以通過(guò)少量自己的聲音來(lái)定制與自己音色極為接近的播放聲音。

因此，在VoIP電話(huà)劫持中，利用少量被攻擊者的聲音，可以合成與被攻擊者音色相似的任意內(nèi)容的語(yǔ)音片段，再將虛假語(yǔ)音注入到電話(huà)中，就能達(dá)到以假亂真的效果，實(shí)現(xiàn)完整的電話(huà)欺騙鏈路。攻擊者可以輕松撥打虛假電話(huà)，冒充被攻擊者身份與目標(biāo)人員對(duì)話(huà)。

針對(duì)這一潛在風(fēng)險(xiǎn)，騰訊朱雀實(shí)驗(yàn)室研究員提出了建議——基于“用AI對(duì)抗AI”的思路，使用AI技術(shù)提取真實(shí)語(yǔ)音和虛假語(yǔ)音的特征，再根據(jù)特征差異來(lái)分辨真實(shí)語(yǔ)音和生成語(yǔ)音。同時(shí)，企業(yè)和個(gè)人盡量使用新版本的VoIP協(xié)議電話(huà)，如SIP、SRTP等，以減少電話(huà)被劫持的風(fēng)險(xiǎn)。

實(shí)際上，目前涉及語(yǔ)音的攻擊手段也愈加多樣化。騰訊研究員介紹，通過(guò)向語(yǔ)音中添加微小擾動(dòng)，或修改部分頻譜信息，就可以欺騙語(yǔ)音識(shí)別系統(tǒng)。此外，通過(guò)將喚醒命令隱藏在不易察覺(jué)的音樂(lè)中，就可能喚醒智能設(shè)備進(jìn)行對(duì)應(yīng)操作。

騰訊云副總裁、騰訊安全平臺(tái)部負(fù)責(zé)人楊勇表示，AI技術(shù)與傳統(tǒng)安全攻擊技術(shù)的結(jié)合，衍生了新的應(yīng)用場(chǎng)景和與之對(duì)應(yīng)的濫用風(fēng)險(xiǎn)，AI的數(shù)據(jù)、算法、模型、基礎(chǔ)組件等核心要素更加需要安全的加持。騰訊朱雀實(shí)驗(yàn)室就一直致力于實(shí)戰(zhàn)級(jí)APT攻擊和AI安全研究，持續(xù)深耕現(xiàn)實(shí)網(wǎng)絡(luò)安全，為AI技術(shù)的正向用、放心用保駕護(hù)航。

作為全球頂級(jí)信息安全峰會(huì)，CanSecWest一直以其權(quán)威性、熱點(diǎn)性、前沿性而備受行業(yè)關(guān)注。本屆CanSecWest2021將持續(xù)到4月30日，除了騰訊朱雀實(shí)驗(yàn)室，來(lái)自百度、Adobe、Macfee、IOActive、加利福尼亞大學(xué)河濱分校等全世界的頂級(jí)安全專(zhuān)家也悉數(shù)到場(chǎng)，并將圍繞AI、云原生、物聯(lián)網(wǎng)、可信計(jì)算等安全前沿技術(shù)領(lǐng)域展開(kāi)探討。