AI換臉換聲太逼真！遇到AI視頻詐騙如何識(shí)別？

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）近段時(shí)間，網(wǎng)絡(luò)上流傳不少中國(guó)明星飆英語(yǔ)的視頻，比如趙本山用英文演小品，郭德綱用英文說(shuō)相聲，范明用英文演戲等。除此之外，網(wǎng)絡(luò)上也有不少國(guó)外明星說(shuō)著流利中文的視頻，如泰勒·斯威夫特、安妮·海瑟薇等。

這些視頻都是由AI生成的。近年來(lái)，AI技術(shù)的發(fā)展愈發(fā)迅速，利用AI技術(shù)生成的虛擬人也越發(fā)逼真，模仿真人的時(shí)候，無(wú)論是相貌還是聲音都幾乎一樣，而且嘴型、手勢(shì)，身體動(dòng)作、語(yǔ)速各個(gè)方面都能做到非常自然，以至于AI生成的虛擬人與真人幾乎可以做到真假難辨。

可怕的AI換臉和換聲

上述利用AI技術(shù)實(shí)現(xiàn)多種語(yǔ)言翻譯的能力，確實(shí)能夠在一些場(chǎng)合實(shí)現(xiàn)有價(jià)值的應(yīng)用。然而，它也會(huì)帶來(lái)侵權(quán)、詐騙等問(wèn)題。某律師事務(wù)所高級(jí)合伙人表示，利用AI技術(shù)將相聲、小品等翻譯成其他語(yǔ)言，如果沒(méi)有經(jīng)過(guò)著作權(quán)人授權(quán)，就存在侵權(quán)問(wèn)題；此外，網(wǎng)友用他人形象和聲音制作視頻，并在網(wǎng)絡(luò)上發(fā)布，如果沒(méi)有獲得授權(quán)，則涉嫌侵犯他人肖像權(quán)和聲音權(quán)。

AI換臉、換聲的不當(dāng)應(yīng)用，除了帶來(lái)侵權(quán)的問(wèn)題之外，還有不少詐騙分子正在使用該技術(shù)進(jìn)行詐騙行為。此前就有多起AI詐騙事件被公布。中央廣播電視總臺(tái)中國(guó)之聲《新聞縱橫》此前也報(bào)道過(guò)，隨著人臉識(shí)別技術(shù)的廣泛應(yīng)用和人工智能技術(shù)的進(jìn)步，一些不法分子開(kāi)始利用AI技術(shù)融合他人面孔和聲音制造逼真的合成圖像來(lái)實(shí)施新型網(wǎng)絡(luò)詐騙，類似騙局具有手段多樣、門(mén)檻低、辨別難度大等特點(diǎn)，經(jīng)常會(huì)防不勝防，短時(shí)間內(nèi)造成較大損失。

AI換臉換聲的基本邏輯是通過(guò)深度學(xué)習(xí)特定算法，將目標(biāo)人物的人臉、表情、聲音等嫁接到模仿的視頻中，最終實(shí)現(xiàn)視聽(tīng)合成的高仿真性，且軟件成本低，合成速率高，檢測(cè)鑒別難度大，一般人難以發(fā)現(xiàn)偽裝痕跡。不法分子主要以冒充被害人的親戚朋友、領(lǐng)導(dǎo)同事等身份，騙取被害人的信任，從而獲得錢財(cái)。

電子發(fā)燒友此前在某生物特征識(shí)別論壇上，聽(tīng)一位專注于深度偽造技術(shù)檢測(cè)的專家談到：“我們很多人會(huì)經(jīng)常接到一些廣告推銷的電話，這些打廣告推銷電話的人中，有些就是不法分子偽裝的。它通過(guò)這種通話的方式，可以獲得我們的聲紋，同時(shí)又能夠在交談中，獲得我們的各種信息。而且時(shí)候，他們團(tuán)隊(duì)會(huì)有很多個(gè)人來(lái)給你打電話，以獲取足夠多信息?！?br />
AI詐騙主要有兩種方式，第一種是通過(guò)技術(shù)手段直接合成換臉、擬聲后的短視頻或語(yǔ)音，在視頻聊天、普通電話中直接播放，這類視頻主要用于表達(dá)比較緊急的情況，比如遭遇事故求助等等，播放結(jié)束后就會(huì)掐斷連接，無(wú)法與被害人形成回合性的對(duì)話。另一種是在視頻通話中直接換臉并替換聲音，直接用擬聲撥打電話，第二種難度更高，他需要更長(zhǎng)時(shí)間的互動(dòng)，被騙則可以在互動(dòng)的過(guò)程中，去尋找破綻。

上述專家介紹到：“這也是為什么，不法分子很多時(shí)候會(huì)通過(guò)了解我們的作息，選擇我們狀態(tài)不好的時(shí)候通話，比如你平時(shí)習(xí)慣熬夜，早上睡到十一二點(diǎn)才能清醒，他們就選擇在早上六七點(diǎn)，你睡得很迷糊的時(shí)候打電話進(jìn)行詐騙。這個(gè)時(shí)候我們就很難去發(fā)現(xiàn)其臉部表情、聲音，和交互過(guò)程中出現(xiàn)的一些缺陷或者披紕漏。”

AI換臉詐騙并不是無(wú)懈可擊

目前AI換臉換聲確實(shí)已經(jīng)很逼真，但是仔細(xì)辨別還是可以看出真假。近日浙江衛(wèi)視《王牌對(duì)王牌》節(jié)目中策劃了反詐知識(shí)傳播的部分，其中全員演示了AI換臉換聲。比如閆妮偽裝成唐嫣，竟然成功騙過(guò)張新成?？梢钥吹剑藠y造不同，臉部和聲音確實(shí)非常像。

可是如果偽裝人大幅變動(dòng)位置，或者站得更遠(yuǎn)或更近，兩部特征就會(huì)變形，甚至是變回偽裝人原本的樣貌。也就是說(shuō)，如果我們接到親人朋友的視頻電話，為了辨認(rèn)真假，我們可以讓對(duì)方多變動(dòng)一下位置，是有可能識(shí)別真假的。

之前也有行業(yè)人士談到過(guò)：“如果對(duì)方AI換臉，在溝通中一些動(dòng)作可以讓我們發(fā)現(xiàn)破綻，比如說(shuō)，讓對(duì)方用手捂臉、動(dòng)一動(dòng)，就會(huì)干擾到圖像合成。”通過(guò)他的演示可以看到，用手捂臉，可以看到AI換臉之人的眼睛、鼻子會(huì)抖動(dòng)，手拿開(kāi)的同時(shí)，嘴巴也消失了。

除此之外，大家還是需要從源頭上預(yù)防AI換臉詐騙。比如，陌生電話、一些廣告推銷電話謹(jǐn)慎接聽(tīng)，防止對(duì)方采集我們的聲音和信息；在網(wǎng)絡(luò)上，避免過(guò)多發(fā)布個(gè)人照片、聲音和視頻；對(duì)于外界采集我們?nèi)四?、聲紋、指紋等生物特征數(shù)據(jù)要足夠謹(jǐn)慎等。

小結(jié)

當(dāng)前，AI技術(shù)的快速發(fā)展，正在促進(jìn)各行各業(yè)技術(shù)應(yīng)用創(chuàng)新。同時(shí)，也有一些不法分子濫用AI技術(shù)進(jìn)行詐騙。當(dāng)前不少AI換臉雖然看上去逼真，不過(guò)謹(jǐn)慎的話還是可以被識(shí)別。未來(lái)，隨著AI技術(shù)更加成熟，被用于詐騙的話可能就很難憑借肉眼去識(shí)別了。因此，在深度偽造檢測(cè)方面，以及法律法規(guī)對(duì)AI換臉、換聲等技術(shù)的不當(dāng)應(yīng)用都需要持續(xù)加強(qiáng)。