最近，視頻網(wǎng)站上通過(guò)人工智能換臉，《亮劍》里的主角用英語(yǔ)飆起了臺(tái)詞，通過(guò)小程序用戶也可以將自己變成電影里的人物。新技術(shù)帶來(lái)歡樂(lè)的同時(shí)，也帶來(lái)了一種名為“AI換臉詐騙”的新騙術(shù)。前不久，國(guó)家金融監(jiān)督管理總局北京監(jiān)管局發(fā)布謹(jǐn)防“AI換臉”等新型欺詐手段的風(fēng)險(xiǎn)提示，這種騙術(shù)如何防?一起關(guān)注——

青島的一名大學(xué)生和他在網(wǎng)上認(rèn)識(shí)的“女朋友”視頻聊天，對(duì)方稱需要資金周轉(zhuǎn)，男孩打錢(qián)過(guò)去之后，發(fā)現(xiàn)竟然被詐騙了。

深圳安絡(luò)科技市場(chǎng)部經(jīng)理 梁雅婷：我們通過(guò)取證發(fā)現(xiàn)其實(shí)跟他聊天的并不是他的女朋友，對(duì)方是通過(guò)虛擬的攝像頭，然后通過(guò)AI換臉的功能跟他進(jìn)行聊天。

那么AI如何做到在視頻通話時(shí)換臉呢?記者在一家為公安機(jī)關(guān)提供技術(shù)支持的科技公司看到的演示，相似度可以達(dá)到80%。

深圳安絡(luò)科技產(chǎn)品部經(jīng)理 劉遠(yuǎn)洋：剛才我們拍了一張照片，然后上傳到電腦上面，我們只需要打開(kāi)軟件選擇頭像，左邊已經(jīng)看到我們的圖片，右邊是事先拍好的一段視頻。工程師已經(jīng)把所有的參數(shù)都已經(jīng)設(shè)定好了，我們只需要點(diǎn)擊開(kāi)始執(zhí)行，輸入要保存的文件名，這個(gè)窗口彈出來(lái)過(guò)后，換臉視頻就已經(jīng)開(kāi)始生成了。

我們?cè)诂F(xiàn)場(chǎng)看到，一個(gè)高配置的電腦，合成一段10秒的換臉視頻只需要一兩分鐘。而技術(shù)的發(fā)展，視頻聊天的實(shí)時(shí)變臉也不是難事了。

深圳安絡(luò)科技產(chǎn)品部經(jīng)理 劉遠(yuǎn)洋：照片上傳后，一般就會(huì)有30秒鐘左右的時(shí)間，對(duì)照片進(jìn)行特征識(shí)別，然后進(jìn)行建模。建模好過(guò)后就可以進(jìn)行實(shí)時(shí)轉(zhuǎn)換，不管是你的頭像，還是在朋友圈的一張小照片，只要是照片都可以直接上傳，進(jìn)行特征的識(shí)別建模。

AI生成的技術(shù)還在不斷地更新迭代，比如性別的互換，聲音的變換，都可以同步進(jìn)行。由于算法是開(kāi)源的，也就是說(shuō)一個(gè)普通的工程師就可以制作出一個(gè)變臉軟件，這就導(dǎo)致我們?cè)诳刂圃搭^上帶來(lái)了極大的困難。

AI換臉用于詐騙 反詐也有新手段

不斷迭代的AI技術(shù)，已經(jīng)把換臉視頻做到“真假難辨”，那么我們應(yīng)該如何防范此類新型詐騙呢?

首先，目前視頻換臉的技術(shù)上也不是無(wú)懈可擊的，視頻溝通時(shí)的一些動(dòng)作，就可以發(fā)現(xiàn)破綻。

深圳安絡(luò)科技副總裁 肖堅(jiān)煒：在這個(gè)操作中，如果我用另外第三個(gè)圖像去干擾它，比如讓他用手捂臉、動(dòng)一動(dòng)，就會(huì)干擾到圖像的合成。從這里演示看，我把手放上去之后，會(huì)明顯地看到屏幕上我們同事的眼睛在抖動(dòng)了，鼻子在抖動(dòng)了，我的手已經(jīng)消失了，嘴巴也消失了。

除了讓對(duì)方在臉部做出一些動(dòng)作來(lái)判斷，專家介紹，AI合成軟件的升級(jí)可能是飛速的，如果動(dòng)作捕捉已經(jīng)被避開(kāi)，那么我們就需要通過(guò)一些更專業(yè)的軟件來(lái)分辨了。

深圳安絡(luò)科技副總裁 肖堅(jiān)煒：我們可以通過(guò)軟件來(lái)識(shí)別，比如人的整個(gè)輪廓，替換的眼睛、鼻子、嘴巴這里，它的像素大小是不一樣的，顏色的色域是有差別的。像我們的衣服一樣，要打一個(gè)補(bǔ)丁，是沒(méi)辦法做到完美的。這些我們眼睛肉眼看不出來(lái)，但是軟件算法是可以檢測(cè)出來(lái)的。

目前，這類鑒別軟件對(duì)設(shè)備和周邊的要求也比較高，使用起來(lái)并不普及。不過(guò)，讓視頻傳播的網(wǎng)站或者社交軟件，使用專業(yè)的鑒別軟件來(lái)鑒定，再打上“AI制作”的標(biāo)簽，在現(xiàn)階段不失為一個(gè)方法。

預(yù)防“AI換臉詐騙”，大家還要加強(qiáng)對(duì)人臉、聲紋、步態(tài)、指紋等生物特征數(shù)據(jù)的安全防護(hù)。

中國(guó)科技大學(xué)公共事務(wù)學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院教授 左曉棟：在使用互聯(lián)網(wǎng)服務(wù)或者在社會(huì)生活中，要求輸入人臉等生物特征數(shù)據(jù)的時(shí)候，我們要看一看，對(duì)方收集我們的生物特征數(shù)據(jù)是不是符合數(shù)據(jù)安全法，個(gè)人信息保護(hù)法的要求，是不是合法、正當(dāng)和必要。

此外，國(guó)家也在通過(guò)多重手段防范“AI換臉詐騙”，近兩年，相關(guān)部門(mén)先后出臺(tái)了互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定，生成式人工智能服務(wù)管理暫行辦法等有關(guān)政策文件。先后開(kāi)展了“互聯(lián)網(wǎng)深度合成算法備案”“大語(yǔ)言模型算法備案”等有關(guān)工作。嚴(yán)厲打擊利用AI換臉、變聲等手段實(shí)施的違法犯罪行為。

中國(guó)科技大學(xué)公共事務(wù)學(xué)院 網(wǎng)絡(luò)空間安全學(xué)院教授 左曉棟：目前看來(lái)初步遏制了濫用人工智能技術(shù)。特別是從事違法犯罪的這些勢(shì)頭，整體治理效果開(kāi)始顯現(xiàn)，而且也有力促進(jìn)了人工智能技術(shù)的規(guī)范發(fā)展。

免責(zé)聲明：凡本網(wǎng)注明“來(lái)源：XXX（非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問(wèn)政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺(tái)）”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，作品版權(quán)歸原作者所有，如有侵犯您的原創(chuàng)版權(quán)請(qǐng)告知，我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品，拒絕任何不保留版權(quán)的轉(zhuǎn)載，如需轉(zhuǎn)載請(qǐng)標(biāo)注來(lái)源并添加本文鏈接：http://cokin-filiter.com.cn/showinfo-124-304039-0.html，否則承擔(dān)相應(yīng)法律后果。