“AI換臉”詐騙套路多多！我們該如何防范,？

AI技術(shù),，也就是人工智能，近年來發(fā)展迅速,，有關(guān)專家介紹,，AI的主要特征之一就是能自主深度學(xué)習(xí)，比如說,，可以對現(xiàn)實(shí)生活中的人物表情和動作細(xì)節(jié)進(jìn)行深度學(xué)習(xí)并且進(jìn)行模仿,。一些不法分子因此盯上了這項(xiàng)新技術(shù)，他們利用“AI換臉”冒充受害人的親戚和朋友實(shí)施詐騙,。公安部數(shù)據(jù)顯示,，近兩年來，全國共發(fā)生“AI換臉”類詐騙案近百起,，累計(jì)給人民群眾造成經(jīng)濟(jì)損失高達(dá)2億元,。“AI換臉”詐騙緣何能屢屢得手?這其中的套路有哪些?我們又該如何防范呢?

記者近日來到了浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室,。在這里,，任奎教授團(tuán)隊(duì)的研究人員讓記者體驗(yàn)了一回“AI換臉”。

畫面中,，這位充當(dāng)總臺記者替身的姑娘實(shí)際上是浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院的學(xué)生小劉博士,。在視頻中，通過AI技術(shù),，浙大的研究人員成功將記者的面部特征移植到了劉博士的臉上,，并對劉博士的聲音也進(jìn)行了改造，這樣就合成出了“AI換臉”版的所謂總臺記者,。

浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室任奎團(tuán)隊(duì)廉偉辰：我們首先去鎖定高老師和劉博士面部信息的位置,，然后在里面提取出兩個人的面部特征信息，之后我們用“AI換臉”模型去擬合兩個人五官分布,。因?yàn)閯⒉┦棵娌刻卣鞣植记闆r和高老師分布情況不一樣,，所以需要讓高老師的面部特征移到劉博士的臉上,。等到AI模型擬合完成后，再把背景信息融合進(jìn)來,，合成最后的效果,。

據(jù)專家介紹，“AI換臉”技術(shù)是一項(xiàng)基于人工智能的圖像處理技術(shù),，這種技術(shù)能夠識別出目標(biāo)人物的面部特征并對其進(jìn)行精準(zhǔn)分析,。也就是說，只需要目標(biāo)人物的幾張照片或視頻,，AI就能從中提取出他的面部五官和聲音特征,，通過和另一個人進(jìn)行匹配，最終實(shí)現(xiàn)換臉,，達(dá)到以假亂真的效果,。

在“AI換臉”類詐騙案件中，那些讓人真假難辨的殺熟視頻就是利用這項(xiàng)技術(shù)合成出來的,。

AI“造出”老同學(xué)

女子險(xiǎn)被詐騙40萬

前不久,，家住內(nèi)蒙古鄂爾多斯的李女士忽然收到了一個微信添加好友申請。李女士打開一看,，這個微信昵稱為“濁雨不語”的人,，頭像是自己的老同學(xué)“賈某”，她便加了對方的微信,，并在對方的要求下轉(zhuǎn)入了QQ聊天,。進(jìn)入QQ聊天之后，這名賈某主動發(fā)來了視頻通話邀請,。

受害人 李女士：跟我視頻,，我沒等接起來就沒了，緊接著又跟我視頻一次,，我還是接不起來,。第三次給我打視頻，我接起來16秒鐘看到他的頭像,，頭比較大,，背景啥的都看不到，聲音聽不到,，太吵了那里邊,，他就說網(wǎng)絡(luò)信號卡，聽不到聲音,，文字交代,，他就給我打過來字。

視頻通話雖然只有短短的16秒,，但李女士確實(shí)看到了所謂老同學(xué)的樣貌,。這樣李女士確信和自己交流的就是老同學(xué)“賈某”無疑,。

一番寒暄之后，這位所謂的老同學(xué)“賈某”說有個急事想請李女士幫忙,，他有個朋友正在參加一個項(xiàng)目競標(biāo)，急需資金周轉(zhuǎn),，但他不方便直接出面將錢轉(zhuǎn)給對方,，希望借李女士的賬戶做個資金周轉(zhuǎn)的橋梁。

隨后這位老同學(xué)向李女士索要了銀行卡號,，接著便聲稱已經(jīng)向李女士的賬戶轉(zhuǎn)了196萬元,，同時還發(fā)來了一張“銀行轉(zhuǎn)賬記錄”截圖。

在收款未到賬的情況下,，這位所謂的老同學(xué)極力說服李女士先墊付資金,。基于對老同學(xué)的信任,，加上已經(jīng)視頻通話核實(shí)了身份,，李女士沒有進(jìn)一步確認(rèn)錢款是否到賬，就將自己手里的40萬元轉(zhuǎn)入了對方提供的一個銀行賬號,。

然而在李女士轉(zhuǎn)出40萬后,，對方仍不罷休，要求她繼續(xù)轉(zhuǎn)賬,。此時李女士才感到事有蹊蹺,，就在她嘗試再次聯(lián)系對方時發(fā)現(xiàn)自己已經(jīng)被拉黑了。隨后李女士撥打了真正的老同學(xué)的電話,，這才發(fā)現(xiàn)被騙了,，隨即便報(bào)了警。

接到報(bào)警后,，鄂爾多斯警方立即啟動了緊急止付機(jī)制,，成功將被騙的40萬元攔截，返還給了李女士,。

隨即警方對涉案的“濁雨不語”微信賬號展開了調(diào)查,。警方調(diào)查發(fā)現(xiàn)，這個賬號的實(shí)名認(rèn)證信息對應(yīng)的是一個叫劉某的人,，而這個人的行為明顯異常,。

鄂爾多斯市公安局東勝分局刑事偵查大隊(duì)四中隊(duì)指導(dǎo)員 楊雪剛：微信號的實(shí)際登記注冊人名下有12個微信賬號，我們就對這個人比較懷疑,，因?yàn)樽鳛橐粋€普通人,，不可能有十二三個微信賬號。

很快,，辦案民警在呼和浩特找到了劉某,。到案后,，據(jù)劉某交代，此前在一個擁有上千名成員的所謂QQ兼職群中,，他關(guān)注到了一條標(biāo)題為“租用私人實(shí)名制認(rèn)證手機(jī)號,，注冊社交聊天賬號，可以賺錢”的兼職信息,。抱著試試看的態(tài)度,，劉某和他們?nèi)〉昧寺?lián)系。

據(jù)劉某交代,，注冊好多個微信賬號后,，他按照上線的要求，將這些微信的頭像,、昵稱,、地區(qū)等全都改成了上線提供的信息之后，便將自己名下的微信號交給境外詐騙團(tuán)伙操作,。

嘗到所謂輕松“賺錢”甜頭的劉某一發(fā)不可收拾,，將自己的好友王某也一起拉來出租實(shí)名認(rèn)證的微信號。在案發(fā)前的9個月時間里,，劉某和王某兩人用各自名下的19個手機(jī)號,，實(shí)名認(rèn)證了三十多個微信賬號、十多個支付寶賬號,，出租給詐騙團(tuán)伙,，非法獲利8000余元。

無獨(dú)有偶,，前不久,，家住安徽池州的陳先生也遭遇了“AI換臉”詐騙。這次騙子冒充的是陳先生熟識的一位領(lǐng)導(dǎo),。而這位假領(lǐng)導(dǎo)讓陳先生險(xiǎn)些損失了六十萬元,。

受害人 陳先生：我當(dāng)時是有所懷疑的，然后給我發(fā)視頻,，跟我聊天的過程當(dāng)中完全就是跟我很熟悉的,，跟我平時跟他聊天的內(nèi)容、口氣幾乎是一樣的,。那感覺就是完全沒有再去懷疑他了,。接到他那個轉(zhuǎn)賬匯款的截屏，但是沒收到款,，這里又要我轉(zhuǎn)回去,，我再三考慮朋友之間，有時候難為情，我就把錢給他轉(zhuǎn)過去了,。

調(diào)查中記者注意到,，安徽陳先生遭遇的詐騙套路與陳女士的如出一轍：詐騙人員第一步都是先冒充受害人的朋友要求加微信;接著第二步通過聊天取得受害人的初步信任;第三步發(fā)來利用“AI換臉”合成的視頻通話進(jìn)一步打消受害人的顧慮;最后第四步偽造假轉(zhuǎn)賬記錄并以延時為由，誘騙受害人對外轉(zhuǎn)款,。

獲取公民個人信息

是“AI換臉”類犯罪的最重要前提之一

在“AI換臉”類詐騙案中,，騙子之所以能夠?qū)覍业贸眩P(guān)鍵在于受害人在視頻通話中都看到了熟悉的親戚朋友的樣貌,，才最終打消了顧慮,，同意向?qū)Ψ睫D(zhuǎn)款。這些足以以假亂真的視頻全都是通過“AI換臉”技術(shù)偽造出來的,。隨著調(diào)查的深入，記者發(fā)現(xiàn),，在“AI換臉”類詐騙中遠(yuǎn)不止視頻殺熟一種套路,，事實(shí)上只要在涉及面容、聲音等特征的社交場景中,，“AI換臉”技術(shù)如果應(yīng)用不當(dāng)就可能形成各種各樣的犯罪,。

這家總部位于深圳的網(wǎng)絡(luò)安全企業(yè)，其主要業(yè)務(wù)之一是為全國500多個地市區(qū)縣的反詐中心提供反詐預(yù)警服務(wù),。截至目前,，他們已協(xié)助各級公安部門破獲各類新型犯罪案件6000余起，其中就包括多起利用“AI換臉”偽造色情視頻進(jìn)行敲詐勒索的案件,。

前不久,，河北的一位李先生在瀏覽交友App時，因沒禁住誘惑,，同意了與所謂美女的裸聊要求,，并下載了對方發(fā)來的一個非法聊天軟件。殊不知這位所謂的美女是詐騙人員假冒的,。而就在聊天過程中,，詐騙人員已將李先生的樣貌截取了下來，并利用“AI換臉”偽造了帶有李先生面容的色情視頻,。與此同時,，詐騙人員還利用非法聊天軟件獲取了李先生手機(jī)中所有聯(lián)系人的手機(jī)號，以此來對李先生進(jìn)行敲詐勒索,。為了讓詐騙人員刪除色情視頻,，無奈之下李先生只得同意向?qū)Ψ睫D(zhuǎn)賬12萬元。

深圳某網(wǎng)絡(luò)安全科技公司 鐘子驥：詐騙人會誘導(dǎo)受騙人進(jìn)行視頻聊天,，然后通過這些軟件截取受害人的面部特征以及外貌,，通過AI合成了一些黃色的視頻，投放到他自制的App里。在這個App里有數(shù)十萬的用戶,，最終通過剛才我們說的這種方式實(shí)施詐騙,、勒索，平均每個人的受騙金額都是有幾十萬,。

調(diào)查中記者了解到,，在這類案件中，詐騙人員首先會在一些交友類平臺搜尋詐騙對象;然后以裸聊等名義誘導(dǎo)受害人下載注冊非法的聊天軟件,，并在注冊過程中非法獲取受害人的通訊錄,、照片庫等隱私信息;接著通過視頻聊天截取受害人面部、聲音等特征;最后偽造出帶有受害人面部的色情視頻進(jìn)行敲詐勒索,。

記者注意到,，在這類電詐案中，除了需要掌握“AI換臉”這項(xiàng)核心技術(shù)之外,，成功詐騙的前提還需要獲取受害人的通訊錄,、照片庫等個人隱私信息，甚至可以說獲取公民個人信息是“AI換臉”類犯罪的最重要前提之一,。

網(wǎng)絡(luò)安全專家告訴記者,，事實(shí)上，對于詐騙團(tuán)伙來說,，要想獲得這些信息并不難,。

個人信息大規(guī)模泄露

是詐騙犯罪高發(fā)的重要因素

在這家企業(yè)技術(shù)攻破的一些詐騙團(tuán)伙的數(shù)據(jù)庫中，記者看到了海量的公民個人隱私信息,。這個電子表格中存儲的就是眾多銀行理財(cái)用戶的隱私信息,，其中包括了姓名、手機(jī)號,、身份證號,、銀行卡號甚至還有用戶理財(cái)賬戶金額和風(fēng)險(xiǎn)評估類型。

網(wǎng)絡(luò)專家向記者介紹,，這些公民個人隱私信息在一些暗網(wǎng)渠道被明碼標(biāo)價(jià),，打包出售，根據(jù)新鮮程度的不同,，標(biāo)價(jià)從幾毛錢到幾元錢不等,，最低起售條數(shù)一般以一萬條為計(jì)算單位。而這些公民個人隱私信息除了主要由行業(yè)內(nèi)鬼竊取出售之外,，另外一個主要渠道就是利用一些非法鏈接,、二維碼和手機(jī)App的誘導(dǎo)套取。

深圳某網(wǎng)絡(luò)安全科技公司負(fù)責(zé)人 肖堅(jiān)煒：第二個渠道就是由詐騙分子直接自己安排技術(shù)人員跟他的業(yè)務(wù)人員去套取,，比如說去發(fā)小卡片,，這小卡片里有App，你只要裝了這個App，去看直播也好,，看色情網(wǎng)站,，免費(fèi)的VPN，然后就會把你的通訊錄,、照片給你傳到后臺去,。

在浙江大學(xué)，研究人員為記者演示了通過掃描非法二維碼套取手機(jī)通訊錄和照片庫信息的過程,?？梢钥吹剑芯咳藛T首先模擬不法分子制作了一條誘導(dǎo)短信,，短信中聲稱因存在異常交易,，賬戶存在被凍結(jié)風(fēng)險(xiǎn)，需要掃描二維碼下載專屬銀行客服,。而就在下載安裝成功后,，只要點(diǎn)擊這個App，試驗(yàn)手機(jī)中的通訊錄和照片庫就全部被竊取并上傳到了模擬的不法人員后臺數(shù)據(jù)庫中,。

浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室任奎團(tuán)隊(duì) 郭永軍：我們可以看到剛剛這個時間，犯罪分子將你手機(jī)上的信息進(jìn)行竊取,，可以查看你手機(jī)中的通訊錄信息,，以及你手機(jī)中相冊的信息。在當(dāng)前的網(wǎng)絡(luò)環(huán)境下面我們會遇到很多未知的鏈接,，比如可能說掃二維碼送禮物去進(jìn)行一個App下載,，這些App沒有經(jīng)過安全檢測，隨意下載之后手機(jī)上的隱私信息就有可能被竊取,。

網(wǎng)絡(luò)電詐頻發(fā)背后

是規(guī)?；f(xié)同化的黑灰產(chǎn)業(yè)鏈

調(diào)查中記者了解到,，電信網(wǎng)絡(luò)詐騙已形成了分工明確的完整網(wǎng)絡(luò)犯罪產(chǎn)業(yè)鏈,。產(chǎn)業(yè)鏈的上游為網(wǎng)絡(luò)犯罪團(tuán)伙提供非法套取的公民個人隱私信息;中游定制個性化腳本實(shí)施網(wǎng)絡(luò)詐騙;下游洗錢變現(xiàn)。網(wǎng)絡(luò)安全專家告訴記者,，這樣一個具備“規(guī)?；a(chǎn)、協(xié)同運(yùn)作”等特點(diǎn)的黑灰產(chǎn)業(yè)鏈,，給網(wǎng)絡(luò)詐騙的打擊和治理帶來了挑戰(zhàn),。

據(jù)了解，截至目前,，我國網(wǎng)絡(luò)安全法已實(shí)施近7年,，個人信息保護(hù)法已實(shí)施兩年有余。有關(guān)法律專家表示，要想進(jìn)一步遏制公民個人隱私信息泄露及網(wǎng)絡(luò)詐騙的發(fā)生,，在制度上仍需細(xì)化和完善,。

中國法學(xué)會消費(fèi)者權(quán)益保護(hù)法研究會副秘書長 陳音江：針對公民個人信息保護(hù)方面一些具體的法律法規(guī)，或者說一些具體的管理措施還要進(jìn)一步明確,，進(jìn)一步細(xì)化,，更便于基層執(zhí)法人員進(jìn)行監(jiān)管。

網(wǎng)絡(luò)安全專家認(rèn)為,，維護(hù)網(wǎng)絡(luò)安全需要制度建設(shè)與技術(shù)創(chuàng)新并重,，制度為技術(shù)的應(yīng)用提供保障，技術(shù)則為制度的落地提供可行路徑,。

浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室任奎團(tuán)隊(duì)研究員 巴鐘杰：在防范手段方面我認(rèn)為一是我們要加強(qiáng)對網(wǎng)絡(luò)犯罪的預(yù)防和打擊;二是需要從源頭上加強(qiáng)我們的技術(shù)安全性,，尤其是商用產(chǎn)品的安全性，比方說可以結(jié)合隱私計(jì)算等技術(shù)來降低用戶隱私泄露的風(fēng)險(xiǎn);三是積極發(fā)展新興技術(shù),，以AI反制AI,。雖然AI合成的視頻現(xiàn)在已經(jīng)做到了以假亂真的程度，但事實(shí)上我們用AI技術(shù)還是可以從中提取到一些我們?nèi)祟惾庋蹮o法察覺的偽造痕跡,，以幫助我們的消費(fèi)者去防范以及識別以“AI換臉”詐騙為主的安全風(fēng)險(xiǎn),。

“AI換臉”詐騙之所以會得逞，實(shí)際上就是因?yàn)樵谏钪锌吹侥樉痛_認(rèn)身份是再普通不過的習(xí)慣,，“AI換臉”詐騙就是利用了我們這一習(xí)慣,。但是“AI換臉”詐騙也并非不可防范，最可靠的一招,，就是在線上發(fā)現(xiàn)任何疑點(diǎn),，都要線下核實(shí)，在線上也可以采取增加溝通時間等方法,，時間越長騙子越容易露出馬腳,。還可以多一些試探性舉措，比如視頻通話時讓對方轉(zhuǎn)轉(zhuǎn)頭或者做一些指定的動作,。AI目前還不能完美地適配所有情況,，如果是偽造的視頻就一定會存在一些破綻。當(dāng)然最終引導(dǎo)AI正向應(yīng)用,，嚴(yán)厲打擊犯罪行為,，才是治本之策。

來源：央視新聞客戶端

轉(zhuǎn)發(fā)自：防范非法集資 山東在行動