“AI換臉”詐騙套路多多！我們?cè)撊绾畏婪叮?/span>

AI技術(shù),，也就是人工智能,，近年來發(fā)展迅速，有關(guān)專家介紹,，AI的主要特征之一就是能自主深度學(xué)習(xí),，比如說，可以對(duì)現(xiàn)實(shí)生活中的人物表情和動(dòng)作細(xì)節(jié)進(jìn)行深度學(xué)習(xí)并且進(jìn)行模仿,。一些不法分子因此盯上了這項(xiàng)新技術(shù),，他們利用“AI換臉”冒充受害人的親戚和朋友實(shí)施詐騙。公安部數(shù)據(jù)顯示,，近兩年來,，全國共發(fā)生“AI換臉”類詐騙案近百起，累計(jì)給人民群眾造成經(jīng)濟(jì)損失高達(dá)2億元,?！癆I換臉”詐騙緣何能屢屢得手?這其中的套路有哪些?我們又該如何防范呢?

記者近日來到了浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室。在這里,，任奎教授團(tuán)隊(duì)的研究人員讓記者體驗(yàn)了一回“AI換臉”,。

畫面中，這位充當(dāng)總臺(tái)記者替身的姑娘實(shí)際上是浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院的學(xué)生小劉博士,。在視頻中,，通過AI技術(shù)，浙大的研究人員成功將記者的面部特征移植到了劉博士的臉上,，并對(duì)劉博士的聲音也進(jìn)行了改造,，這樣就合成出了“AI換臉”版的所謂總臺(tái)記者。

浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室任奎團(tuán)隊(duì)廉偉辰：我們首先去鎖定高老師和劉博士面部信息的位置,，然后在里面提取出兩個(gè)人的面部特征信息,，之后我們用“AI換臉”模型去擬合兩個(gè)人五官分布。因?yàn)閯⒉┦棵娌刻卣鞣植记闆r和高老師分布情況不一樣,，所以需要讓高老師的面部特征移到劉博士的臉上,。等到AI模型擬合完成后，再把背景信息融合進(jìn)來,，合成最后的效果,。

據(jù)專家介紹，“AI換臉”技術(shù)是一項(xiàng)基于人工智能的圖像處理技術(shù),，這種技術(shù)能夠識(shí)別出目標(biāo)人物的面部特征并對(duì)其進(jìn)行精準(zhǔn)分析,。也就是說,，只需要目標(biāo)人物的幾張照片或視頻，AI就能從中提取出他的面部五官和聲音特征,，通過和另一個(gè)人進(jìn)行匹配,，最終實(shí)現(xiàn)換臉，達(dá)到以假亂真的效果,。

在“AI換臉”類詐騙案件中,，那些讓人真假難辨的殺熟視頻就是利用這項(xiàng)技術(shù)合成出來的。

AI“造出”老同學(xué)

女子險(xiǎn)被詐騙40萬

前不久,，家住內(nèi)蒙古鄂爾多斯的李女士忽然收到了一個(gè)微信添加好友申請(qǐng),。李女士打開一看，這個(gè)微信昵稱為“濁雨不語”的人,，頭像是自己的老同學(xué)“賈某”,，她便加了對(duì)方的微信，并在對(duì)方的要求下轉(zhuǎn)入了QQ聊天,。進(jìn)入QQ聊天之后,，這名賈某主動(dòng)發(fā)來了視頻通話邀請(qǐng)。

受害人 李女士：跟我視頻,，我沒等接起來就沒了,，緊接著又跟我視頻一次，我還是接不起來,。第三次給我打視頻,，我接起來16秒鐘看到他的頭像，頭比較大,，背景啥的都看不到,，聲音聽不到，太吵了那里邊,，他就說網(wǎng)絡(luò)信號(hào)卡,，聽不到聲音，文字交代,，他就給我打過來字。

視頻通話雖然只有短短的16秒,，但李女士確實(shí)看到了所謂老同學(xué)的樣貌,。這樣李女士確信和自己交流的就是老同學(xué)“賈某”無疑。

一番寒暄之后,，這位所謂的老同學(xué)“賈某”說有個(gè)急事想請(qǐng)李女士幫忙,，他有個(gè)朋友正在參加一個(gè)項(xiàng)目競標(biāo)，急需資金周轉(zhuǎn),，但他不方便直接出面將錢轉(zhuǎn)給對(duì)方,，希望借李女士的賬戶做個(gè)資金周轉(zhuǎn)的橋梁,。

隨后這位老同學(xué)向李女士索要了銀行卡號(hào)，接著便聲稱已經(jīng)向李女士的賬戶轉(zhuǎn)了196萬元,，同時(shí)還發(fā)來了一張“銀行轉(zhuǎn)賬記錄”截圖,。

在收款未到賬的情況下，這位所謂的老同學(xué)極力說服李女士先墊付資金,?；趯?duì)老同學(xué)的信任，加上已經(jīng)視頻通話核實(shí)了身份,，李女士沒有進(jìn)一步確認(rèn)錢款是否到賬,，就將自己手里的40萬元轉(zhuǎn)入了對(duì)方提供的一個(gè)銀行賬號(hào)。

然而在李女士轉(zhuǎn)出40萬后,，對(duì)方仍不罷休,，要求她繼續(xù)轉(zhuǎn)賬。此時(shí)李女士才感到事有蹊蹺,，就在她嘗試再次聯(lián)系對(duì)方時(shí)發(fā)現(xiàn)自己已經(jīng)被拉黑了,。隨后李女士撥打了真正的老同學(xué)的電話，這才發(fā)現(xiàn)被騙了,，隨即便報(bào)了警,。

接到報(bào)警后，鄂爾多斯警方立即啟動(dòng)了緊急止付機(jī)制,，成功將被騙的40萬元攔截,，返還給了李女士。

隨即警方對(duì)涉案的“濁雨不語”微信賬號(hào)展開了調(diào)查,。警方調(diào)查發(fā)現(xiàn),，這個(gè)賬號(hào)的實(shí)名認(rèn)證信息對(duì)應(yīng)的是一個(gè)叫劉某的人，而這個(gè)人的行為明顯異常,。

鄂爾多斯市公安局東勝分局刑事偵查大隊(duì)四中隊(duì)指導(dǎo)員 楊雪剛：微信號(hào)的實(shí)際登記注冊(cè)人名下有12個(gè)微信賬號(hào),，我們就對(duì)這個(gè)人比較懷疑，因?yàn)樽鳛橐粋€(gè)普通人,，不可能有十二三個(gè)微信賬號(hào),。

很快，辦案民警在呼和浩特找到了劉某,。到案后,，據(jù)劉某交代，此前在一個(gè)擁有上千名成員的所謂QQ兼職群中,，他關(guān)注到了一條標(biāo)題為“租用私人實(shí)名制認(rèn)證手機(jī)號(hào),，注冊(cè)社交聊天賬號(hào)，可以賺錢”的兼職信息,。抱著試試看的態(tài)度,，劉某和他們?nèi)〉昧寺?lián)系,。

據(jù)劉某交代，注冊(cè)好多個(gè)微信賬號(hào)后,，他按照上線的要求,，將這些微信的頭像、昵稱,、地區(qū)等全都改成了上線提供的信息之后,，便將自己名下的微信號(hào)交給境外詐騙團(tuán)伙操作。

嘗到所謂輕松“賺錢”甜頭的劉某一發(fā)不可收拾,，將自己的好友王某也一起拉來出租實(shí)名認(rèn)證的微信號(hào),。在案發(fā)前的9個(gè)月時(shí)間里，劉某和王某兩人用各自名下的19個(gè)手機(jī)號(hào),，實(shí)名認(rèn)證了三十多個(gè)微信賬號(hào),、十多個(gè)支付寶賬號(hào)，出租給詐騙團(tuán)伙,，非法獲利8000余元,。

無獨(dú)有偶，前不久,，家住安徽池州的陳先生也遭遇了“AI換臉”詐騙,。這次騙子冒充的是陳先生熟識(shí)的一位領(lǐng)導(dǎo)。而這位假領(lǐng)導(dǎo)讓陳先生險(xiǎn)些損失了六十萬元,。

受害人 陳先生：我當(dāng)時(shí)是有所懷疑的,，然后給我發(fā)視頻，跟我聊天的過程當(dāng)中完全就是跟我很熟悉的,，跟我平時(shí)跟他聊天的內(nèi)容,、口氣幾乎是一樣的。那感覺就是完全沒有再去懷疑他了,。接到他那個(gè)轉(zhuǎn)賬匯款的截屏,，但是沒收到款，這里又要我轉(zhuǎn)回去,，我再三考慮朋友之間,，有時(shí)候難為情，我就把錢給他轉(zhuǎn)過去了,。

調(diào)查中記者注意到,，安徽陳先生遭遇的詐騙套路與陳女士的如出一轍：詐騙人員第一步都是先冒充受害人的朋友要求加微信;接著第二步通過聊天取得受害人的初步信任;第三步發(fā)來利用“AI換臉”合成的視頻通話進(jìn)一步打消受害人的顧慮;最后第四步偽造假轉(zhuǎn)賬記錄并以延時(shí)為由，誘騙受害人對(duì)外轉(zhuǎn)款,。

獲取公民個(gè)人信息

是“AI換臉”類犯罪的最重要前提之一

在“AI換臉”類詐騙案中，騙子之所以能夠?qū)覍业贸?，關(guān)鍵在于受害人在視頻通話中都看到了熟悉的親戚朋友的樣貌,，才最終打消了顧慮,，同意向?qū)Ψ睫D(zhuǎn)款。這些足以以假亂真的視頻全都是通過“AI換臉”技術(shù)偽造出來的,。隨著調(diào)查的深入,，記者發(fā)現(xiàn)，在“AI換臉”類詐騙中遠(yuǎn)不止視頻殺熟一種套路,，事實(shí)上只要在涉及面容,、聲音等特征的社交場景中，“AI換臉”技術(shù)如果應(yīng)用不當(dāng)就可能形成各種各樣的犯罪,。

這家總部位于深圳的網(wǎng)絡(luò)安全企業(yè),，其主要業(yè)務(wù)之一是為全國500多個(gè)地市區(qū)縣的反詐中心提供反詐預(yù)警服務(wù)。截至目前,，他們已協(xié)助各級(jí)公安部門破獲各類新型犯罪案件6000余起,，其中就包括多起利用“AI換臉”偽造色情視頻進(jìn)行敲詐勒索的案件。

前不久,，河北的一位李先生在瀏覽交友App時(shí),，因沒禁住誘惑，同意了與所謂美女的裸聊要求,，并下載了對(duì)方發(fā)來的一個(gè)非法聊天軟件,。殊不知這位所謂的美女是詐騙人員假冒的。而就在聊天過程中,，詐騙人員已將李先生的樣貌截取了下來,，并利用“AI換臉”偽造了帶有李先生面容的色情視頻。與此同時(shí),，詐騙人員還利用非法聊天軟件獲取了李先生手機(jī)中所有聯(lián)系人的手機(jī)號(hào),，以此來對(duì)李先生進(jìn)行敲詐勒索。為了讓詐騙人員刪除色情視頻,，無奈之下李先生只得同意向?qū)Ψ睫D(zhuǎn)賬12萬元,。

深圳某網(wǎng)絡(luò)安全科技公司 鐘子驥：詐騙人會(huì)誘導(dǎo)受騙人進(jìn)行視頻聊天，然后通過這些軟件截取受害人的面部特征以及外貌,，通過AI合成了一些黃色的視頻,，投放到他自制的App里。在這個(gè)App里有數(shù)十萬的用戶,，最終通過剛才我們說的這種方式實(shí)施詐騙,、勒索，平均每個(gè)人的受騙金額都是有幾十萬,。

調(diào)查中記者了解到,，在這類案件中，詐騙人員首先會(huì)在一些交友類平臺(tái)搜尋詐騙對(duì)象;然后以裸聊等名義誘導(dǎo)受害人下載注冊(cè)非法的聊天軟件,，并在注冊(cè)過程中非法獲取受害人的通訊錄,、照片庫等隱私信息;接著通過視頻聊天截取受害人面部,、聲音等特征;最后偽造出帶有受害人面部的色情視頻進(jìn)行敲詐勒索。

記者注意到,，在這類電詐案中,，除了需要掌握“AI換臉”這項(xiàng)核心技術(shù)之外，成功詐騙的前提還需要獲取受害人的通訊錄,、照片庫等個(gè)人隱私信息,，甚至可以說獲取公民個(gè)人信息是“AI換臉”類犯罪的最重要前提之一。

網(wǎng)絡(luò)安全專家告訴記者,，事實(shí)上,，對(duì)于詐騙團(tuán)伙來說，要想獲得這些信息并不難,。

個(gè)人信息大規(guī)模泄露

是詐騙犯罪高發(fā)的重要因素

在這家企業(yè)技術(shù)攻破的一些詐騙團(tuán)伙的數(shù)據(jù)庫中,，記者看到了海量的公民個(gè)人隱私信息。這個(gè)電子表格中存儲(chǔ)的就是眾多銀行理財(cái)用戶的隱私信息,，其中包括了姓名,、手機(jī)號(hào)、身份證號(hào),、銀行卡號(hào)甚至還有用戶理財(cái)賬戶金額和風(fēng)險(xiǎn)評(píng)估類型,。

網(wǎng)絡(luò)專家向記者介紹，這些公民個(gè)人隱私信息在一些暗網(wǎng)渠道被明碼標(biāo)價(jià),，打包出售,，根據(jù)新鮮程度的不同，標(biāo)價(jià)從幾毛錢到幾元錢不等,，最低起售條數(shù)一般以一萬條為計(jì)算單位,。而這些公民個(gè)人隱私信息除了主要由行業(yè)內(nèi)鬼竊取出售之外，另外一個(gè)主要渠道就是利用一些非法鏈接,、二維碼和手機(jī)App的誘導(dǎo)套取,。

深圳某網(wǎng)絡(luò)安全科技公司負(fù)責(zé)人 肖堅(jiān)煒：第二個(gè)渠道就是由詐騙分子直接自己安排技術(shù)人員跟他的業(yè)務(wù)人員去套取，比如說去發(fā)小卡片,，這小卡片里有App,，你只要裝了這個(gè)App，去看直播也好,，看色情網(wǎng)站,，免費(fèi)的VPN，然后就會(huì)把你的通訊錄,、照片給你傳到后臺(tái)去,。

在浙江大學(xué)，研究人員為記者演示了通過掃描非法二維碼套取手機(jī)通訊錄和照片庫信息的過程?？梢钥吹?，研究人員首先模擬不法分子制作了一條誘導(dǎo)短信，短信中聲稱因存在異常交易,，賬戶存在被凍結(jié)風(fēng)險(xiǎn)，需要掃描二維碼下載專屬銀行客服,。而就在下載安裝成功后,，只要點(diǎn)擊這個(gè)App，試驗(yàn)手機(jī)中的通訊錄和照片庫就全部被竊取并上傳到了模擬的不法人員后臺(tái)數(shù)據(jù)庫中,。

浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室任奎團(tuán)隊(duì) 郭永軍：我們可以看到剛剛這個(gè)時(shí)間,，犯罪分子將你手機(jī)上的信息進(jìn)行竊取，可以查看你手機(jī)中的通訊錄信息,，以及你手機(jī)中相冊(cè)的信息,。在當(dāng)前的網(wǎng)絡(luò)環(huán)境下面我們會(huì)遇到很多未知的鏈接，比如可能說掃二維碼送禮物去進(jìn)行一個(gè)App下載,，這些App沒有經(jīng)過安全檢測,，隨意下載之后手機(jī)上的隱私信息就有可能被竊取。

網(wǎng)絡(luò)電詐頻發(fā)背后

是規(guī)?；?、協(xié)同化的黑灰產(chǎn)業(yè)鏈

調(diào)查中記者了解到，電信網(wǎng)絡(luò)詐騙已形成了分工明確的完整網(wǎng)絡(luò)犯罪產(chǎn)業(yè)鏈,。產(chǎn)業(yè)鏈的上游為網(wǎng)絡(luò)犯罪團(tuán)伙提供非法套取的公民個(gè)人隱私信息;中游定制個(gè)性化腳本實(shí)施網(wǎng)絡(luò)詐騙;下游洗錢變現(xiàn),。網(wǎng)絡(luò)安全專家告訴記者，這樣一個(gè)具備“規(guī)?；a(chǎn),、協(xié)同運(yùn)作”等特點(diǎn)的黑灰產(chǎn)業(yè)鏈，給網(wǎng)絡(luò)詐騙的打擊和治理帶來了挑戰(zhàn),。

據(jù)了解,，截至目前，我國網(wǎng)絡(luò)安全法已實(shí)施近7年,，個(gè)人信息保護(hù)法已實(shí)施兩年有余,。有關(guān)法律專家表示，要想進(jìn)一步遏制公民個(gè)人隱私信息泄露及網(wǎng)絡(luò)詐騙的發(fā)生,，在制度上仍需細(xì)化和完善,。

中國法學(xué)會(huì)消費(fèi)者權(quán)益保護(hù)法研究會(huì)副秘書長 陳音江：針對(duì)公民個(gè)人信息保護(hù)方面一些具體的法律法規(guī)，或者說一些具體的管理措施還要進(jìn)一步明確,，進(jìn)一步細(xì)化,，更便于基層執(zhí)法人員進(jìn)行監(jiān)管。

網(wǎng)絡(luò)安全專家認(rèn)為，維護(hù)網(wǎng)絡(luò)安全需要制度建設(shè)與技術(shù)創(chuàng)新并重,，制度為技術(shù)的應(yīng)用提供保障,，技術(shù)則為制度的落地提供可行路徑。

浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點(diǎn)實(shí)驗(yàn)室任奎團(tuán)隊(duì)研究員 巴鐘杰：在防范手段方面我認(rèn)為一是我們要加強(qiáng)對(duì)網(wǎng)絡(luò)犯罪的預(yù)防和打擊;二是需要從源頭上加強(qiáng)我們的技術(shù)安全性,，尤其是商用產(chǎn)品的安全性,，比方說可以結(jié)合隱私計(jì)算等技術(shù)來降低用戶隱私泄露的風(fēng)險(xiǎn);三是積極發(fā)展新興技術(shù)，以AI反制AI,。雖然AI合成的視頻現(xiàn)在已經(jīng)做到了以假亂真的程度,，但事實(shí)上我們用AI技術(shù)還是可以從中提取到一些我們?nèi)祟惾庋蹮o法察覺的偽造痕跡，以幫助我們的消費(fèi)者去防范以及識(shí)別以“AI換臉”詐騙為主的安全風(fēng)險(xiǎn),。

“AI換臉”詐騙之所以會(huì)得逞,，實(shí)際上就是因?yàn)樵谏钪锌吹侥樉痛_認(rèn)身份是再普通不過的習(xí)慣，“AI換臉”詐騙就是利用了我們這一習(xí)慣,。但是“AI換臉”詐騙也并非不可防范,，最可靠的一招，就是在線上發(fā)現(xiàn)任何疑點(diǎn),，都要線下核實(shí),，在線上也可以采取增加溝通時(shí)間等方法，時(shí)間越長騙子越容易露出馬腳,。還可以多一些試探性舉措,，比如視頻通話時(shí)讓對(duì)方轉(zhuǎn)轉(zhuǎn)頭或者做一些指定的動(dòng)作。AI目前還不能完美地適配所有情況,，如果是偽造的視頻就一定會(huì)存在一些破綻,。當(dāng)然最終引導(dǎo)AI正向應(yīng)用，嚴(yán)厲打擊犯罪行為,，才是治本之策,。

來源：央視新聞客戶端

轉(zhuǎn)發(fā)自：防范非法集資 山東在行動(dòng)