以假亂真的AI詐騙，如何防范？
2025-04-09 人民日報(bao) 點(dian)擊：次
生成圖像、合成語音、偽裝客服、偽造場景……
以假亂真的AI詐騙，如何防范？
上傳一張靜態照片，即(ji)可生(sheng)成動態視頻(pin)；只需(xu)幾秒語音(yin)，就能克隆聲音(yin)……這不是科幻電影，而(er)是發生(sheng)在身邊的真實事件，“AI換臉”正(zheng)成為(wei)侵權(quan)違法的重災區。
近期(qi)，為規范應(ying)(ying)用(yong)(yong)人(ren)(ren)臉(lian)(lian)(lian)識別(bie)技(ji)術處(chu)(chu)理人(ren)(ren)臉(lian)(lian)(lian)信息(xi)(xi)(xi)活動、保護個人(ren)(ren)信息(xi)(xi)(xi)權益(yi)，國家(jia)互聯(lian)網信息(xi)(xi)(xi)辦(ban)(ban)公室、公安部聯(lian)合公布《人(ren)(ren)臉(lian)(lian)(lian)識別(bie)技(ji)術應(ying)(ying)用(yong)(yong)安全管理辦(ban)(ban)法(fa)》，對應(ying)(ying)用(yong)(yong)人(ren)(ren)臉(lian)(lian)(lian)識別(bie)技(ji)術處(chu)(chu)理人(ren)(ren)臉(lian)(lian)(lian)信息(xi)(xi)(xi)的基(ji)本(ben)要求和(he)處(chu)(chu)理規則、人(ren)(ren)臉(lian)(lian)(lian)識別(bie)技(ji)術應(ying)(ying)用(yong)(yong)安全規范、監督管理職責(ze)等作(zuo)出了(le)規定。辦(ban)(ban)法(fa)將于(yu)2025年6月(yue)1日起施行。
人(ren)臉識別技(ji)術(shu)應用與人(ren)臉信(xin)息安(an)全(quan)緊密(mi)相關(guan)。人(ren)臉識別具(ju)有唯一(yi)性(xing)(xing)、不(bu)可(ke)更(geng)改性(xing)(xing)、不(bu)可(ke)匿名性(xing)(xing)，一(yi)旦泄(xie)露，極易對個人(ren)的人(ren)身和財產安(an)全(quan)造成危害，還可(ke)能威脅公共安(an)全(quan)。
AI詐騙形式多樣
換臉、變聲、對口型
貴州(zhou)省黔東南苗族侗族自治州(zhou)凱(kai)里(li)市公安(an)局反詐中(zhong)心負責(ze)人吳西福(fu)介紹，一家科技公司的(de)負責(ze)人郭(guo)先(xian)生(sheng)有(you)一天(tian)接到(dao)好(hao)(hao)(hao)友打來的(de)視頻電話，說自己正在(zai)外地投標(biao)，需(xu)要幾百萬(wan)元保證金，想用郭(guo)先(xian)生(sheng)的(de)公司賬(zhang)戶走一下賬(zhang)。不久后，好(hao)(hao)(hao)友說已經把錢轉(zhuan)到(dao)郭(guo)先(xian)生(sheng)的(de)賬(zhang)戶并截圖證明。郭(guo)先(xian)生(sheng)覺得通過視頻能看到(dao)好(hao)(hao)(hao)友本人，便沒等收到(dao)轉(zhuan)賬(zhang)成功的(de)通知就(jiu)給好(hao)(hao)(hao)友轉(zhuan)了錢。后來，郭(guo)先(xian)生(sheng)遲遲沒收到(dao)轉(zhuan)款，聯系(xi)好(hao)(hao)(hao)友時(shi)才發現(xian)自己被騙。
寧(ning)夏回族自(zi)治區銀川(chuan)市某公司部(bu)門經理張先(xian)生(sheng)接(jie)到“老板”視(shi)頻(pin)(pin)電話，對方稱因情(qing)況(kuang)緊急，急需轉賬(zhang)匯款。在(zai)視(shi)頻(pin)(pin)中確認是“老板”后，張先(xian)生(sheng)放下了(le)戒心(xin)，十幾分鐘內將20萬元轉入指(zhi)定賬(zhang)戶(hu)。直到下午當面匯報工作時(shi)，張先(xian)生(sheng)才發(fa)現上當受騙。
這些案件(jian)都是(shi)典型的(de)(de)(de)(de)AI詐騙。“你(ni)以為(wei)在和朋友親(qin)人視(shi)頻聊天，其實是(shi)騙子使(shi)用的(de)(de)(de)(de)‘AI換(huan)(huan)臉’技術，讓別人的(de)(de)(de)(de)嘴能夠‘對口型’。”寧(ning)夏回族自治區公(gong)安(an)廳刑偵總(zong)隊副總(zong)隊長、反詐中心負責人吳克剛(gang)介(jie)紹，如今，“AI換(huan)(huan)臉”技術不(bu)僅限(xian)于靜(jing)態(tai)照(zhao)片的(de)(de)(de)(de)活(huo)化，還(huan)能在即時視(shi)頻通信中實時換(huan)(huan)臉。雖然需要(yao)采(cai)集大量不(bu)同(tong)角度的(de)(de)(de)(de)照(zhao)片進(jin)行模(mo)型訓(xun)練(lian)，但一旦(dan)成功，便可以假(jia)亂真(zhen)。過(guo)去(qu)，公(gong)民個人身份證號、手機號以及家人信息需要(yao)重(zhong)點防范，現(xian)在，人臉、聲音、指(zhi)紋(wen)等同(tong)樣(yang)要(yao)避免泄露。
新型AI詐(zha)騙(pian)主(zhu)要有以下類型：語音合(he)成(cheng)詐(zha)騙(pian)，不(bu)法分(fen)子(zi)利用AI技(ji)術，合(he)成(cheng)受(shou)害(hai)人(ren)親友或熟(shu)人(ren)的(de)聲(sheng)音，讓受(shou)害(hai)人(ren)誤以為(wei)是親友或熟(shu)人(ren)需要幫助，進(jin)而(er)(er)實施電話詐(zha)騙(pian)；圖(tu)像(xiang)生(sheng)成(cheng)詐(zha)騙(pian)，不(bu)法分(fen)子(zi)通過AI技(ji)術，生(sheng)成(cheng)虛假的(de)照片或視頻，制造(zao)出受(shou)害(hai)人(ren)親友緊急且合(he)理的(de)情(qing)景，從而(er)(er)獲(huo)取個(ge)人(ren)信(xin)息，騙(pian)取錢財；智能(neng)客服詐(zha)騙(pian)，不(bu)法分(fen)子(zi)利用AI技(ji)術，制作智能(neng)客服系統，通過語音或文字(zi)同(tong)受(shou)害(hai)人(ren)交流，誘騙(pian)受(shou)害(hai)人(ren)提供個(ge)人(ren)信(xin)息或進(jin)行(xing)轉賬操作；AI情(qing)感詐(zha)騙(pian)，不(bu)法分(fen)子(zi)運用AI訓(xun)練(lian)面向(xiang)網聊的(de)大語言模型，通過偽造(zao)場景、聲(sheng)音與受(shou)害(hai)人(ren)建(jian)立情(qing)感關(guan)系，進(jin)而(er)(er)獲(huo)取個(ge)人(ren)信(xin)息。
吳西福介(jie)紹，共享屏(ping)幕等(deng)新(xin)型(xing)詐(zha)騙也(ye)要注(zhu)意。不法分(fen)子以“提升信(xin)用卡(ka)額度”“航(hang)班延(yan)誤退費”“贈送(song)禮品(pin)”等(deng)為借(jie)口，向個人發送(song)短信(xin)或撥打(da)電話，誘導受害人下載(zai)指(zhi)定軟件(jian)(jian)，并(bing)開啟軟件(jian)(jian)的“共享屏(ping)幕”功能，就可以“實時監控”受害人手機、電腦屏(ping)幕，同步獲取個人銀行(xing)賬戶、口令(ling)、驗證碼等(deng)重要信(xin)息，從而盜(dao)取銀行(xing)卡(ka)資金。
AI詐騙危害廣泛
造成經濟損失、心理創傷
相較于電信詐騙、網絡詐騙，新型(xing)AI詐騙的受害者身(shen)份(fen)更廣泛、多(duo)元，成功率更高，更難(nan)以追蹤。
警(jing)方梳理后發(fa)現(xian)，新(xin)(xin)型(xing)(xing)AI詐(zha)(zha)騙(pian)有(you)以下危(wei)害(hai)：造成(cheng)經濟(ji)損(sun)失(shi)(shi)，新(xin)(xin)型(xing)(xing)AI詐(zha)(zha)騙(pian)具有(you)針對(dui)性強、高度逼(bi)真等特征，普通群眾短(duan)時間內難以分辨(bian)，很容易上(shang)當受騙(pian)、遭受經濟(ji)損(sun)失(shi)(shi)，甚(shen)至(zhi)(zhi)會(hui)給家庭帶來沉重的(de)經濟(ji)負擔；發(fa)生信(xin)(xin)息(xi)泄露，新(xin)(xin)型(xing)(xing)AI詐(zha)(zha)騙(pian)往往能獲取受害(hai)人的(de)個人信(xin)(xin)息(xi)，包括身份證號、銀行(xing)賬戶、人臉、指紋等，進(jin)而濫(lan)用這些信(xin)(xin)息(xi)從事非(fei)法(fa)活動，導(dao)致受害(hai)人信(xin)(xin)息(xi)泄露，身份被盜用，引發(fa)潛在的(de)法(fa)律風(feng)險；造成(cheng)心理創(chuang)傷(shang)，遭受新(xin)(xin)型(xing)(xing)AI詐(zha)(zha)騙(pian)，除了(le)面(mian)臨經濟(ji)損(sun)失(shi)(shi)，受害(hai)人還(huan)可能產(chan)(chan)生焦慮、自責、抑(yi)郁等情(qing)緒(xu)，造成(cheng)嚴(yan)重的(de)心理創(chuang)傷(shang)；危(wei)害(hai)社會(hui)治安，如果新(xin)(xin)型(xing)(xing)AI詐(zha)(zha)騙(pian)案件變多，容易讓群眾對(dui)社會(hui)產(chan)(chan)生不信(xin)(xin)任(ren)感，甚(shen)至(zhi)(zhi)造成(cheng)恐慌情(qing)緒(xu)，有(you)些受害(hai)者也(ye)因無法(fa)承擔損(sun)失(shi)(shi)，走上(shang)違法(fa)犯罪道(dao)路。
新(xin)型AI詐騙(pian)案件增(zeng)加，偵破難度加大，對公(gong)安機關來說也是(shi)挑戰。吳西福(fu)說，只有不斷提升民警的專業素(su)質和偵查(cha)能力，加強對新(xin)型電信網絡詐騙(pian)犯罪(zui)的研(yan)究(jiu)，才能創新(xin)偵查(cha)手段和方法，提高打(da)擊(ji)效能。要加強與(yu)其他地(di)區公(gong)安機關的協作配合，建立(li)健全跨(kua)區域警務合作機制，形成打(da)擊(ji)合力。
有效防范AI詐騙
保護個人信息、學習識別方法
新型AI詐(zha)騙(pian)花樣頻出，偽裝性(xing)越來越強，該(gai)如何防(fang)范？
吳克剛給出(chu)了兩條(tiao)防騙建議：視頻通話時，讓對(dui)方做(zuo)出(chu)指(zhi)(zhi)定動作(zuo)，比(bi)如眨眼3次、摸摸鼻子，或者讓對(dui)方用手指(zhi)(zhi)或其他(ta)遮擋物在(zai)臉前晃動，如畫面出(chu)現延遲或者異常扭曲等(deng)不自然(ran)的(de)(de)微小變(bian)化，那(nei)對(dui)方很可能(neng)正在(zai)使用“AI換臉”技術。在(zai)與對(dui)方的(de)(de)溝(gou)通中(zhong)，也可以(yi)問一些只有(you)對(dui)方知道的(de)(de)問題，比(bi)如生日、電話號(hao)碼、喜好(hao)等(deng)，來(lai)驗證對(dui)方身份的(de)(de)真實性。
我們也(ye)應(ying)該提高安全防范意識，防止個(ge)人(ren)(ren)(ren)臉部信(xin)息(xi)(xi)被非法(fa)獲取利用(yong)。貴州警(jing)方(fang)提示，不(bu)(bu)輕(qing)信(xin)他人(ren)(ren)(ren)，不(bu)(bu)貪圖小便宜。妥善保管個(ge)人(ren)(ren)(ren)信(xin)息(xi)(xi)，把好(hao)個(ge)人(ren)(ren)(ren)信(xin)息(xi)(xi)保護的(de)(de)第一道關。在非必要情況(kuang)下，不(bu)(bu)向陌(mo)生(sheng)(sheng)人(ren)(ren)(ren)提供身份(fen)證(zheng)號碼(ma)、工作單位、家庭住址、職務等重要信(xin)息(xi)(xi)，不(bu)(bu)將身份(fen)證(zheng)照(zhao)(zhao)片(pian)(pian)或(huo)號碼(ma)保存(cun)在手機中(zhong)，盡可能(neng)避免將人(ren)(ren)(ren)臉、照(zhao)(zhao)片(pian)(pian)、聲音(yin)、指紋(wen)等留存(cun)到(dao)網站和(he)小程(cheng)序(xu)上。在日常(chang)生(sheng)(sheng)活中(zhong)，加(jia)強對人(ren)(ren)(ren)臉、聲音(yin)、指紋(wen)等生(sheng)(sheng)物特征數(shu)據的(de)(de)安全防護，做(zuo)好(hao)個(ge)人(ren)(ren)(ren)手機、電腦等終端設備(bei)的(de)(de)軟硬(ying)件安全管理，不(bu)(bu)登錄來路不(bu)(bu)明的(de)(de)網站，以免感染木馬病毒。另(ling)外，對可能(neng)進行聲音(yin)、圖像甚(shen)至視頻和(he)定(ding)位等信(xin)息(xi)(xi)采(cai)集的(de)(de)應(ying)用(yong)，做(zuo)好(hao)授權管理，不(bu)(bu)輕(qing)易給(gei)他人(ren)(ren)(ren)收集個(ge)人(ren)(ren)(ren)信(xin)息(xi)(xi)的(de)(de)機會，也(ye)能(neng)在一定(ding)程(cheng)度遠離(li)“AI換臉”詐(zha)騙(pian)。
此外，公安機關也要創新線(xian)(xian)上(shang)線(xian)(xian)下(xia)(xia)反(fan)(fan)詐宣傳(chuan)(chuan)，打(da)造全方位反(fan)(fan)詐宣傳(chuan)(chuan)矩陣。一方面，利用線(xian)(xian)上(shang)平臺，深(shen)入挖掘本地發(fa)生的(de)電(dian)信網絡詐騙典型(xing)案例(li)，結合(he)地區特色、民俗(su)以及當下(xia)(xia)流行的(de)網絡文化，拍攝制作風格獨特、通俗(su)易懂的(de)反(fan)(fan)詐宣傳(chuan)(chuan)短(duan)視頻。通過短(duan)視頻的(de)形(xing)式還原(yuan)詐騙分子的(de)話術、作案流程以及背后的(de)犯(fan)罪邏輯，幫助群眾提高(gao)反(fan)(fan)詐意(yi)識(shi)。
推動(dong)反(fan)詐宣(xuan)(xuan)傳進校園、進社區、進企業，將反(fan)詐宣(xuan)(xuan)傳與群(qun)眾喜愛的(de)文化娛樂活動(dong)緊(jin)密結合，打(da)造出(chu)一系列(lie)具(ju)有(you)貼(tie)近性(xing)的(de)反(fan)詐宣(xuan)(xuan)傳場景。堅持精準施策(ce)，針對不(bu)同群(qun)體、行業和(he)地區特(te)點，開展有(you)針對性(xing)的(de)宣(xuan)(xuan)傳，做到有(you)的(de)放(fang)矢，切實增(zeng)強群(qun)眾防騙意識和(he)識騙能力。
警(jing)(jing)方(fang)也警(jing)(jing)告不法分子：通(tong)過“AI換臉”進(jin)行(xing)視頻合成(cheng)(cheng)、實(shi)施詐(zha)騙(pian)的(de)(de)行(xing)為，是利用新技術進(jin)行(xing)的(de)(de)詐(zha)騙(pian)，與傳統詐(zha)騙(pian)行(xing)為沒有本(ben)質(zhi)區別。對(dui)于構成(cheng)(cheng)詐(zha)騙(pian)罪的(de)(de)，將依照我國刑法第二(er)百六(liu)十六(liu)條的(de)(de)規定追究刑事責任；對(dui)于為利用“AI換臉”實(shi)施詐(zha)騙(pian)行(xing)為提供(gong)技術支持、幫助的(de)(de)，將根據(ju)反電(dian)信網絡(luo)詐(zha)騙(pian)法的(de)(de)規定進(jin)行(xing)行(xing)政(zheng)處罰，構成(cheng)(cheng)犯罪的(de)(de)，還要追究刑事責任。
掃碼投訴