今年以來，ChatGPT和GPT-4等技術的應用成為(wei) 信息科技領域的熱點，引起公眾(zhong) 對AI技術的廣泛關(guan) 注和熱情。昨日，中國互聯網協會(hui) 發文稱，伴隨著深度合成技術的開放開源，深度合成產(chan) 品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為(wei) 屢見不鮮。北京青年報記者查詢發現，國內(nei) 多地警方已經發布了相關(guan) 案例。

　　利用“AI換臉”虛假視頻詐騙已發生多起

　　據內(nei) 蒙古包頭警方消息，近日，福建省一知名企業(ye) 家被境外詐騙團夥(huo) 騙走430萬(wan) 元。在得知涉案的一張銀行卡在包頭市一銀行後，包頭警方立即介入，僅(jin) 用10分鍾便將錢款及時控製住，為(wei) 受害人止損336萬(wan) 餘(yu) 元。

　　據當事人郭先生介紹，4月20日當天，騙子冒充他的至交好友，通過微信聯係到他，視頻中謊稱一個(ge) 朋友在外地招標，需要430萬(wan) 元，且需要公對公賬戶過賬，想要借用郭先生公司的賬戶走一下賬。“從(cong) 頭至尾都沒有和我提借錢的事情，就說會(hui) 先把錢給我打過來，再讓我給他朋友賬戶轉過去。因為(wei) 在視頻中也確認了麵孔和聲音，所以我放鬆了戒備。當時已經臨(lin) 近中午，對方又說招標款12點前必須到賬，基於(yu) 對好友的信任，還沒等錢到我的賬戶，我就先把這430萬(wan) 元給對方打了過去。”郭先生說。

　　錢款打過去後，郭先生給好友發了一條微信，稱事情已經辦妥。到對方回過來是一個(ge) 問號，一問才知道自己竟遇上了AI換臉的騙局。

　　多地警方密集提醒 涉及轉賬交易要格外留意

　　北京青年報記者注意到，針對AI換臉詐騙的案件，近期國內(nei) 各地警方密集進行了提醒。

　　溫州警方表示，不法分子通常會(hui) 先盜取QQ或微信號，從(cong) QQ相冊(ce) 或微信朋友圈內(nei) 找到號主照片、視頻、聲音等，大麵積找好友聊天，看到有回複的，使用“AI換臉”技術與(yu) 之進行視頻聊天，再找各種理由騙錢，受害人往往看到視頻聊天界麵後，以為(wei) 是好友本人，便相信轉賬。

　　武漢警方提醒，在涉及轉賬交易等行為(wei) 時，個(ge) 人要格外留意。

　　對自稱“領導”“朋友”的轉賬要求務必提高警惕

　　中國互聯網協會(hui) 則表示，如果有人自稱“家人”“朋友”“老師”“領導”，通過社交軟件、短信、電子郵件等，以各種方式和理由誘導你轉賬匯款，務必第一時間提高警惕。在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，不要僅(jin) 憑單一溝通渠道，未經核實就直接轉賬匯款，無論對方是誰。

　　案例

　　AI除了換臉換聲扮好友還能合成不雅視頻敲詐

　　浙江溫州市公安局也通報過一起利用AI換臉技術進行詐騙的案件。在這起案件中，陳先生收到了身處國外的好友“阿誠”發來的私信，在添加了對方的新微信後，對方表示自己最近準備回國，但購買(mai) 機票的過程中遇到了難題，回國的機票已付了8000元定金，受到國際漫遊限製，聯係不上國內(nei) 航空公司的經理，希望將剩餘(yu) 的錢轉給陳先生，請他幫忙聯係經理進行付款。

　　對於(yu) 此人的身份，陳先生有所懷疑，但對方隨後打來視頻電話，視頻中“阿誠”和陳先生揮著手打招呼很是親(qin) 切，沒過一會(hui) 兒(er) ，對方就掛斷了視頻電話，稱國外網絡很卡。陳先生漸漸打消了心中的顧慮，並在“阿誠”一步步的“指導”下添加了“航空公司經理”的微信替“阿誠”支付了4.9萬(wan) 元。經過警方核實，騙子用AI換臉技術，利用阿誠社交平台上先前發布的視頻，截取了麵部視頻畫麵並進行了“換臉”，從(cong) 而對陳先生進行了詐騙。

　　此外，江蘇常州警方也通報了一起類似案例。小劉的初中同學“小韓”通過QQ聯係小劉，準備借6000元錢， “小韓”先發來一條語音，聲音很像本人，後來又給小劉打了一通視頻電話。小劉轉完錢後越想越不對勁，覺得“小韓”表情僵硬，於(yu) 是撥打小韓的電話，沒想到小韓的QQ賬號被盜了

　　北青報記者注意到，除了通過AI換臉，然後視頻通話的手段直接詐騙錢財，還有詐騙分子通過AI不雅視頻的方式進行詐騙，詐騙分子用AI技術合成詐騙對象的個(ge) 人不雅照，然後以舉(ju) 報、散播等手段威脅當事人，要求詐騙對象匯款。

　　在溫州警方通報的一起案件中，溫州的陳先生遭遇“AI換臉”敲詐，他收到一封“私家偵(zhen) 探”的敲詐信，同時附帶了他與(yu) 一名女子的所謂的不雅視頻，信件中對方要求陳先生收件後速與(yu) 其聯係，不要心存僥(jiao) 幸，並威脅將視頻散播到互聯網。因為(wei) 知道這是一段合成視頻，但不知如何處理，陳先生向警方求助。目前此案件正在調查中。

　　本組文/本報記者 李鐵柱 (來源：北京青年報)