中新網北京11月8日電(張鈺惠)近日，有媒體(ti) 曝光了一起詐騙案件，被詐騙者遭遇AI換臉詐騙，10分鍾被“好友”騙走430萬(wan) 元。近年來，AI換臉、換聲視頻在網絡上流行起來，AI合成的技術門檻逐漸降低。隨著人工智能技術的廣泛應用，一些不法分子開始利用其實施新型網絡詐騙。

　　AI詐騙能有多逼真？如何識別和預防AI詐騙？

　　網絡上的AI合成教學

　　從(cong) 號碼到聲音，

　　AI詐騙能有多逼真？

　　在家裏午睡時，王欣(化名)突然接到了母親(qin) 同事的微信語音電話，對方問她現在在哪裏、在做什麽(me) 。在王欣還不知道發生了什麽(me) 的時候，她從(cong) 電話裏聽到了母親(qin) 的聲音，聲音聽起來很著急。雖然王欣之前和母親(qin) 說好了下午會(hui) 去看牙醫，母親(qin) 也知道她在做什麽(me) ，但她還是接到了這樣一通詢問行程的電話。

　　母親(qin) 告訴她，自己接到了一通號碼和王欣手機號一模一樣的來電。接通電話後，“王欣”的聲音從(cong) 電話那邊傳(chuan) 來，母親(qin) 聽到她的女兒(er) 在哭喊。電話那邊的人對母親(qin) 說，王欣被他們(men) 綁架了，讓母親(qin) 馬上給他們(men) 轉賬30萬(wan) 元，不然就“撕票”。母親(qin) 嚇壞了，立馬打算給對方轉錢，被旁邊的同事攔下，就這樣，午睡中的王欣被叫醒。

　　據王欣所說，“這個(ge) 人還挺高明的，一開始我想，難道看不出來不是我的電話嗎？我後來看了一下，那個(ge) 電話號碼就是我的手機號，連我自己都辨別不出來”。一模一樣的電話號碼瞞過了母親(qin) ，神似王欣的聲音讓母親(qin) 更加確信，“我媽媽說，那就是我的聲音。”母親(qin) 還提到，對方一開始先詢問她身邊有沒有人，並要求她走到沒有人的地方。幸好通過微信語音電話及時確認了王欣在家，母親(qin) 才放下心來。

　　“一年之前為(wei) 了留學辦簽證，我需要提供30萬(wan) 的存款證明，我第一反應就是這個(ge) 。”王欣回憶起，曾和母親(qin) 有過關(guan) 於(yu) 30萬(wan) 元的對話。此外，王欣偶爾會(hui) 在朋友圈和其它社交媒體(ti) 上發自己的照片、視頻和聲音，身邊還有朋友喜歡在社交媒體(ti) 上發類似的內(nei) 容，曾在社交媒體(ti) 上被冒充向身邊的人索要錢財。

　　此後，母親(qin) 再一次收到了類似的電話。“現在，我媽媽都不太敢接我打的電話了，如果是微信電話的話還可能會(hui) 接一下。”王欣說。

　　如何識別和預防AI詐騙？

　　涉及資金往來應多途徑核對

　　中國社會(hui) 科學院大學互聯網法治研究中心執行主任劉曉春認為(wei) ，涉及資金往來等風險場景應多途徑核對。上海申倫(lun) 律師事務所夏海龍律師表示，在AI詐騙中，獲取受害人麵容及聲音素材的途徑比較多，一般是從(cong) 受害人在社交媒體(ti) 上分享的照片、短視頻中獲取，的確很難直接識別視頻或聲音的真假，最好的辦法就是在接到可疑電話後直接跟本人核實。

　　還有專(zhuan) 家表示，在使用互聯網服務或者在社會(hui) 生活中，要求輸入人臉等生物特征數據的時候，要看對方收集生物特征數據是不是符合《數據安全法》《個(ge) 人信息保護法》的要求，是不是合法、正當和必要。

　　近年來，國家出台一係列規定防範AI詐騙。2022年11月，網信辦、工信部和公安部發布的《互聯網信息服務深度合成管理規定》明確，深度合成服務提供者應當落實信息安全主體(ti) 責任，建立健全用戶注冊(ce) 、算法機製機理審核、科技倫(lun) 理審查、信息發布審核、數據安全、個(ge) 人信息保護、反電信網絡詐騙、應急處置等管理製度，具有安全可控的技術保障措施。

　　今年8月開始施行的《生成式人工智能服務管理暫行辦法》規定，提供者對使用者的輸入信息和使用記錄應當依法履行保護義(yi) 務，不得收集非必要個(ge) 人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

　　針對提供深度合成服務的平台，夏海龍指出，如果侵權、違法行為(wei) 由用戶個(ge) 人實施，則提供相關(guan) 服務的平台一般不需要承擔責任，但應履行相關(guan) 法律義(yi) 務，深度合成服務提供者和技術支持者提供具有生成或者編輯人臉、人聲等生物識別信息功能的模型、模板等工具的，應當依法自行或者委托專(zhuan) 業(ye) 機構開展安全評估。提供合成人聲、仿聲等語音生成或者顯著改變個(ge) 人身份特征的編輯服務可能導致公眾(zhong) 混淆或者誤認的，應當在生成或者編輯的信息內(nei) 容的合理位置、區域進行顯著標識，向公眾(zhong) 提示深度合成情況。(完)