通過AI換臉和擬聲技術，10分鍾騙430萬(wan) 元；AI虛擬人在聊天中篩選出受害者，人工接力實施詐騙……近期，多起宣稱利用AI技術實施詐騙的案件引發關(guan) 注。

　　“新華視點”記者近日與(yu) 公安部門核實確認，“AI詐騙全國爆發”的消息不實，目前此類詐騙發案占比很低。但公安機關(guan) 已注意到此犯罪新手法，將加大力度會(hui) 同有關(guan) 部門開展技術反製和宣傳(chuan) 防範。

　　專(zhuan) 家表示，隨著AI技術加速迭代，由於(yu) 使用邊界不清晰，涉詐風險正在積聚，需要高度警惕。

　　“換臉”式詐騙引發焦慮：你會(hui) 被親(qin) 友的臉騙到嗎？

　　近日，內(nei) 蒙古包頭警方通報一起利用AI實施詐騙的案件，福州市某公司法人代表郭先生10分鍾內(nei) 被騙430萬(wan) 元。據通報，騙子通過AI換臉和擬聲技術，佯裝熟人實施詐騙。

　　該案披露後，不少報道稱需警惕“AI詐騙潮”到來，並曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學發語音、打視頻電話，小劉看到“真人”後信以為(wei) 真，“借”了6000元給騙子。

　　那麽(me) ，“AI詐騙潮”是否真的到來了？

　　記者調查了解到，AI在技術上確實能做到換臉、擬音，但被用來進行“廣撒網”式詐騙需要具備很多條件。

　　一位被列入公安部專(zhuan) 家庫的民警告訴記者，這類詐騙如果得手必須做到：收集到被換臉對象的個(ge) 人身份信息、大量人臉圖片、語音素材，通過AI生成以假亂(luan) 真的音視頻；竊取被換臉對象的微信號；充分掌握詐騙對象個(ge) 人身份信息，熟悉其與(yu) 被換臉對象的社會(hui) 關(guan) 係，綜合作案成本很高。

　　他認為(wei) ：“相關(guan) 報道對一些案件的典型細節描述不夠準確。AI涉詐案件仍屬零星發案狀態。”他說，成熟的類型化詐騙犯罪往往具有在全國多地集中爆發的特點，但當前沒有成規模的AI詐騙類案件發生。

　　公安機關(guan) 研判，近期網上“AI換臉換聲詐騙在全國爆發”傳(chuan) 言不實，全國此類案件發生不到10起，但該動向值得高度關(guan) 注。網上一鍵換臉功能的App、小程序有技術濫用風險，需要加強技術防範反製等工作。

　　AI進入快速迭代期，涉詐犯罪風險正在積聚

　　“當前AI技術發展來到螺旋式上升的拐點，未來幾年技術迭代將會(hui) 按月計算。”香港科技大學（廣州）協理副校長、人工智能學域主任熊輝說。

　　工信部信息顯示，伴隨AI技術快速發展，合成技術門檻持續降低，逐漸向低算力、小樣本學習(xi) 方向演進，利用手機終端即可完成，對算力和數據的要求下降明顯。同時，隨著AI大模型的技術加持，正逐步由麵部合成向全身、3D合成發展，效果更加逼真。

　　國家開發投資集團特級專(zhuan) 家、廈門美亞(ya) 柏科AI研發中心總經理趙建強表示，AI技術正加速向網絡詐騙、虛假信息、色情等領域滲透。如在一些網絡平台上假冒明星、公眾(zhong) 人物生成視頻圖像，吸引網民。此外，AI技術也可能被用來規模化地實施違法犯罪，如批量、自動維護網絡賬號，發送虛假信息，模擬人工在線聊天等。

　　值得關(guan) 注的是，當前AI技術不再是實驗室的半成品，引發熱議的“換臉”“擬音”技術已有較成熟的開源軟件，使用門檻低。

　　記者注意到，網絡上不乏AI換臉教程。在國內(nei) 某知名App上輸入“換臉”，彈出的高頻檢索記錄顯示有“換臉軟件”“換臉App免費”“換臉視頻怎麽(me) 做”“換臉算法”等。一條名為(wei) “史上最強AI換臉軟件正式上線了！技術門檻大大降低”的鏈接，介紹了一款換臉軟件，通過視頻演示教程，手把手教授如何使用。

　　“老話說‘眼見為(wei) 實’，但今後眼睛看到的也不一定是真實的。”北京市天元律師事務所合夥(huo) 人楊虎城表示，未來涉及AI合成技術的詐騙、敲詐勒索等違法犯罪和肖像、名譽等民事侵權問題可能逐步顯現。

　　“從(cong) 現有案例看，這些技術已被不法分子利用。如假冒明星換臉直播、一鍵脫衣、造謠、製作色情視頻等。雖然AI詐騙案件未成氣候，但這一趨勢值得關(guan) 注，必須提早防範。”一位反詐民警說。

　　工信部相關(guan) 負責人表示，隨著AI技術的不斷發展，通過少量圖片、音頻信息合成特定視頻，利用人工智能模型批量設計詐騙腳本等成為(wei) 可能，客觀上降低了電信網絡詐騙的實施難度，AI類新型犯罪爆發可能性進一步提升。

　　盡快完善相關(guan) 法規製度，為(wei) AI技術發展立規劃線

　　中國移動信息安全中心品質管理處副處長周晶告訴記者，近年來，國際國內(nei) 各界在積極探索深度合成技術的有效治理路徑，研判AI技術給社會(hui) 帶來的風險和潛在威脅，正設法將AI技術發展納入一定規則中，做到安全可控。

　　業(ye) 內(nei) 人士建議，要加強AI反製技術研究，“以AI製AI”。一些科技公司正加強對圖像、聲音偽(wei) 造技術的反製研究，在公安、金融的視頻認證場景已有應用。有一線民警建議，要加強AI安全技術應用研發，將AI技術應用於(yu) 犯罪識別、預警、對抗中，實現以“白”AI對抗“黑”AI。

　　其次，加強源頭治理和行業(ye) 引導，及時更新、完善相關(guan) 法律、標準、規則，為(wei) AI技術發展保駕護航。

　　“數據是AI犯罪的源頭，保護好公民的個(ge) 人隱私數據安全，就能在最大程度上降低AI違法犯罪的能力。”熊輝說。

　　中國互聯網協會(hui) 監管支撐部主任郝智超建議，AI技術發展還要有相關(guan) 法律法規來劃紅線、踩刹車。需進一步加強對個(ge) 人隱私數據泄露問題的關(guan) 注，明確信息監管紅線，對AI技術的研發、傳(chuan) 播、使用做到有規可循，並根據技術發展實際情況，及時完善對技術服務商行為(wei) 的規範引導。

　　此外，還要有針對性地加強反詐宣傳(chuan) 。熊輝表示，未來AI可根據大數據創造出無比接近真實的“真實”。“要通過不斷的教育改變大眾(zhong) 觀念，讓人知道眼見不一定為(wei) 實，有圖不一定有真相，提升對網絡信息的辨識力。”他說。

　　公安部有關(guan) 負責人表示，當前，詐騙集團利用區塊鏈、虛擬貨幣、遠程操控、共享屏幕等新技術新業(ye) 態，不斷更新升級犯罪工具，與(yu) 公安機關(guan) 在通訊網絡和轉賬洗錢等方麵的攻防對抗不斷加劇升級。公安機關(guan) 會(hui) 同相關(guan) 部門與(yu) 詐騙分子鬥智鬥勇，不斷研究調整打擊防範措施，確保始終保持主動權。

　　工信部表示，下一步，將強化監管執法，積極會(hui) 同網信、公安等部門，督促企業(ye) 健全完善深度合成信息管理及技術保障措施；鼓勵技術攻關(guan) ，凝聚產(chan) 學研用各方力量，提升深度合成風險技術防範能力；加強行業(ye) 自律，建立健全深度合成技術相關(guan) 行業(ye) 標準、行業(ye) 準則和自律管理製度，督促指導深度合成服務提供者和技術支持者製定完善業(ye) 務規範、依法開展業(ye) 務和接受社會(hui) 監督。（毛鑫 王成 熊豐(feng) 高亢）