多地現“變臉”詐騙案：一段段逼真的視頻竟是偽(wei) 造的……

　　一段視頻、一段語音未必是真人拍攝或者錄製。在你不知道的手機App後台、支付界麵、門禁閘機，或許有人正在盜刷你的臉……去年以來，多地發生“變臉”詐騙案。

　　“新華視點”記者調查發現，隨著深度合成技術迅猛發展、落地場景激增，一些不法分子趁機牟利。音頻、視頻等合成技術濫用，對人臉、聲紋、指紋等個(ge) 人敏感信息保護形成挑戰。

　　合成動態視頻一個(ge) 2至10元

　　竟能注冊(ce) 手機卡、支付賬戶

　　近日，陳先生來到浙江省溫州市公安局甌海分局仙岩派出所報案，稱自己被“好友”騙了近五萬(wan) 元。經過警方核實，騙子用了AI換臉技術，利用陳先生好友阿誠社交平台上先前發布的視頻，截取了麵部視頻畫麵並進行了“換臉”，從(cong) 而對陳先生進行了詐騙。

　　2021年4月，安徽省合肥市警方在公安部“淨網2021”專(zhuan) 項行動中打掉一個(ge) 犯罪團夥(huo) ，該團夥(huo) 利用人工智能技術偽(wei) 造他人人臉動態視頻，為(wei) 黑灰產(chan) 業(ye) 鏈提供注冊(ce) 手機卡等技術支撐。

　　在警方抓捕現場，幾名犯罪嫌疑人正用電腦將一張張靜態照片製作為(wei) 人臉動態視頻。模擬製作出來的動態人物不僅(jin) 能做點頭、搖頭等動作，還可完成眨眼、張嘴、皺眉等豐(feng) 富表情，效果極為(wei) 逼真。

　　在嫌疑人的電腦裏，警方發現了十幾個(ge) G的公民人臉數據，人臉照片和身份證照片分門別類存放在一個(ge) 個(ge) 文件夾裏。“身份證正反麵照片、手持身份證照片、自拍照等，被稱為(wei) 一套。”民警介紹，成套照片被稱為(wei) “料”，出售照片的人被稱為(wei) “料商”，這些“料”在網上已轉手多次，而“料”的主人卻毫不知情。

　　犯罪嫌疑人馬某交代，由於(yu) 製作簡單，一個(ge) 視頻價(jia) 格僅(jin) 為(wei) 2至10元，“客戶”往往是成百上千購買(mai) ，牟利空間巨大。

　　近年來，類似案件在浙江、江蘇、河南等多地發生。浙江衢州中級人民法院的一份刑事裁定書(shu) 披露：張某、餘(yu) 某等人運用技術手段騙過支付寶人臉識別認證，並使用公民個(ge) 人信息注冊(ce) 支付寶賬戶，非法獲利數萬(wan) 元。

　　這些案件的作案流程頗為(wei) 雷同：不法分子非法獲取他人照片或有償(chang) 收購他人聲音等“物料”，僅(jin) 需少量音視頻樣本數據，便可合成媲美真人的偽(wei) 造音視頻，用來實施精準詐騙，侵害他人人身和財產(chan) 安全，或銷售、惡意傳(chuan) 播技術換臉不雅視頻等，造成肖像權人名譽受損。

　　網絡“叫賣”合成軟件教程

　　風險背後存技術漏洞、治理短板

　　據合肥市公安局包河分局網安大隊民警王祥瑞介紹，前述案件中8名犯罪嫌疑人多為(wei) 社會(hui) 閑散人員，有的連高中都沒有讀完。他們(men) 按照網購教程下載軟件，花幾個(ge) 月便“自學成才”。

　　記者在網上聯係到一位售賣相關(guan) 教程的賣家。賣家介紹，全套軟件及教程售價(jia) 有400元、800元兩(liang) 檔，800元的為(wei) 高階版本，“過人臉成功率超高”。記者在演示視頻中看到，照片上傳(chuan) 至軟件後，標注出五官位置，調整腳本參數，一張臉便動了起來。“五官參數隨教程送上，照抄即可。”據介紹，這些偽(wei) 造視頻不僅(jin) 通過率高，人工審核都難辨真假。

　　“目前公眾(zhong) 對照片等靜態信息易被篡改已有所警惕，但對視頻、聲音等動態信息內(nei) 容仍持有較高信任度。”清華大學人工智能研究院基礎理論研究中心主任朱軍(jun) 說，深度合成技術飛速演進，讓“眼見不再為(wei) 實”，破解身份核驗的難度會(hui) 越來越低、耗時將越來越短。

　　專(zhuan) 家擔心，盡管針對深度合成技術的識別技術不斷迭代、檢測手段持續增強，但依然沒能跑贏“偽(wei) 造”技術升級的速度。浙江大學網絡空間安全學院院長任奎說，隨著合成技術應用門檻的進一步降低，合成內(nei) 容已模糊真實與(yu) 偽(wei) 造的邊界。

　　北京智源人工智能研究院安全創新中心執行主任田天認為(wei) ，新型偽(wei) 造方法層出不窮，網絡傳(chuan) 播環境日趨複雜，檢測算法存在漏洞缺陷等，反深偽(wei) 檢測難度越來越大。

　　法律規定相對滯後，也給不法分子留下可乘之機。中倫(lun) 律師事務所合夥(huo) 人陳際紅說，目前法律規定，禁止利用信息技術手段偽(wei) 造等方式侵害他人的肖像權，但技術如何使用算合理使用，哪些情形下應禁止使用等，沒有具體(ti) 規定；收集或收購個(ge) 人聲紋、照片，使用人臉、指紋、DNA、虹膜等個(ge) 人生物信息等行為(wei) ，在哪些範圍內(nei) 構成犯罪、將麵臨(lin) 怎樣的懲罰，需要司法裁判進一步給出明確指引。

　　規製合成技術濫用

　　別再讓公眾(zhong) 為(wei) “臉麵”擔憂

　　保護人臉、指紋、聲紋等敏感信息，不再擔憂信息“裸奔”損害個(ge) 人隱私、財產(chan) 、名譽等，是公眾(zhong) 的共同期待。

　　我國首個(ge) 國家層麵的科技倫(lun) 理治理指導性文件《關(guan) 於(yu) 加強科技倫(lun) 理治理的意見》近日印發，凸顯技術倫(lun) 理治理的重要性緊迫性。在今年的最高法工作報告中，包括人臉安全在內(nei) 的個(ge) 人信息安全等多次被提及。

　　陳際紅表示，打擊“變臉”詐騙犯罪，應從(cong) 技術的合法使用邊界、技術的安全評估程序、濫用技術的法律規製等方麵予以規範，提高技術濫用的違法成本。

　　中國工程院院士、信息技術專(zhuan) 家鄔賀銓提出，針對深度合成技術濫用現象，應以技術規製技術，利用技術創新、技術對抗等方式，提升和迭代檢測技術的能力。

　　技術規製之外，針對技術濫用暴露的風險治理應當體(ti) 係化、完善化。“要構建數據集質量規範、根據應用場景對相關(guan) 技術進行風險分級分類管理，明確設計開發單位、運維單位、數據提供方的責任。”國家工業(ye) 信息安全發展研究中心副總工程師邱惠君說。

　　專(zhuan) 家提醒，針對花樣翻新的“變臉”詐騙，公眾(zhong) 要提高防範意識，不輕易提供人臉、指紋等個(ge) 人生物信息給他人，不過度公開或分享動圖、視頻等；網絡轉賬前要通過電話、視頻等多種溝通渠道核驗對方身份。一旦發現風險，及時報警求助。（記者張漫子 張超 陳諾）