本報記者 王麗(li) 新 見習(xi) 記者 寇佳麗(li)

　　在AI技術給人們(men) 的工作和生活帶來諸多便利的同時，也有不法分子借用這一新興(xing) 技術做起了壞事。6月份以來，“AI詐騙”一詞頻頻衝(chong) 上熱搜。“10分鍾騙走430萬(wan) 元”“換臉合成不雅視頻試圖敲詐18萬(wan) 元”“AI換聲偽(wei) 裝好友借錢不還”等案件相繼出現。

　　受訪專(zhuan) 家認為(wei) ，隨著人工智能技術的發展，不法分子利用AI實施詐騙的精準性、隱蔽性進一步增強，需高度警惕。人工智能安全治理需多方協力，完善監管體(ti) 係迫在眉睫。

　　相關(guan) 詐騙呈鏈條化特征

　　據記者了解，“AI詐騙”至少要具備以下幾個(ge) 條件：收集被換臉對象的個(ge) 人身份信息、獲取大量人臉圖片和語音素材、通過AI生成以假亂(luan) 真的音頻和視頻、充分掌握被詐騙人的身份信息、熟悉被詐騙人與(yu) 被換臉人的社會(hui) 關(guan) 係。

　　《證券日報》記者日前在某平台谘詢後獲悉，定製AI換聲音、AI換臉視頻分別要支付4000元、8000元，打包一套11000元，前提是要向對方提供想要定製的音頻樣本、照片。但定製內(nei) 容隻能在對方提供的平台上使用，不可下載保存到個(ge) 人手機中。

　　由此來看，“AI詐騙”成本較高，由個(ge) 人來實施並不容易。盈科全球總部合夥(huo) 人葉庚清律師對《證券日報》記者表示：“這類網絡詐騙已呈現出明顯的鏈條化、平台化作案特征。”

　　葉庚清稱，一般由上遊黑產(chan) 提供各種基於(yu) 人工智能技術的專(zhuan) 用設備工具、算法，為(wei) 下遊電信網絡詐騙提供技術支持。“在這條產(chan) 業(ye) 鏈中，不法分子利用互聯網分工配合。詐騙案件發生時，位於(yu) 上遊的不法分子可能以自己不知情來規避法律製裁，這也是辦理電信網絡詐騙案件的難點之一。”

　　除了詐騙外，不法分子還能通過AI技術實施非法集資、非法傳(chuan) 銷、侵犯知識產(chan) 權等至少7類違法犯罪行為(wei) 。

　　“人工智能應用到經濟活動中，還可能涉及不正當競爭(zheng) 與(yu) 壟斷行為(wei) 。未來，我們(men) 甚至可能需要討論AI能否成為(wei) 獨立承擔責任的主體(ti) 。待AI技術發展到一定階段，它可能會(hui) 被應用到無數場景，如果有違法行為(wei) ，將可能涉及民事責任、行政責任以及刑事責任的承擔。”中國政法大學資本金融研究院副院長武長海告訴《證券日報》記者。

　　跨境監管合作亟待加強

　　事實上，隨著AI技術的加速迭代應用，業(ye) 界關(guan) 於(yu) 加強監管、完善立法的呼聲也越來越高。

　　據記者了解，中國現有法律體(ti) 係能解決(jue) 與(yu) AI技術有關(guan) 的大部分違法犯罪行為(wei) ，但前提是涉案人員歸案。

　　一位公安係統工作人員對《證券日報》記者表示：“涉及AI技術的詐騙案件，其涉案人員多在海外，資金也多流向海外，偵(zhen) 破難度較大。”

　　一位檢察院係統工作人員也告訴《證券日報》記者：“處理該類案件的難處主要有兩(liang) 方麵：一是落地查人難，嫌疑人在網絡上登記的信息基本都是假的；二是騙走的錢難追回，嫌疑人拿到錢後很快就轉走。”

　　上海社科院數字化綠色化協同發展研究中心主任、清華大學國家治理研究院特聘研究員李易對《證券日報》記者表示：“國內(nei) 法律規範能否對境外人工智能服務提供者進行有效約束，要打個(ge) 問號。這涉及到不同法律體(ti) 係的跨國合作。”

　　葉庚清也表示，利用AI技術實施的違法犯罪行為(wei) ，其精準性、迷惑性、隱蔽性都大大加強，導致偵(zhen) 查打擊難度加大；司法實踐中，治理該類違法犯罪行為(wei) 時麵臨(lin) 的“偵(zhen) 查破案難”“電子取證難”“認定處理難”等問題更加突出。

　　而我國已經開始探索並逐步構建完善的人工智能監管體(ti) 係。

　　此前，已有《新一代人工智能發展規劃》《互聯網信息服務深度合成管理規定》等文件正式公布。2023年4月份，國家網信辦起草《生成式人工智能服務管理辦法(征求意見稿)》並向社會(hui) 公開征求意見，提出AI內(nei) 容必須真實準確，禁止非法獲取、披露、利用個(ge) 人信息和隱私、商業(ye) 秘密。

　　不僅(jin) 如此，近期，國務院辦公廳發布的《國務院2023年度立法工作計劃》還將人工智能法草案列為(wei) 預備提請全國人大常委會(hui) 審議項目，說明相關(guan) 立法已提上日程。

　　武長海表示，人工智能法應當是綜合性立法，會(hui) 涉及刑事責任、行政責任以及民事責任，還可能涉及消費者權益保護以及反不正當競爭(zheng) 、反壟斷等。“但最終也可能是原則性規定，實現和已有法律規範的有效銜接。”

　　“人工智能法可能會(hui) 將打擊跨境違法犯罪行為(wei) 作為(wei) 重要因素，加強與(yu) 反電信網絡詐騙法、反洗錢法、數據安全法的體(ti) 係協同，通過建立區域合作、國際公約等方式打擊利用人工智能的違法犯罪行為(wei) ，設定更有利於(yu) 獲取跨境犯罪證據的規則。”北京揚濤律師事務所主任楊濤表示。

　　但也有人擔心較強的監管會(hui) 阻礙AI技術的發展。對此，北京中科晶上副總經理楊小軍(jun) 對《證券日報》記者說：“現有的以及還在計劃中的規範與(yu) 監管，主要在於(yu) 抑製AI技術帶來的負麵效應，並不會(hui) 限製技術發展。更為(wei) 嚴(yan) 苛的監管是用技術對技術進行管控，但這也需要技術進步到一定程度才行。”（證券日報）