【光明論壇】

　　作者：馬麗(li) 霞（中國科學院大學經濟與(yu) 管理學院高級工程師；汪壽陽，係中國科學院預測科學研究中心主任）

　　“加快發展數字經濟，促進數字經濟和實體(ti) 經濟深度融合”“構建新一代信息技術、人工智能、生物技術、新能源、新材料、高端裝備、綠色環保等一批新的增長引擎”，黨(dang) 的二十大報告的重要部署，為(wei) 以人工智能等新興(xing) 技術驅動數字經濟發展提供了重要遵循。作為(wei) 人工智能領域的創新應用，深度合成近年來風頭正勁，AI語音助手、虛擬人、數字人、AR購物、影像修複等在文藝、傳(chuan) 媒、醫療、社交等多個(ge) 領域造福著社會(hui) ，成為(wei) 促進數字經濟“虛實融合”的關(guan) 鍵性技術。

　　不過，正如很多科技突破都帶來了意想不到的“副產(chan) 品”，深度合成在展露出可觀經濟價(jia) 值的同時，也暴露出破壞性“潛力”，通過深度合成偽(wei) 造的視頻、音頻進行誣陷、誹謗、詐騙、勒索等違法行為(wei) 近年來層出不窮。尤其在互聯網經濟領域，深度合成技術能夠生成真偽(wei) 難辨的虛假信息，帶來身份認證、信息存儲(chu) 等環節的技術難題，導致數字經濟發展麵臨(lin) 新的安全隱患。要求加強監管的呼聲近年來日漸高漲。

　　為(wei) 促進深度合成技術向上向善發展，世界各國紛紛出台法律法規，對深度合成技術進行規約。在《網絡信息內(nei) 容生態治理規定》《網絡音視頻信息服務管理規定》等規章的基礎上，近日，國家網信辦等三部門聯合發布《互聯網信息服務深度合成管理規定》，並於(yu) 今年1月10日起正式實施，其中明確了深度合成內(nei) 容的用途、標記、使用範圍以及濫用處罰，這意味著深度合成將迎來規範化發展的關(guan) 鍵期。為(wei) 新興(xing) 技術劃定適當的使用框架是一項“技術活”，容易陷入一管就死、一放就亂(luan) 的困局。如何推動智能技術向善發展，最大限度地趨利避害，還需從(cong) 幾個(ge) 方向持續發力——

　　促進深度合成技術向善發展，需完善規則，強化技術風險防控的法治保障。應當圍繞國家信息安全和數字經濟安全、社會(hui) 治理以及保護公民合法權益，對深度合成服務劃定合理開發使用的“綠線”和禁止性的“紅線”，建立分級分類製度。一方麵，加大深度合成服務應用程序推廣前的審核力度，尤其是高風險產(chan) 品和服務，確保技術應用的服務形式和服務範圍符合國家有關(guan) 規定。另一方麵，要明確互聯網平台尤其是社交媒體(ti) 的內(nei) 容審核義(yi) 務，推動其建立虛假消息篩查機製，禁止上傳(chuan) 可能危害國家安全或造成負麵社會(hui) 影響的深度合成製品。此外，還要充分賦予用戶知情權和選擇權，通過用戶“投票”倒逼行業(ye) 各類不規範行為(wei) 的整治。

　　促進深度合成技術向善發展，需構建體(ti) 係，實現技術應用安全的常態化監管。在以人工智能新興(xing) 技術為(wei) 主的算法服務安全應用監管中，普遍存在各主體(ti) 之間權責不明確、數據信息傳(chuan) 遞過程不可控和缺乏社會(hui) 監督等問題，亟須明確責任主體(ti) ，貫徹常態化信息監管措施。首先，要確定深度合成服務提供者和使用者的主體(ti) 責任，厘清界限，激活市場主動規約的積極性，使信息內(nei) 容的生產(chan) 源頭公開透明、權責分配公正公平。其次，要對深度合成內(nei) 容進行合成前、合成後、發布後和傳(chuan) 播後的全流程監管，追蹤合成內(nei) 容的真實性，控製信息傳(chuan) 遞的風險。再次，要完善深度合成技術的應用體(ti) 係，引入理性中立的第三方專(zhuan) 業(ye) 機構，完善行業(ye) 標準，推動行業(ye) 自律。最後，還應暢通用戶投訴、舉(ju) 報渠道，確保以主流價(jia) 值觀為(wei) 引領，強化信息內(nei) 容的安全規範。

　　促進深度合成技術向善發展，還需探索機製，提升技術風險治理的整體(ti) 水平。新興(xing) 技術的敏捷、精準治理，需要多方合力、多措並舉(ju) ，構建多方協同治理模式。對於(yu) 政府部門，要推動從(cong) 傳(chuan) 統管理向“包容審慎”治理轉變，倡導有所為(wei) 有所不為(wei) ，給予新技術必要的發展時間與(yu) 試錯空間，以更為(wei) 靈活的治理方式適應數字經濟的發展特點。對於(yu) 從(cong) 業(ye) 人員，要加強科技倫(lun) 理教育和法律法規培訓，建立係統性的科技倫(lun) 理人才培養(yang) 體(ti) 係，鼓勵開展深度合成與(yu) 深度檢測的技術對抗演練，以技術之道還治技術之險，從(cong) 源頭防範深度合成的安全應用風險。對於(yu) 公眾(zhong) ，要加強新興(xing) 技術科普教育特別是對特定群體(ti) 數字鴻溝的彌合，提升技術應用在公眾(zhong) 中的透明度，增強公眾(zhong) 對合成媒體(ti) 防偽(wei) 的警惕度和辨識能力。在全球經濟複蘇的當下，相信深度合成等新興(xing) 人工智能技術必將邁著更加穩健的步伐迎接一個(ge) 全麵數字化的世界。

　　《光明日報》（ 2023年02月06日 02版）