國家互聯網信息辦公室近日聯合國家發展改革委、教育部、科技部、工業(ye) 和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。

　　據國家互聯網信息辦公室有關(guan) 負責人介紹，該《辦法》旨在促進生成式人工智能健康發展和規範應用，維護國家安全和社會(hui) 公共利益，保護公民、法人和其他組織的合法權益。

　　統籌生成式人工智能發展和安全

　　隨著生成式人工智能技術的快速發展，其在為(wei) 經濟社會(hui) 發展帶來新機遇的同時，也產(chan) 生了傳(chuan) 播虛假信息、侵害個(ge) 人信息權益、數據安全和偏見歧視等問題。如何統籌生成式人工智能發展和安全引起各方關(guan) 注。該負責人指出，出台《辦法》，既是促進生成式人工智能健康發展的重要要求，也是防範生成式人工智能服務風險的現實需要。

　　《辦法》涵蓋了技術發展與(yu) 治理、服務規範、監督檢查和法律責任等方麵，共計五章24條。

　　據介紹，《辦法》中所稱生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內(nei) 容生成能力的模型及相關(guan) 技術。生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個(ge) 人。生成式人工智能服務使用者，是指使用生成式人工智能服務生成內(nei) 容的組織、個(ge) 人。

　　據該負責人介紹，利用生成式人工智能技術向中華人民共和國境內(nei) 公眾(zhong) 提供生成文本、圖片、音頻、視頻等內(nei) 容的服務，適用該《辦法》。國家對利用生成式人工智能服務從(cong) 事新聞出版、影視製作、文藝創作等活動另有規定的，從(cong) 其規定。行業(ye) 組織、企業(ye) 、教育和科研機構等研發、應用生成式人工智能技術，未向境內(nei) 公眾(zhong) 提供生成式人工智能服務的，不適用《辦法》。

　　《辦法》提出，國家堅持發展和安全並重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

　　鼓勵生成式人工智能創新發展

　　《辦法》明確，國家鼓勵生成式人工智能技術在各行業(ye) 、各領域的創新應用，生成積極健康、向上向善的優(you) 質內(nei) 容，探索優(you) 化應用場景，構建應用生態體(ti) 係。

　　據該負責人介紹，針對生成式人工智能服務，《辦法》在促進生成式人工智能健康發展方麵有不同考慮：

　　在監管方式上，對生成式人工智能服務實行包容審慎和分類分級監管，要求國家有關(guan) 主管部門針對生成式人工智能技術特點及其在有關(guan) 行業(ye) 和領域的服務應用，完善與(yu) 創新發展相適應的科學監管方式，製定相應的分類分級監管規則或者指引。

　　在促進發展具體(ti) 措施上，明確鼓勵生成式人工智能技術在各行業(ye) 、各領域的創新應用，生成積極健康、向上向善的優(you) 質內(nei) 容，探索優(you) 化應用場景，構建應用生態體(ti) 係。

　　同時，支持行業(ye) 組織、企業(ye) 、教育和科研機構、公共文化機構、有關(guan) 專(zhuan) 業(ye) 機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防範等方麵開展協作。

　　此外，鼓勵生成式人工智能算法、框架、芯片及配套軟件平台等基礎技術的自主創新，平等互利開展國際交流與(yu) 合作，參與(yu) 生成式人工智能相關(guan) 國際規則製定。推動生成式人工智能基礎設施和公共訓練數據資源平台建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

　　提供和使用生成式人工智能服務須依法依規

　　《辦法》明確，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會(hui) 公德和倫(lun) 理道德。

　　首先，在算法設計、訓練數據選擇、模型生成和優(you) 化、提供服務等過程中，要采取有效措施防止產(chan) 生民族、信仰、國別、地域、性別、年齡、職業(ye) 、健康等歧視。

　　其次，尊重知識產(chan) 權、商業(ye) 道德，保守商業(ye) 秘密，不得利用算法、數據、平台等優(you) 勢，實施壟斷和不正當競爭(zheng) 行為(wei) 。

　　再次，尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個(ge) 人信息權益。

　　最後，基於(yu) 服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內(nei) 容的準確性和可靠性。

　　《辦法》明確，生成式人工智能服務提供者應當依法開展預訓練、優(you) 化訓練等訓練數據處理活動，使用具有合法來源的數據和基礎模型；涉及知識產(chan) 權的，不得侵害他人依法享有的知識產(chan) 權。涉及個(ge) 人信息的，應當取得個(ge) 人同意或者符合法律、行政法規規定的其他情形；采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。此外，明確了數據標注的相關(guan) 要求。

　　值得一提的是，在生成式人工智能服務規範方麵，《辦法》要求，要采取有效措施防範未成年人用戶過度依賴或者沉迷生成式人工智能服務。

　　例如，提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內(nei) 容進行標識；發現違法內(nei) 容的，應當及時采取停止生成、停止傳(chuan) 輸、消除等處置措施並采取模型優(you) 化訓練等措施進行整改；發現使用者利用生成式人工智能服務從(cong) 事違法活動的，應當依法依約采取有關(guan) 處置措施，保存有關(guan) 記錄，並向有關(guan) 主管部門報告。

　　該負責人強調，《辦法》規定，提供者應當建立健全投訴、舉(ju) 報機製，設置便捷的投訴、舉(ju) 報入口，公布處理流程和反饋時限，及時受理、處理公眾(zhong) 投訴舉(ju) 報並反饋處理結果。使用者若發現生成式人工智能服務不符合法律、行政法規和《辦法》規定，有權向有關(guan) 主管部門投訴、舉(ju) 報。

　　（光明日報北京7月13日電 光明日報記者 張亞(ya) 雄）

　　《光明日報》（2023年07月14日 04版）