為(wei) 促進生成式人工智能技術健康發展和規範應用，根據《中華人民共和國網絡安全法》等法律法規，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，現向社會(hui) 公開征求意見。公眾(zhong) 可通過以下途徑和方式提出反饋意見：

　　1.登錄中華人民共和國司法部 中國政府法製信息網（www.moj.gov.cn、www.chinalaw.gov.cn），進入首頁主菜單的“立法意見征集”欄目提出意見。

　　2.通過電子郵件方式發送至：wajscy@cac.gov.cn。

　　3.通過信函方式將意見寄至：北京市海澱區阜成路15號國家互聯網信息辦公室網絡安全協調局，郵編100048，並在信封上注明“生成式人工智能服務管理辦法征求意見”。

　　意見反饋截止時間為(wei) 2023年5月10日。

　　附件：生成式人工智能服務管理辦法（征求意見稿）

　　國家互聯網信息辦公室

　　2023年4月11日

　　生成式人工智能服務管理辦法

　　（征求意見稿）

　　第一條 為(wei) 促進生成式人工智能健康發展和規範應用，根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個(ge) 人信息保護法》等法律、行政法規，製定本辦法。

　　第二條 研發、利用生成式人工智能產(chan) 品，麵向中華人民共和國境內(nei) 公眾(zhong) 提供服務的，適用本辦法。

　　本辦法所稱生成式人工智能，是指基於(yu) 算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內(nei) 容的技術。

　　第三條 國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優(you) 先采用安全可信的軟件、工具、計算和數據資源。

　　第四條 提供生成式人工智能產(chan) 品或服務應當遵守法律法規的要求，尊重社會(hui) 公德、公序良俗，符合以下要求：

　　（一）利用生成式人工智能生成的內(nei) 容應當體(ti) 現社會(hui) 主義(yi) 核心價(jia) 值觀，不得含有顛覆國家政權、推翻社會(hui) 主義(yi) 製度，煽動分裂國家、破壞國家統一，宣揚恐怖主義(yi) 、極端主義(yi) ，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂(luan) 經濟秩序和社會(hui) 秩序的內(nei) 容。

　　（二）在算法設計、訓練數據選擇、模型生成和優(you) 化、提供服務等過程中，采取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業(ye) 等歧視。

　　（三）尊重知識產(chan) 權、商業(ye) 道德，不得利用算法、數據、平台等優(you) 勢實施不公平競爭(zheng) 。

　　（四）利用生成式人工智能生成的內(nei) 容應當真實準確，采取措施防止生成虛假信息。

　　（五）尊重他人合法利益，防止傷(shang) 害他人身心健康，損害肖像權、名譽權和個(ge) 人隱私，侵犯知識產(chan) 權。禁止非法獲取、披露、利用個(ge) 人信息和隱私、商業(ye) 秘密。

　　第五條 利用生成式人工智能產(chan) 品提供聊天和文本、圖像、聲音生成等服務的組織和個(ge) 人（以下稱“提供者”），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產(chan) 品生成內(nei) 容生產(chan) 者的責任；涉及個(ge) 人信息的，承擔個(ge) 人信息處理者的法定責任，履行個(ge) 人信息保護義(yi) 務。

　　第六條 利用生成式人工智能產(chan) 品向公眾(zhong) 提供服務前，應當按照《具有輿論屬性或社會(hui) 動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

　　第七條 提供者應當對生成式人工智能產(chan) 品的預訓練數據、優(you) 化訓練數據來源的合法性負責。

　　用於(yu) 生成式人工智能產(chan) 品的預訓練、優(you) 化訓練數據，應滿足以下要求：

　　（一）符合《中華人民共和國網絡安全法》等法律法規的要求；

　　（二）不含有侵犯知識產(chan) 權的內(nei) 容；

　　（三）數據包含個(ge) 人信息的，應當征得個(ge) 人信息主體(ti) 同意或者符合法律、行政法規規定的其他情形；

　　（四）能夠保證數據的真實性、準確性、客觀性、多樣性；

　　（五）國家網信部門關(guan) 於(yu) 生成式人工智能服務的其他監管要求。

　　第八條 生成式人工智能產(chan) 品研製中采用人工標注時，提供者應當製定符合本辦法要求，清晰、具體(ti) 、可操作的標注規則，對標注人員進行必要培訓，抽樣核驗標注內(nei) 容的正確性。

　　第九條 提供生成式人工智能服務應當按照《中華人民共和國網絡安全法》規定，要求用戶提供真實身份信息。

　　第十條 提供者應當明確並公開其服務的適用人群、場合、用途，采取適當措施防範用戶過分依賴或沉迷生成內(nei) 容。

　　第十一條 提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義(yi) 務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規另有規定的，從(cong) 其規定。

　　第十二條 提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內(nei) 容生成。

　　第十三條 提供者應當建立用戶投訴接收處理機製，及時處置個(ge) 人關(guan) 於(yu) 更正、刪除、屏蔽其個(ge) 人信息的請求；發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個(ge) 人隱私、商業(ye) 秘密，或者不符合本辦法要求時，應當采取措施，停止生成，防止危害持續。

　　第十四條 提供者應當在生命周期內(nei) ，提供安全、穩健、持續的服務，保障用戶正常使用。

　　第十五條 對於(yu) 運行中發現、用戶舉(ju) 報的不符合本辦法要求的生成內(nei) 容，除采取內(nei) 容過濾等措施外，應在3個(ge) 月內(nei) 通過模型優(you) 化訓練等方式防止再次生成。

　　第十六條 提供者應當按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內(nei) 容進行標識。

　　第十七條 提供者應當根據國家網信部門和有關(guan) 主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預訓練和優(you) 化訓練數據的來源、規模、類型、質量等描述，人工標注規則，人工標注數據的規模和類型，基礎算法和技術體(ti) 係等。

　　第十八條 提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內(nei) 容，不利用生成內(nei) 容損害他人形象、名譽以及其他合法權益，不進行商業(ye) 炒作、不正當營銷。

　　用戶發現生成內(nei) 容不符合本辦法要求時，有權向網信部門或者有關(guan) 主管部門舉(ju) 報。

　　第十九條 提供者發現用戶利用生成式人工智能產(chan) 品過程中違反法律法規，違背商業(ye) 道德、社會(hui) 公德行為(wei) 時，包括從(cong) 事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫(xie) 惡意軟件，實施不正當的商業(ye) 營銷等，應當暫停或者終止服務。

　　第二十條 提供者違反本辦法規定的，由網信部門和有關(guan) 主管部門按照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個(ge) 人信息保護法》等法律、行政法規的規定予以處罰。

　　法律、行政法規沒有規定的，由網信部門和有關(guan) 主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴(yan) 重的，責令暫停或者終止其利用生成式人工智能提供服務，並處一萬(wan) 元以上十萬(wan) 元以下罰款。構成違反治安管理行為(wei) 的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

　　第二十一條 本辦法自2023年 月 日起實施。