《生成式人工智能服務管理暫行辦法》重點條文簡析（附新舊比對）

紅色字體：新增內容                  
藍色字體：修訂內容                  
刪除線：刪除內容

第一條 爲促進生成式人工智能健康發展和規範應用，根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規，制定本辦法。

第一條 爲了促進生成式人工智能健康發展和規範應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規，制定本辦法。

第二條 研發、利用生成式人工智能產品，面向中華人民共和國境內公衆提供服務的，適用本辦法。                 
                 
本辦法所稱生成式人工智能，是指基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。

第二條 利用生成式人工智能技術向中華人民共和國境內公衆提供生成文本、圖片、音頻、視頻等內容的服務（以下稱生成式人工智能服務），適用本辦法。                 
                 
國家對利用生成式人工智能服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定。                 
                 
行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公衆提供生成式人工智能服務的，不適用本辦法的規定。

第三條 國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

第四條 提供生成式人工智能產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗，符合以下要求：                 
                 
（一）利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。                 
                 
（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，採取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。                 
                 
（三）尊重知識產權、商業道德，不得利用算法、數據、平臺等優勢實施不公平競爭。                 
                 
（四）利用生成式人工智能生成的內容應當真實準確，採取措施防止生成虛假信息。                  
                 
（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業祕密。

第四條 提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：                 
                 
（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；                  
                 
（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；                 
                 
（三）尊重知識產權、商業道德，保守商業祕密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行爲；                  
                 
（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；                 
                 
（五）基於服務類型特點，採取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。

第五條 鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。                 
                 
支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防範等方面開展協作。

第三條 國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟件、工具、計算和數據資源。

第六條 鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。                 
                 
推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵採用安全可信的芯片、軟件、工具、算力和數據資源。

第七條 提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。                 
                 
用於生成式人工智能產品的預訓練、優化訓練數據，應滿足以下要求：                 
（一）符合《中華人民共和國網絡安全法》等法律法規的要求；                  
（二）不含有侵犯知識產權的內容；                 
（三）數據包含個人信息的，應當徵得個人信息主體同意或者符合法律、行政法規規定的其他情形；                 
（四）能夠保證數據的真實性、準確性、客觀性、多樣性；                 
（五）國家網信部門關於生成式人工智能服務的其他監管要求。

第七條 生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練數據處理活動，遵守以下規定：                 
                 
（一）使用具有合法來源的數據和基礎模型；                  
                 
（二）涉及知識產權的，不得侵害他人依法享有的知識產權；                                 
（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；                 
                 
（四）採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；              
                 
（五）《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。

第八條 生成式人工智能產品研製中採用人工標註時，提供者應當制定符合本辦法要求，清晰、具體、可操作的標註規則，對標註人員進行必要培訓，抽樣覈驗標註內容的正確性。

第八條 在生成式人工智能技術研發過程中進行數據標註的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標註規則；開展數據標註質量評估，抽樣覈驗標註內容的準確性；對標註人員進行必要培訓，提升尊法守法意識，監督指導標註人員規範開展標註工作。

第五條 利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人（以下稱“提供者”），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。                 
                 
第九條 提供生成式人工智能服務應當按照《中華人民共和國網絡安全法》規定，要求用戶提供真實身份信息。

第九條 提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。                 
                 
提供者應當與註冊其服務的生成式人工智能服務使用者（以下稱使用者）簽訂服務協議，明確雙方權利義務。

第十條 提供者應當明確並公開其服務的適用人羣、場合、用途，採取適當措施防範用戶過分依賴或沉迷生成內容。

第十條 提供者應當明確並公開其服務的適用人羣、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，採取有效措施防範未成年人用戶過度依賴或者沉迷生成式人工智能服務。

第十一條 提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規另有規定的，從其規定。

第十一條 提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。                 
                 
提供者應當依法及時受理和處理個人關於查閱、複製、更正、補充、刪除其個人信息等的請求。

第十六條 提供者應當按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識。                 
                 
第十二條 提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成。

第十二條 提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。

第十四條 提供者應當在生命週期內，提供安全、穩健、持續的服務，保障用戶正常使用。

第十三條 提供者應當在其服務過程中，提供安全、穩定、持續的服務，保障用戶正常使用。

第十五條 對於運行中發現、用戶舉報的不符合本辦法要求的生成內容，除採取內容過濾等措施外，應在3個月內通過模型優化訓練等方式防止再次生成。                 
                 
第十九條 提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行爲時，包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應當暫停或者終止服務。

第十四條 提供者發現違法內容的，應當及時採取停止生成、停止傳輸、消除等處置措施，採取模型優化訓練等措施進行整改，並向有關主管部門報告。                 
                 
提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約採取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，並向有關主管部門報告。

第十三條 提供者應當建立用戶投訴接收處理機制，及時處置個人關於更正、刪除、屏蔽其個人信息的請求；發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業祕密，或者不符合本辦法要求時，應當採取措施，停止生成，防止危害持續。

第十五條 提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公佈處理流程和反饋時限，及時受理、處理公衆投訴舉報並反饋處理結果。

第十六條 網信、發展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。                 
                 
國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。

第六條 利用生成式人工智能產品向公衆提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、註銷備案手續。

第十七條 提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、註銷備案手續。

第十八條 提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容，不利用生成內容損害他人形象、名譽以及其他合法權益，不進行商業炒作、不正當營銷。                 
                 
用戶發現生成內容不符合本辦法要求時，有權向網信部門或者有關主管部門舉報。

第十八條 使用者發現生成式人工智能服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。

第十七條 提供者應當根據國家網信部門和有關主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預訓練和優化訓練數據的來源、規模、類型、質量等描述，人工標註規則，人工標註數據的規模和類型，基礎算法和技術體系等。

第十九條 有關主管部門依據職責對生成式人工智能服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標註規則、算法機制機理等予以說明，並提供必要的技術、數據等支持和協助。                 
                 
參與生成式人工智能服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家祕密、商業祕密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供。

第二十條 對來源於中華人民共和國境外向境內提供生成式人工智能服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關機構採取技術措施和其他必要措施予以處置。

第二十條 提供者違反本辦法規定的，由網信部門和有關主管部門按照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規的規定予以處罰。                 
                 
法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智能提供服務，並處一萬元以上十萬元以下罰款。構成違反治安管理行爲的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

第二十一條 提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。                 
                 
構成違反治安管理行爲的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

第二條 研發、利用生成式人工智能產品，面向中華人民共和國境內公衆提供服務的，適用本辦法。

本辦法所稱生成式人工智能，是指基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。

第二十二條 本辦法下列用語的含義是：                 
                 
（一）生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。                 
                 
（二）生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。                 
                 
（三）生成式人工智能服務使用者，是指使用生成式人工智能服務生成內容的組織、個人。

第二十三條 法律、行政法規規定提供生成式人工智能服務應當取得相關行政許可的，提供者應當依法取得許可。                 
                 
外商投資生成式人工智能服務，應當符合外商投資相關法律、行政法規的規定。

第二十一條 本辦法自2023年 月 日起實施。

第二十四條 本辦法自2023年8月15日起施行。