生成式人工智能服务管理暂行办法

国家互联网信息办公室

国家发展和改革委员会

中华人民共和国教育部

中华人民共和国科学技术部

工业和信息化部

中华人民共和国公安部

国家广播电视总局

制造

15号

《生成式人工智能服务管理暂行办法》已经2023年5月23日国家互联网信息办公室2023年第12次办公会议审议通过，并经国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局同意。现予公布，自2023年8月15日起施行。

庄国家互联网信息办公室主任

国家发展和改革委员会主任郑栅洁。

教育部部长淮

科学技术部部长王志刚

工业和信息化部部长金壮龙

公安部部长王晓红

曹淑敏，国家广播电视总局局长

2023年7月10日

生成式人工智能服务管理暂行办法

第一章一般原则

第一条为了促进生成式人工智能的健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。

第二条本办法适用于在中华人民共和国境内利用生成式人工智能技术向公众提供生成文本、图片、音频、视频等内容的服务(以下简称生成式人工智能服务)。

国家对利用生成式人工智能服务从事新闻出版、影视制作、文学艺术创作等活动另有规定的，从其规定。

行业、企业、教育科研机构、公共文化机构、相关专业机构等不适用本办法的规定。开发和应用生成式人工智能技术，但未能向国内公众提供生成式人工智能服务。

第三条国家坚持发展与安全并重、促进创新、依法治理的方针，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实施包容审慎监管。

第四条提供和使用生成性人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守下列规定:

(一)坚持社会主义核心价值观，不得产生煽动颠覆国家政权、推翻社会主义制度、危害国家安全和利益、损害国家形象、煽动分裂国家、破坏民族团结和社会稳定、宣扬恐怖主义、极端主义、宣扬民族仇恨、民族歧视、暴力、淫秽色情和虚假有害信息等法律、行政法规禁止的内容；

(二)在算法设计、训练数据选择、模型生成和优化、服务提供等过程中。，采取有效措施，防止种族、宗教、民族、地域、性别、年龄、职业、健康等歧视；

(三)尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据和平台优势实施垄断和不正当竞争；

(四)尊重他人的合法权益，不得危害他人的身心健康，不得侵犯他人的肖像权、名誉权、荣誉权、隐私权和个人信息权益；

(五)基于服务类型的特点，采取有效措施提高生成的人工智能服务的透明度，提高生成内容的准确性和可靠性。

第二章技术发展和治理

第五条鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康的优质内容，探索优化应用场景，构建应用生态。

支持行业组织、企业、教育科研机构、公共文化机构、相关专业机构在生成式人工智能的技术创新、数据资源建设、转化应用、风险防范等方面开展合作。

第六条鼓励生成式人工智能的算法、框架、芯片和支撑软件平台等基础技术的自主创新，在平等互利的基础上开展国际交流与合作，参与生成式人工智能相关国际规则的制定。

推进生成式人工智能基础设施和公共训练数据资源平台建设。推动计算能力资源协同共享，提高计算能力资源利用效率。推进公共数据有序开放分类，拓展优质公共训练数据资源。鼓励使用安全可靠的芯片、软件、工具、计算能力和数据资源。

第七条生成式人工智能服务提供者(以下简称提供者)应当依法开展预训练、优化训练等训练数据处理活动，并遵守下列规定:

(a)使用合法来源的数据和基本模型；

(二)涉及知识产权的，不得侵犯他人依法享有的知识产权；

(三)涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；

(四)采取有效措施提高培训数据质量，增强培训数据的真实性、准确性、客观性和多样性；

(5)《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他相关规定及相关主管部门的相关监管要求。

第八条在生成式人工智能技术研发过程中，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；对数据标注进行质量评估，并抽样验证标注内容的准确性；对贴标人员进行必要的培训，增强尊法守法意识，督促指导贴标人员规范贴标工作。

第三章服务规范

第九条提供者应当依法承担网络信息内容生产者的责任，履行网络信息安全义务。涉及个人信息的，应当依法承担个人信息处理者的责任，履行个人信息保护义务。

提供者应当与注册其服务的生成式人工智能服务的用户(以下简称用户)签订服务协议，明确双方的权利和义务。

第十条提供者应当明确和披露其服务的适用人群、场合和用途，引导用户科学合理地依法理解和使用生成性人工智能技术，采取有效措施防止未成年用户过度依赖或者沉迷于生成性人工智能服务。

第十一条提供者应当依法履行保护用户输入信息和使用记录的义务，不得收集不必要的个人信息，不得非法保存能够识别用户身份的输入信息和使用记录，不得非法向他人提供用户的输入信息和使用记录。

提供者应当依法及时受理和处理个人提出的查阅、复制、更正、补充和删除其个人信息的请求。

第十二条提供者应当按照《互联网信息服务深度融合管理规定》对生成的图片、视频等内容进行标识。

第十三条提供者应当在其服务过程中提供安全、稳定、持续的服务，保证用户的正常使用。

第十四条提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等措施，采取模型优化培训等措施进行整改，并向有关主管部门报告。

提供者发现用户利用生成性人工智能服务从事违法活动的，应当采取警告、限制功能、暂停或者终止向其提供的服务等措施，保存相关记录，并向有关主管部门报告。

第十五条提供者应当建立健全投诉举报机制，设置便捷的投诉举报入口，公布处理流程和反馈时限，及时受理和处理公众投诉举报并反馈结果。

第四章监督检查和法律责任

第十六条网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门。应当按照各自职责加强对生成性人工智能服务的管理。

国家有关主管部门应当根据生成式人工智能技术及其在相关行业和领域服务应用的特点，完善适合创新发展的科学监管模式，制定相应的分类分级监管规则或者指南。

第十七条提供具有舆论属性或者社会动员能力的生成性人工智能服务的，应当按照国家有关规定进行安全评估，并按照《互联网信息服务算法推荐管理规定》办理算法备案、修改和注销手续。

第十八条用户发现生成的人工智能服务不符合法律、行政法规和本办法的规定，有权向有关主管部门投诉和举报。

第十九条有关主管部门应当按照职责对生成性人工智能服务进行监督检查，提供者应当依法予以配合，按照要求说明训练数据的来源、规模、类型、标注规则和算法机制，并提供必要的技术和数据支持与协助。

参与生成性人工智能服务安全评估、监督检查的相关机构和人员，应当对依法履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息予以保密，不得泄露或者非法提供给他人。

第二十条境外向我国提供的生成性人工智能服务不符合法律、行政法规和本办法规定的，国家网信部应当通知相关机构采取技术措施和其他必要措施予以处理。

第二十一条违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。

构成违反治安管理行为的，依法予以处罚；构成犯罪的，依法追究刑事责任。

第五章附则

第二十二条本办法下列用语的含义是:

(1)生成式人工智能技术是指能够生成文本、图片、音频、视频等内容的模型及相关技术。

(2)生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口提供生成式人工智能服务)的组织和个人。

(3)生成式人工智能服务的用户是指使用生成式人工智能服务生成内容的组织和个人。

第二十三条法律、行政法规规定提供生成性人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。

外商投资生成性人工智能服务，应当符合有关外商投资法律、行政法规的规定。

第二十四条本办法自2023年8月15日起施行。