国家网信办等七部门联合公布生成式人工智能服务管理暂行办法 8 月 15 日起施行

近日，国家网信办联合多部门发布了《生成式人工智能服务管理暂行办法》（以下简称《办法》）。该办法自2023年8月15日起施行，旨在促进生成式人工智能的健康发展和规范应用，维护国家安全和社会公共利益，保护公民的合法权益。随着生成式人工智能技术的快速发展，其在带来新机遇的也引发了一系列问题，如传播虚假信息、侵犯个人信息权益、数据安全和偏见歧视等。该《办法》的出台既是促进生成式人工智能发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

《办法》明确了提供和使用生成式人工智能服务的总体要求，提出了鼓励创新、包容审慎和分类分级监管的原则。在促进生成式人工智能技术的发展方面，该办法明确了训练数据处理活动和数据标注等要求。对于生成式人工智能服务提供者，也提出了相应的规范要求。

服务提供者应当采取有效措施防范未成年人用户过度依赖或沉迷生成式人工智能服务。依照《互联网信息服务深度合成管理规定》，对图片、视频等生成内容进行标识。一旦发现违法内容，应当及时采取处置措施。对于生成式人工智能服务和技术的适用范围，《办法》规定了利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。

国家互联网信息办公室有关负责人就《办法》回答了记者提问，进一步明确了一些重要内容。例如，《办法》坚持发展和安全并重，鼓励生成式人工智能的创新发展，同时实行包容审慎和分类分级监管。《办法》还明确了生成式人工智能技术和生成式人工智能服务提供者的定义。在促进生成式人工智能健康发展方面，《办法》提出了多项考虑，包括鼓励技术创新、优化应用场景、防范风险等。

对于提供和使用生成式人工智能服务，《办法》明确了一系列应当遵守的规定。服务提供者应当遵守法律法规，不得利用生成式人工智能技术传播虚假信息或侵犯个人信息权益。服务提供者应当加强数据安全保护，确保用户数据的安全性和隐私性。服务提供者还应当遵循分类分级监管规则，根据服务的类型和级别采取相应的安全措施。《办法》为规范提供和使用生成式人工智能服务提供了明确的指导和依据，有助于促进行业的健康发展和维护公共利益。《办法》为人工智能的发展描绘了一条明确的道德和法律底线。针对生成式人工智能服务，该办法规定了其必须遵守社会主义核心价值观，不得传播有害信息和产生歧视等现象。在数据收集和处理方面，提供者需确保数据的合法性、真实性和准确性，尊重知识产权和个人信息权益。对于未成年人的保护也做出了明确要求，防止他们过度依赖或沉迷这些服务。对于违法内容和行为，提供者需及时采取措施并依规处置，同时公开处理流程和结果。为了保障用户的权益，办法还设立了投诉举报机制。《办法》旨在通过规范生成式人工智能服务，维护社会稳定与和谐，促进技术的健康发展。

对于治理制度，《办法》提出了多项重要措施。服务提供者必须依法处理预训练和优化训练等数据处理活动，确保数据的合法来源和基础模型的合法性。他们还需遵循相关规定进行信息标注和处置违法内容。如果发现使用者利用这些服务从事违法活动，提供者必须依法依规采取相应的处置措施并向主管部门报告。《办法》还明确了数据标注的相关要求，确保服务的透明度和内容的准确性和可靠性。

在规范方面，《办法》强调了对未成年人的特殊保护。提供者需要采取有效措施来防止他们过度依赖或沉迷生成式人工智能服务。对于投诉和举报机制，《办法》要求提供者建立健全相关机制，及时响应公众的投诉和举报，保障用户的合法权益。通过这些规定，旨在维护社会的稳定和技术的健康发展。该办法的实施将有助于规范生成式人工智能服务市场，保护用户权益，促进人工智能技术的健康、有序发展。

对于投诉举报方面，《办法》明确指出生成式人工智能服务的提供者应该建立投诉和举报的便捷渠道。如果使用者发现服务不符合相关规定，他们可以向有关主管部门投诉或举报。提供者还需要设立内部机制及时处理这些投诉和举报，并向用户反馈处理结果。这不仅有助于维护用户的合法权益，也有助于提升生成式人工智能服务的整体水平和服务质量。通过这些措施，《办法》旨在建立一个公正、透明的人工智能服务环境，保障用户的合法权益，推动人工智能技术的健康发展。