ChatGPT、AI换脸背后的关键技术迎来新规 应显著标识 提供真实身份信息

随着数字化转型的浪潮和数字文化的蓬勃发展，深度合成技术作为一把双刃剑，其应用日益广泛，同时也带来了诸多风险和挑战。如何规范其在互联网信息服务中的应用，成为了摆在我们面前的关键问题。

日前，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》（以下简称《规定》）。这一重要文件旨在明确深度合成服务的一般规定、数据和技术管理规范，以及监督检查与法律责任等内容，为深度合成技术的合理有效使用提供了明确指导。

国家互联网信息办公室有关负责人强调，深度合成服务的治理需要、企业、社会和网民等多方主体的共同参与。推动深度合成技术的依法依规使用，积极防范化解其带来的风险，是维护网络空间良好生态的必要举措。

深度合成技术涵盖了AI聊天机器人、AI绘画、AI换脸、虚拟数字人、修复影像、合成语音等多个领域。近年来，随着技术的不断进步，其应用场景正不断丰富。随之而来的负面风险也逐渐显现。

《深度合成十大趋势报告（2022）》显示，深度合成内容在社会各领域的关注度呈指数级增长。也被一些不法人员用于制作、复制、发布、传播违法信息，甚至用于诈骗等违法行为，严重危害社会秩序和人民群众合法权益。

针对这些问题，国家网信办指出，出台《规定》能够划定深度合成服务的“底线”和“红线”，为网络空间营造良好的生态。事实上，在《法治社会建设实施纲要（2020—2025年）》中，已经明确提出要制定完善对新技术应用的规范管理办法。

在深度合成技术监管方面，《规定》的最大亮点在于引入了更多的监管部门，包括电信主管部门和公安部门。电信主管部门主要从电信牌照与备案、网络安全漏洞等角度进行监管，而公安部门则更关注公安联网备案、网络安全等级保护等问题。《规定》明确设立了多项审查审核机制，并强调了平台主体的责任内容。

值得一提的是，《规定》还要求深度合成服务提供者对使用其服务生成或编辑的信息内容添加不影响用户使用的标识，并依法依规保存日志信息。这一要求旨在提高信息的透明度，便于追踪和溯源。

《规定》的出台对于规范深度合成技术的应用、维护网络空间良好生态具有重要意义。在数字化转型的大背景下，我们期待各方共同努力，推动深度合成技术的健康发展，为数字经济的繁荣和网络空间的和谐稳定作出积极贡献。随着深度合成技术的不断发展，其与社会各领域间的融合日益紧密，为此国家出台了系列法规以规范其应用并促进其健康发展。史宇航提到，这一《规定》是对深度合成技术事前治理的重要步骤，旨在最大限度地降低该技术可能带来的社会风险。《规定》与《互联网信息服务算法推荐管理规定》相呼应，都注重新闻信息的安全，对具有舆论属性和社会动员能力的深度合成服务提供者提出了更高的监管要求。

该《规定》的出台，不仅仅是对深度合成技术的规范，更是对数据安全和个人信息保护的强调。深度合成服务提供者和相关技术支持者被要求加强训练数据的管理，保障数据安全，特别是在涉及个人信息的训练数据时，需严格遵守个人信息保护的法规。对于提供人脸、人声等生物识别信息显著编辑功能的服务，必须明确告知被编辑的个人并取得其单独同意。

对于行业来说，《规定》的发布无疑是一次重大的促进。肖飒律师认为，这不仅能够整治行业内的不规范企业，促进行业健康发展，还能够为新兴技术行业提供法律依据，指导其合法合规运行。这将吸引更多企业依照规范加入深度合成服务提供的行列，发挥技术的价值。

《规定》作为针对前沿技术的具体规定，在落地实施时仍面临一些挑战。深度合成技术本身的复杂性和易变性给认定、取证和举证带来了难度。对于已经在使用深度合成技术的企业，如何使其合规转型也是一大挑战。对此，需要司法和执法部门不断更新能力，与时俱进，丰富监管工具手段，引入新监管机制，最大程度防范技术应用的社会风险。

除了《规定》外，近期与人工智能治理相关的法规正在密集出台。这表明人工智能技术在各个领域的作用日益重要，需要新的法律法规来正面回应其带来的挑战。我国对于人工智能这一新兴技术并非置之不理，而是在积极接纳的基础上通过法规进行规范，以适应社会的发展趋势。

《规定》的出台对于深度合成技术的规范发展具有重要意义，但在实施过程中需要各方共同努力，不断完善和优化，以最大程度地发挥技术的价值，并保障社会的安全和利益。