人工智能机器人ChatGPT爆火没多久，管理规定就出台了

上周，人工智能聊天机器人ChatGPT如一颗新星般爆发，引领了人工智能问答的新潮流。与此之前的“过气网红”Deepfake深度合成技术也在不断改进，给大家带来了全新的体验。在这股技术热潮背后，也隐藏着一些问题和挑战。

ChatGPT的火爆无疑推动了人工智能问答的飞速发展，其答案的真实性和可靠性问题也逐渐浮出水面。开发者已经指出，ChatGPT有时会给出看似合理但不正确的答案，或者答案过于冗长，甚至在回答模棱两可的问题时猜测用户意图，响应有害指令等问题。这些问题使得人工智能问答的真实性和可信度受到挑战。

另一方面，Deepfake技术虽然改进了用户体验，但也引发了一些滥用问题。这项技术被一些不法分子用于制作、复制、发布、传播违法和不良信息，甚至用于伪冒他人身份实施欺诈等行为。其中，最常见的滥用方式莫过于“换头视频”，即将模仿对象的视频逐帧转化为图片，然后将目标模仿对象的面部替换成目标对象面部并合成为假视频。深度合成技术的自动化使得这一过程更加容易，也进一步降低了违法犯罪的门槛。

针对这些问题，国家互联网信息办公室等三部门近期发布了《互联网信息服务深度合成管理规定》。该规定明确了深度合成服务的监督管理单位为国家网信部门，同时要求深度合成服务提供者和技术支持者必须遵守法律法规，尊重社会公德和道德。规定中特别强调了对深度合成服务提供者和技术支持者的责任要求，他们需要承担信息安全主体责任，加强内容管理和审核，并在使用深度合成服务时明确提示用户承担信息安全义务。

《规定》还明确提到了深度合成服务可能导致公众混淆或误认的情况，要求服务提供者在生成或编辑的信息内容中进行显著标识，向公众提示深度合成情况。网信部门和有关主管部门在发现深度合成服务存在较大的信息安全风险时，可以要求服务提供者采取暂停信息更新、用户账号注册等措施。

第七章：深度合成服务提供者须担起信息安全主体责任。他们需要建立健全多项管理制度，如用户注册、算法审核、科技审查等，并配备安全可控的技术保障措施。这些规定如同深度合成服务的“护航者”，确保服务在安全轨道上运行。

第八章：深度合成服务提供者不仅要制定并公开管理规则，还要完善服务协议，依法履行管理责任。他们应以明显方式提醒深度合成服务的技术支持者和使用者履行信息安全义务，让每个人都意识到自己在网络世界中的责任。

第九章：为确保信息的认证，深度合成服务提供者需要对使用者进行严格的身份认证。未经过认证的用户，将无法发布信息。这一措施为网络环境筑起一道安全屏障。

第十章：深度合成服务的内容管理至关重要。提供者需对输入数据和合成结果进行审核，并建立健全识别违法和不良信息的特征库。一旦发现违法信息，应立即采取措施，并向有关部门报告。

第十一章：辟谣机制是深度合成服务中的另一关键环节。提供者需及时辟谣，防止虚假信息扩散，并向网信部门和有关部门报告。

第十二章：深度合成服务提供者应设立用户申诉和公众投诉、举报的便捷入口，并及时处理反馈。这就像是为网络服务设置了一个“巡视员”，随时听取和处理用户的声音。

第十三章：应用程序分发平台，如互联网应用商店，也需承担安全管理责任。他们需审核深度合成类应用程序，并采取相应措施应对违规行为。

第四章：关于数据和技术管理规范，深度合成服务提供者和技术支持者需加强训练数据的管理，并遵守个人信息保护的有关规定。提供生物识别信息编辑功能的，需取得被编辑个人的单独同意。定期的技术审核和评估也是必不可少的。

第十五至十七章：深度合成服务提供者在生成或编辑信息时，需进行显著标识以避免公众混淆。任何组织和个人不得擅自更改这些标识。

第八章至二十章：对于具有舆论属性或社会动员能力的深度合成服务，完成备案的提供者和支持者需在显眼位置标明备案编号，并开展安全评估。网信部门和相关部门将进行监督检查，提供者和支持者需配合并提供必要支持。

以上内容保持了原文的完整性和深意，同时以更流畅、生动的语言进行了表达，希望符合您的要求。网信部门和其相关主管部门发现深度合成服务存在显著信息安全风险时，可依法要求服务提供者和技术支持方暂停信息更新、限制用户注册等行为。对于深度合成服务提供者和技术支持者来说，应积极响应并采取整改措施以消除隐患。他们需遵守本规定中的所有条款，否则将面临法律制裁。一旦违反规定并造成严重后果，将依法从重处罚。若行为构成治安管理行为，公安机关将给予相应的处罚；若构成犯罪，将依法追究刑事责任。

第五章关于定义和附则的部分也给出了详细的解释。深度合成技术包括生成文本、语音、图像和视频等多种类型的技术。还定义了深度合成服务提供者、技术支持者和使用者的含义。训练数据是指用于训练机器学习模型的数据集。沉浸式拟真场景是指通过深度合成技术创建的具有高度真实感的虚拟场景。这项规定也强调了深度合成服务提供者和技术支持者在从事网络出版服务等活动时，需要遵守新闻出版等相关主管部门的规定。本规定自XXXX年XX月XX日起施行。这一政策的实施将为网络信息安全带来更高的保障，确保深度合成技术的合法合规使用。