国家网信办拟出台新规 利用生成式人工智能生成的内容应真实准确

中工网北京报道，就在刚刚过去的4月11日，国家互联网信息办公室针对生成式人工智能技术的健康发展和规范应用，发布了一份名为《生成式人工智能服务管理办法（征求意见稿）》的草案，公开征求社会各界的意见。这份《意见稿》的出炉，是根据网络安全法等法律法规而制定的。

这份备受瞩目的《意见稿》明确表示，对于利用生成式人工智能所产出的内容，必须确保真实性和准确性，并且要求采取必要措施以防止虚假信息的产生。提供者必须遵守法律法规，尊重社会公德和公序良俗。

该《意见稿》进一步强调，生成的内容不得包含危害国家政权、社会主义制度的内容，也不能涉及分裂国家、破坏国家统一等煽动性内容。任何宣扬恐怖主义、极端主义、民族仇恨和歧视的信息，以及暴力、的内容都被严格禁止。为了防止不公平竞争和侵犯知识产权的行为，算法设计、训练数据选择等环节都必须严格遵守商业道德和知识产权规定。

对于那些通过生成式人工智能提供聊天、文本、图像、声音等服务的组织和个人，《意见稿》明确了他们作为内容生产者的责任。如果服务涉及个人信息，那么这些组织和个人还需要承担个人信息处理者的责任，严格履行个人信息保护义务。这样一来，不仅可以保护用户的合法权益，而且还可以确保服务的公正性和透明度。

这份《意见稿》无疑为生成式人工智能技术的发展设定了明确的规范和方向，既保障了公众的利益，也促进了技术的健康发展。