探寻生成式人工智能算法规制的思路

近日，中国人民大学法学院和未来法治研究院联合举办了关于“生成式人工智能算法规制”的学术研讨会议，吸引了相关部门、高校研究机构以及人工智能产业界的专家参与。

5月18日，第七届世界智能大会在天津盛大开幕。与会者在系列活动中，深入探讨了智能联网车、生成式人工智能以及脑机交互等前瞻科技议题，并对AI与经济、社会、人文等领域的热点话题进行了广泛交流。

以下是中国相关领域的专家在此次研讨会上的主要观点：

中国人民大学未来法治研究院执行院长张吉豫表示，生成式人工智能是划时代的发展，深刻影响着产业的发展和未来技术的进步。它也伴随着风险与挑战，需要从数据、算法、系统集成等角度进行全面考虑。为了调节发展与安全之间的冲突，构建以人民为中心的智能社会法律秩序显得尤为重要。

百度公司副总裁吴梦漪对《生成式人工智能服务管理办法（征求意见稿）》提出了几点看法。她指出，该办法在某些方面提高了对合规义务的要求，并可能泛化了适用范围。她建议初始阶段的监管重点应从追求内容准确性转向对违法利用行为的打击，并综合考虑生成式人工智能服务的人机对话特点来制定规则。

研究院首席数据法律政策专家王融提出，生成式人工智能可能是未来新的信息时代最为基础的工具。他认为，目前法律规范可能需要进一步讨论新问题，同时强调模型优化训练期限在实践中难以落地，建议考虑其他技术手段。在AI发展领域，风险是渐进式的，市场主体和监管主体应协同解决问题。

中国人民大学法学院教授王利明强调应正视ChatGPT引发的问题，并在法律上积极应对。他提出五点建议，包括在价值取向上支持人工智能产品的开发，并考虑ChatGPT不同于一般产品的特性，适当减轻服务提供者的责任。加强服务提供者对个人隐私信息的安全保障义务，并区别平台大规模生成与用户恶意诱导的情形来处理ChatGPT的幻觉回答导致的侵权责任。

中国社会科学院大学副教授刘晓春从监管必要性、监管有效性、监管技术的应用场景以及立法基础的协调性四个方面提出了监管建议。他强调，在对生成式人工智能的监管中，应考虑到新技术场景下的原有体系能否解决问题，并为应用层面的商业模式留出发展空间。特别是在内容生产者的定义上不应过于拓宽。

对外经济贸易大学副教授许可指出，《生成式人工智能服务管理办法（征求意见稿）》与之前的法律、现有实践和技术存在四大矛盾。这需要进一步审视和协调，以确保新法规的有效实施。关于深度合成技术与生成式人工智能技术的异同以及未来监管挑战的思考

随着科技的飞速发展，深度合成技术和生成式人工智能技术在互联网信息服务业中的应用愈发广泛，它们都在数字世界带来了翻天覆地的变革。关于二者之间的异同点，未来的监管挑战等问题依然尚待明晰。我国的多位专家在深入探讨后提出了一系列独特的观点和建议。

对外经济贸易大学的副教授张欣指出，生成式人工智能与深度合成技术虽然在某种程度上存在交叉，但在技术应用和特征上存在显著区别。我国人工智能企业在技术层面的分布主要集中在应用层，而对于基础层和技术层的关注相对较少。对此，我国在监管方式上需要提升监管的互操作性、一致性，同时注重监管的韧性并积极探索模块化监管等新型监管方式。针对《生成式人工智能服务管理办法（征求意见稿）》中存在的定义不明确等问题，张欣提出了具体的修改建议。

中国人民大学法学院教授万勇则从著作权法的角度探讨了生成式人工智能带来的挑战。生成式人工智能可能涉及著作权法上的多项权利，如复制权、演绎权和向公众传播权等。目前合理使用制度的理论基础和规范制度都难以直接适用于人工智能技术。对此，万勇提出了重塑理论基础和改造制度规范两大解决方案，并建议修改《著作权法实施条例》，引入专门例外以兼顾产业发展和著作权人的权利。

中国人民公安大学法学院教授苏宇则从风险治理和制度支持的角度对生成式人工智能进行了分析。他认为国内生成式人工智能在风险治理之外也需要制度支持，并指出了生成式人工智能面临的一系列技术难题。苏宇对《生成式人工智能服务管理办法（征求意见稿）》的信息内容安全问题提出了自己的看法，并指出部分机制存在不同程度的安全冗余，除此之外还需要充分考虑治理要点如生成代码的单独归类、训练数据的必要区分等。

中国信通院高级工程师程莹则强调了生成式人工智能的特点和供应链问题。作为新底层基础平台，生成式人工智能具有通用目的性等特点，带来了责任分担等关键问题。知识产权、虚假信息等问题也随之而来。程莹对征求意见稿中的主体划分、内容生成性的特点和数据依赖性问题进行了深入解读并提出了相关建议。中国科学技术信息研究所助理研究员刘鑫怡则从英国监管框架的角度为我们提供了启发和借鉴，引发对我国大模型监管难点的思考。

深度合成技术和生成式人工智能技术在互联网信息服务业中的应用前景广阔但挑战重重。对于未来的监管策略和政策制定，我们需要在深入理解技术特点的基础上结合国内外实践经验进行灵活调整和创新设计以应对可能出现的风险和挑战。也需要我们持续关注行业动态和技术发展以便更好地适应未来监管需求的变化和挑战。随着多模态大模型的不断研发与广泛应用，其带来的风险问题逐渐浮出水面。当前面临的挑战有三个显著方面。

技术的局限性使得现有的治理手段难以达到高标准。尽管我们在人工智能领域取得了显著的进步，但技术的壁垒依旧存在，难以跨越到完美的治理境界。

大模型的治理方式与限度难以把握。如何妥善管理这些大型模型，既发挥其潜力，又避免其潜在风险，成为当前的一大难题。它们的复杂性使得治理策略的制定和实施变得异常复杂和微妙。

当前多样化的治理工具尚未充分发挥其应有的作用。各种工具各具特色，但由于种种原因，它们的协同作用并未达到预期效果。

面对这些挑战，我们必须清醒认识到，随着技术的不断进步，未来的风险问题可能会进一步深化。我们需要在统筹发展与安全的基础上，构建一套适应性强、生命周期完整的差异化监管机制。这套机制应灵活应对不同情况，注重关键环节的监管，特别是在人工智能领域的核心部分。

为了更有效地应对风险，我们倡导“以技治技”的理念。通过研发和应用安全可信的技术手段，进行智能化治理。只有这样，我们才能在享受技术带来的便利的有效防范和化解潜在风险，确保人工智能的健康发展。