科技伦理审查新规 重点关注人工智能 对重大风险新兴科技活动进行清单管理

随着新一轮科技革命和产业变革的加速演进，新兴技术的突破和应用给经济社会发展带来了深刻影响，同时伴随产生的问题已成为全球共同面临的挑战。为了应对这一局面，科技部等十部门联合印发了《科技审查办法（试行）》（以下简称《办法》）。

《办法》明确指出，各类科技活动在进行过程中需进行科技审查，特别是在生命科学、医学、人工智能等领域，涉及科技敏感领域的单位应设立科技（审查）委员会。这一要求的设立，旨在确保科技活动的正确方向，防范潜在风险，推动科技创新与科技的协同发展。

值得注意的是，《办法》还特别制定了“需要开展审查复核的科技活动清单”，其中详细列出了需要进行审查的科技活动，包括具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发，以及面向存在安全、人身健康风险等场景的自动化决策系统的研发等。

根据《办法》的规定，纳入清单管理的科技活动将面临更加严格的科技审查、动态跟踪和风险防控。不按规定进行科技审查和专家复核的单位将承担一定的法律责任。这样一来，不仅保证了审查的规范性，也保证了审查的透明可预期性，从而保障了科技活动的积极性。

在起草过程中，《办法》坚持问题导向，重点解决科技审查职责不明确、程序不规范、机制不健全等问题。遵循科技规律，结合我国科技发展阶段和社会文化特点，推动科技创新与科技的良性互动。

那么，哪些科技活动需要进行科技审查呢？《办法》明确提出，包括涉及以人为研究参与者的科技活动，如以人为测试、调查、观察等研究活动的对象，以及利用人类生物样本、个人信息数据等的科技活动；还包括不直接涉及人或实验动物，但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来风险挑战的科技活动等。

在科技审查的过程中，涉及数据和算法的科技活动也是审查的重点。科技（审查）委员会应对重点内容进行深入审查，包括生物样本、个人信息数据的使用以及算法模型的设计、实现和应用等。这意味着相关主体在进行个人信息以及数据合规的基础上，也需要进行科技审查。

目前，多地已建立了科技审查备案中心或制定了相关政策和规定。在企业层面，国内一些领先的企业已经设立了科技委员会，以防范风险并推动企业自省与自律。

《办法》的实施将为我国的科技创新活动提供更加明确和规范的指导，保障科技活动的健康有序发展。科技活动清单管理：审查为新兴科技护航

随着科技的飞速发展，新兴科技活动带来的风险和挑战日益受到关注。为了有效应对这一问题，《办法》应运而生，其中提出的“需要开展审查复核的科技活动清单”制度尤为引人注目。

这项制度的核心理念在于：对可能产生较大风险的新兴科技活动实施清单管理，并为此建立相应的专家复核机制。科技部相关负责人在解释这一决策时指出，制定清单的主要目的是有效应对生命科学、人工智能等新技术突破和应用所带来的未知风险。

在人工智能领域，有三项科技活动被纳入了清单管理：一是人机融合系统的研发，这类系统对人类的主观行为、心理情绪和生命健康具有显著影响；二是具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；三是针对存在安全、人身健康风险的自动化决策系统的研发。这些措施旨在推动人工智能的健康发展，确保其在全球竞争中获得话语权。

专家复核是这一制度中的关键环节。陈兵认为，专家复核是为了应对现阶段算法滥用等实际问题，确保技术发展的同时不忽视对个体权利的影响。他指出，人工智能技术的专业性强，简单的书面审核难以起到真正的风险预防作用。需要专家进行实质性的复核，确保技术的安全性和性。虽然这种方式可能会增加企业的成本负担，但从长远来看，这是科技产品投入市场前的必要安全审核程序，有利于企业的可持续发展。

《办法》中的审查复核制度是为了确保新兴科技活动的健康发展，通过清单管理和专家复核双重保障，为新兴科技活动提供明确的指引，促进科技的繁荣与和谐共生。