如何监管人工智能 美国动作慢 欧盟立法被ChatGPT扰乱

人工智能 2025-01-22 14:19www.robotxin.com人工智能专业

美国国会中的独特声音:人工智能监管的迫切需求

在政界的喧嚣声中,有一个声音显得尤为突出。加州共和党众议员杰伊·奥伯诺特,这位国会中唯一拥有AI硕士学位的议员,却经常发现自己在向同事们解释人工智能的真正风险。他常常提到:“人工智能的主要危险,并非像电影中的终结者T800那样眼里冒红光。”那么,真正的风险何在?为何众多美国议员开始呼吁对人工智能进行监管呢?

近期,《纽约时报》接连发表文章揭示了一个现象:美国似乎并未跟上人工智能技术的监管步伐。与此美国的企业却在不断尝试将人工智能应用于各种应用场景中。这种局面引发了一些担忧,因为缺乏监管可能会导致未来出现无法预料的后果。这一现象得到了政策研究机构的共鸣,艾达·洛芙莱斯研究所的卡莉·金德表示:“由于缺乏相应的监管体系,政策制定者正在为人工智能的恶意竞争埋下隐患。”

与美国的现状形成鲜明对比的是欧盟的态度。欧盟已经开始着手准备通过一项法案来监管人工智能,包括面部识别和关键公共基础设施等关键领域。该立法要求AI公司对其技术进行风险评估,一旦违规,最高可被处以全球收入的6%的罚款。目前欧盟三大机构正在就这一法案的最终细节进行紧张的谈判。《人工智能法》的主要立法者提议将某些生成复杂文本的人工智能系统纳入“高风险”名单,以防范ChatGPT大规模生成虚假信息。

在美国,尽管多名议员对人工智能的危险发出警告,呼吁加强监管,但华盛顿似乎并未对此给予足够的重视。几位议员的努力更像是石沉大海。尽管有物理学家斯蒂芬·霍金和特斯拉首席执行官埃隆·马斯克的警告在先,关于人工智能可能带来的风险的问题在国会听证会上被提及,但并没有引起足够的重视。随着人工智能技术的不断发展及其应用的广泛普及,这一议题的重要性愈发凸显。

刘云平议员对此深感忧虑。他认为不能仅依靠个别公司来保护用户,因此计划提出法案成立研究AI的委员会及新的监管机构。他担心如果不对AI进行适当的监管,可能会引发一系列问题。“OpenAI决定对其技术进行安全控制,但我们如何确保其他公司也会这样做?”他反问到。与此其他立法者也在积极尝试推动相关的监管措施。然而到目前为止,这些努力似乎并未取得实质性的进展。不过令人欣慰的是仍有这样一群议员正在积极呼吁和争取,试图为未来的技术环境创造更加安全和公平的制度环境。尽管如此这一切并不容易但他们始终保持着积极的态度继续战斗下去寻求最佳解决方案为人类社会的未来发展作出贡献。相较于美国,欧洲在监管人工智能领域展现了更为积极的态度。欧盟委员会等机构早在2021年就提出了《人工智能法》草案,旨在规范某些人工智能应用程序的功能,如社交评分、操纵用户和面部识别等,并计划针对高风险用途制定更严格的透明度与安全标准。ChatGPT的亮相打破了这一规划。

人工智能系统如同强大的引擎和算法,具有广泛的应用潜力,但本身并不具备主观意识。对此,罗马尼亚议员德拉戈·都铎拉奇与意大利议员白兰度·本尼菲共同呼吁,对生成复杂文本的人工智能系统进行更为严格的监管,特别是那些在没有人类监督下运作的系统,以防其大规模生成虚假信息。他们认为应将此类系统纳入“高风险”名单,以加强监管。

这一提议引起了欧洲议会内不同政治团体的争议。一些人士担忧,该修正案可能将一些本无风险的活动也纳入高风险范畴。专注于人工智能政策的非营利组织“生命未来研究所”的政策主管马克·布拉克尔认为,仅将文本生成系统列为高风险并不足够,市面上还有其他通用人工智能系统同样存在风险。

两位议员不仅希望加强对大型服务提供商的监管,还努力为ChatGPT和类似AI工具制定更严格的要求,同时希望为日常用户保持较为宽松的制度。他们强调,专业用户如教育、就业、银行和执法部门的人员必须意识到AI技术的潜在风险,尤其是当这些技术被用于侵犯个人权利时。

欧盟委员会、欧洲议会和欧洲理事会正在就《人工智能法》的细节进行三方谈判,预计最早在4月达成共识。ChatGPT及其相关议题可能导致谈判陷入僵局。场外,包括微软和谷歌在内的大型科技公司也在密切关注此事。这些公司一直在努力游说欧洲政策制定者,希望将ChatGPT等AI工具排除在高风险AI系统的监管之外。有趣的是,当被问及此事时,ChatGPT自身也认为人工智能可能需要监管,并建议欧洲实施一个负责任的技术开发、部署和使用框架。

欧洲在人工智能监管方面正面临新的挑战和选择。如何在保障技术创新的同时确保社会安全与公平,将是未来欧洲乃至全球面临的重大议题。

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by