图灵奖得主 Yoshua Bengio 不能让少数科技公司来制定 AI 规则

曾荣获图灵奖的计算机科学家、被誉为“AI 教父”的加拿大科学家 Yoshua Bengio，最近在一次采访中表达了他对人工智能领域权力集中的深切担忧。他在访谈中特别提到了 ChatGPT，并指出人类对谁来控制这些先进的人工智能系统应该感到关切。

这位人工智能领域的领军人物警告称，AI领域的权力集中可能会带来生存风险，而这可能成为该技术发展的第二大挑战。他强调，在制定相关规则时，不应仅仅听取科技巨头的意见，而应确保公众的权益和安全考量处于中心位置。他进一步指出，应避免由少数科技巨头主导制定规则的情况，以确保人工智能的发展符合公众的利益和价值观。

Yoshua Bengio 对 meta 公司首席 AI 科学家杨立昆（Yann LeCun）“AI 不会毁灭人类”的看法持不同意见。他表示，在没有确凿证据支持这一观点的情况下，这样的论断是危险且错误的。他认为，对 AI 可能带来的风险应保持警惕，并指出在没有任何有力证据的情况下轻视 AI 的风险是极其危险的。

值得一提的是，Yoshua Bengio 和杨立昆在贝尔实验室共事期间，因在深度学习领域的杰出贡献于 2018 年共同荣获图灵奖。他们的观点和争议引发了业界和公众的广泛关注。这一采访进一步凸显了人工智能领域所面临的挑战和争议，引发了人们对这一重要议题更深入的思考和讨论。