谷歌在研发人工智能末日攻击的切断开关

Google收购的英国人工智能巨头Deep Mind展示了AI惊人的自学能力，不仅在游戏中超越人类，还在围棋对决中碾压了顶尖人类选手。这样的进展让人们担忧AI可能超越人类控制，引发终结者般的灾难场景。Deep Mind已着手应对这一挑战。据英国镜报报道，该公司在最新论文中提出给机器人安装“切断开关（kill switch）”的概念，以确保AI在必要时可以被中止执行某些任务，特别是那些可能对人类造成不可逆后果的行为。这种机制被称为“安全可中断性”。

论文指出，“安全可中断性”的作用在于控制机器人的行为，防止其做出危害人类或导致不可逆后果的举动。在关键时刻，它可以让机器人停止行动，脱离困境或暂时接管某些尚未学会执行但对人类至关重要的任务。Deep Mind希望通过这种机制确保机器人始终遵循人类的道德和价值观标准。

像Elon Musk和霍金这样的未来思考者都深刻认识到机器对人类构成威胁的可能性并非空穴来风。去年底，Musk与YC总裁Sam Altman共同宣布成立非盈利人工智能公司OpenAI，旨在确保人工智能的发展能够造福人类而非带来灾难。牛津大学哲学家Nick Bostrom也曾警告说，如果人工智能的研究成果被无限制地分享，且没有确保安全的情况下，可能会被恶意利用。而Deep Mind的研究正是为了开发这样一个“切断开关”，以确保人工智能的安全可控。未来的挑战在于如何确保这一机制能够真正发挥作用，避免成为一场关于哪个按钮会先起效的竞赛。