美国防部副部长：AI不得没授命自行消灭任何目标

在人工智能领域的会议上，美国军方对人工智能、机器人以及人机协同的前景达成了共识，认为这些技术将颠覆战争的面貌。作为重量级的人工智能支持者，同时也是训练有素的美国海军陆战队军官的鲍勃·沃克，他对此有着深入的见解。他认为，战争的本质是意志、恐惧、不确定性和可能性的交织冲突。当我们设想大量的战争行动在无人系统之间发生时，如何消除这些恐惧成为了关键的议题。

鲍勃·沃克警告说，如果机器不再被愤怒、恐惧和自尊所驱使，而是开始独立做出决策，那么战争的不确定性可能会达到前所未有的程度。他坚信计算机辅助决策能帮助指挥官做出更清晰的决策，但同时也指出战争的不确定性永远不会完全消失。他提到，即使我们能通过红场的阅兵预测俄罗斯新型坦克的能力，但敌人的新型人工智能装置的真实实力只有在战场上才能显现。对此，沃克强调说，如果敌人的人工智能装置优于美国，后果将非常严重。

五角大楼的人工智能系统开发过程一直备受关注。沃克强调，他们希望人工智能系统遵守的关键限制是，没有明确的命令不得自行决定消灭任何目标。他认为，“广义的”人工智能系统中具有自行决策的武器是一个需要警惕的问题。美国不会设计可以自行决定打击目标的武器，但这并不意味着所有的攻击都需要人类动手。敌人可能不会遵守这些限制，这可能会使美国陷入不利的局面。

一些业内人士对美国的这种限制持异议。例如，汉森机器人公司的CEO戴维·汉森认为，如果美国限制自己不去开发“广义的”人工智能系统，可能会激励敌人开发出更为复杂、超出控制的自适应机器，从而获得压倒性优势。对此，沃克承认这是一个复杂的问题，需要谨慎处理。

牛津大学的学者安德斯·桑德伯格指出，自主系统的控制非常困难，因为它们是一种复杂的自适应技术系统。创造人工智能系统的有效方法之一是创造一种“学习机器”，但这种机器如何学习和做出决定却很难预测。对此，沃克强调美国的创造性和道德观将帮助我们在这场竞赛中取得优势。他认为美国的AI机器能够战胜那些压制人民创造力的极权主义者所设计的人工智能系统。但他也承认结果无法保证，这是一场需要等待和谨慎的竞赛。

人工智能技术的发展可能带来惊喜，也可能带来意想不到的威胁。正如沃克所说，这是一个混沌理论的军事应用的时代，未来的战争将更加充满不确定性。在这个时代，我们必须深入理解并谨慎应对人工智能带来的挑战和机遇。