美国国防部研发第一批发现人工智能换脸技术DeepFakes的工具

外媒Techspot报道，美国国防部已经启动一项名为Media Forensics的计划，成功研发出首批能够发现报复内容和人工智能制造的假新闻的取证工具。这些工具的出现，源于对Deepfakes技术的深度关注，这是一种将一个人脸部叠加到另一个人脸部上的机器学习技术。该技术虽然可以用来制作逼真的名人类假视频，但同样也为虚假宣传的制造者提供了欺骗大众的机会。

为了应对这一问题，美国国防部通过DARPA计划推出了这些工具。最初，该计划的目的是自动化现有的取证工具，但现在重点已经转向开发打击“AI制造伪造内容”的方法。其中最有说服力的创建Deepfakes的方式是运用深度学习模型生成式对抗网络（GAN）。通过采用GAN技术，使用被伪造者的几张图像，尝试匹配并叠加面部的角度和倾斜，生成看似真实的虚假内容。然而这种技术在生成过程中往往难以把握细微线索，而这正是Media Forensics项目负责人Matthew Turek团队努力突破的关键点。

纽约州立大学的Siwei Lyu教授和他的学生正在研发一种AI技术，能够识别这类GAN图像的特殊标志。尽管他们的研究取得了进展，但面临被伪造者采用一些简单技巧欺骗的风险。达特茅斯学院的数字取证专家Hany Farid也在努力寻找其他线索，如头部动作、眼睛颜色等面部因素等生理信号来识别视频的真伪。他表示：“我们正在探索这些难以模仿的生理信号作为判断视频真实性的依据。”DARPA计划将继续举办Media Forensics竞赛，确保在伪造技术不断进步的该领域也能持续跟进并发展出新的解决方案。