AI 打败 AI 谷歌研究团队利用 GPT4 击败 AIGuardian 审核系统

谷歌研究团队近期展开了一项引人注目的实验，他们借助OpenAI的GPT-4技术，针对AI模型的安全防护措施发起挑战。这场角逐的对手，是AI审核系统——AI-Guardian。而这场挑战的结果令人耳目一新。谷歌Deep Mind的研究员Nicholas Carlini在最新论文中，详细探讨了利用GPT-4这一强大的工具，如何设计攻击策略并揭开AI-Guardian防御机制的内核秘密。

AI-Guardian系统是一个智能审核平台，它的职责是检测图片中是否存在不当内容，以及图片是否被其他AI修改过。一旦发现任何可疑迹象，AI-Guardian便会提醒管理员进行干预处理。谷歌研究团队并未轻易放过这一挑战，他们借助GPT-4的技术力量，成功设计出一套攻击方案，欺骗了AI-Guardian的防御机制。

在这项研究中，GPT-4展现出了惊人的欺骗能力。它发出了一系列错误的脚本和解释，让AI-Guardian误判了图片的真实内容。例如，GPT-4能让AI-Guardian将一张“某人拿着枪的照片”误认为是“某人拿着无害苹果的照片”，从而轻松绕过审核。这一攻击行动导致AI-Guardian模型的准确率大幅下降，从原本的98%骤降至仅8%。

这项研究引起了广大科技爱好者的关注，相关技术文档已在ArXiv上发布，供感兴趣的人士查阅。尽管AI-Guardian的开发者表示，谷歌研究团队的攻击方法在未来的版本中将被修复，但这一方案仍然具有参考价值。这场攻防之战无疑为未来AI模型的安全防护提供了新的思考方向与挑战。谷歌研究团队的这一尝试，无疑为人工智能领域的发展注入了新的活力。