海外骗子用 AI 合成泰勒・斯威夫特声音 伪造厨具免费送广告行骗

人工智能 2025-02-23 11:54www.robotxin.com人工智能专业

IT之家报道,1月10日《纽约时报》消息,最近几周在Facebook等平台上出现了关于美国著名歌手泰勒·斯威夫特的“代言广告”。广告中,泰勒声称将为粉丝免费送出Le Creuset品牌的厨具套装,只需点击按钮并回答几个问题即可。这则广告背后的主角Le Creuset却表示公司从未进行过此类赠品活动。

原来,这则广告采用了AI技术合成泰勒·斯威夫特的声音,并将其与Le Creuset的广告片段完美融合。骗子们巧妙地利用合成的声音,亲切地称呼泰勒的粉丝为“Swifties”,诱导他们访问虚假网站。一旦进入网站,受害者便被要求支付9.96美元的运费。显然,所谓的免费赠送只是诱饵,真正的目的还是要收取费用。

随着过去一年内AI技术的飞速发展,未经名人本人授权的“数字替身”制作变得越来越容易。美国布法罗大学的计算机科学教授Siwei Lyu表示,这次深度伪造诈骗很可能是利用文字转语音服务完成的。这类工具可以将脚本转化为声音,并通过唇语同步程序将其与视频片段完美结合。

令人震惊的是,Lyu教授指出,现在只需不到45分钟的时间,就可以利用这些工具制作出质量“不错”的视频。这意味着骗子们可以迅速利用这些工具制造假象,欺骗公众。

值得一提的是,美国著名演员汤姆·汉克斯去年也遭遇类似情况,他的AI版本肖像被用于未经授权的牙科计划在线广告中。对此,汤姆表示:“明天我可能会被公共汽车撞到,但表演可以继续。除了自我鉴别AI和深度造假,没有什么可以证实或否定这是我。这无疑是一种艺术挑战,同时也是法律的考验。” 对于这种情况,我们需要保持警惕,提高对AI伪造内容的识别能力,以免上当受骗。

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by