声音也可以伪造了！加拿大网红教授中招后呼吁

近日，一家网站上线了Deepfakes变声功能，利用人工智能深度合成技术，能用备受争议的加拿大名人乔丹彼得森（Jordan Peterson）的声音，来说出任何你想说的话。

上周，乔丹彼得森宣称，可能会采取法律行动。网站的这一功能随即下线。

源自NotJordanPeterson.官网（https://notjordanpeterson.）。

乔丹彼得森是近年极具争议的加拿大心理学教授，拥有大量的网络粉丝。2018年，乔丹彼得森与BBC主持人凯西纽曼（Cathy Neman）就性别平等、男女收入差异等问题的展开辩论，截至记者发稿前，该视频在YouTube上的播放次数已经达到约1700万。在视频中，彼得森认为，导致性别收入差距的原因不是性别，原因之一是女性过于逆来顺受，不去要求涨薪。他甚至认为，纽曼性格中的部分“男性特质”使她现在能从事这么一份高薪工作。这一视频也在微博被疯狂转发，引发不少关于性别平等的争论。

源自“大心脏排排”微博。

据外媒报道，在NotJordanPeterson.此前上线的21秒音频中，“乔丹彼得森”会说“我不是乔丹彼得森，事实上，我是设计好的，能生成听起来像乔丹彼得森的音频。”，该网站也允许访问者在一个方框中输入文本，传入以彼得森真实声音为训练库的，自动生成一段听起来十分真实的彼得森音频。

一家科技外媒测试了这一项目，并公布了结果，使用乔丹彼得森的声音说出激进女性主义作家瓦莱丽索拉纳斯（Valerie Solanas）所写的文章片段，一段反对男性的文本，比如，“每个男人打心底里知道他自己是毫无用处的垃圾”。

源自国外科技媒体Gizmodo（https://gizmodo./make-jordan-peterson-say-anything-you-ant-ith-this-sp-1837306431）。

随后，乔丹彼得森在其网站发布一篇约1400字的文章，标题为“我没有说过那些”。在文中，他阐述了对AI换脸及变声的担忧，认为这对社会信任、新闻真实性等问题提出巨大的挑战， “在未来，我们要如何去相信电子媒介上的任何事物？（比如说，在下一次总统选举中）……当‘假新闻’看起来和‘真新闻’一样真实时，我们怎么办？当任何人出于他们的意愿，都能去模仿别人时，我们怎么办？”

他还质疑这种行为的合法性，认为立法者应立刻采取措施，至少在Deepfakes应用于诽谤、损坏或欺骗他人的情况下，以重罪处罚未经授权的Deepfakes生产行为。，彼得森认为，“人们的声音是他们的身份、真实性和作为人的不可分割的一部分，无论有什么意图（或许），窃取声音都是一种犯罪行为。”

源自乔丹彼得森个人网站。

在文章结尾，乔丹彼得森呼吁道“醒来吧，你的声音和形象的神圣性正面临巨大的风险。难以想象还有什么能对共享、可靠的现实感知制造更严重的挑战，这种感知是能让我们在相对和平的情况下联系在一起的。需要制止Deepfakes的艺术家们，越快越好，任何法律手段的使用都是有必要的。”

源自乔丹彼得森个人网站。

在乔丹彼得森发表文章之后，NotJordanPeterson.关停了这个功能，并表示“根据彼得森博士对本网站所展示技术的回应，出于对彼得森博士的尊重，暂时停用网站功能。”

近年来，不少名人遇到了AI换脸或AI变声的情况，但少有像乔丹彼得森这样的正面回应。最近一位遭遇Deepfakes的名人是Facebook创始人马克扎克伯格。一群艺术家和工程师在Instagram上发布了扎克伯格的Deepfakes视频，视频显示扎克伯格在发表一段关于社交媒体通过收集用户数据来获得的权力的演讲。发布者借此讽刺扎克伯格收集用户数据和任由Facebook假新闻泛滥的行为。

有部分美国立法者对此现象感到担忧，在今年6月份提出了一项法案《DEEPFAKES责任法案》（DEEPFAKES Aountability Act），这一法案认为，使用Deepfakes生成伪造视音频并传播的行为都是犯罪。

但也不是所有人都拥护这一观点，事实核对网站Snopes.的前执行编辑Brooke Binkoski接受外媒采访时表示，这一法案针对的只是表象，而非造成的原因，即Facebook和其他平台上的虚假信息生态。她认为，法律更应该去解决这一生态中的虚假信息、宣传和社交媒体的算法等问题，否则随着技术的演变，这只会是一场永无止境的立法追赶游戏。

据外媒报道，位于美国旧金山的数字权利组织电子前沿基金会（Electronic Frontier Foundation）认为，这些解决方案还可能导致对喜剧或讽刺作品的不必要审查，影响言论自由。

采写南都见习记者 陈志芳