宾夕法尼亚大学的乌克兰学生奥尔加·洛伊克的人工智能版本出现在中国社交媒体网站小红书上。 XIAOHONGSHU
这个女人用略带口音的普通话宣称，中国男人应该娶“我们俄罗斯女人”。在中国短视频平台抖音上的其他视频中，她描述自己有多喜欢中国食物，并兜售来自俄罗斯的盐和肥皂。“俄罗斯人不骗中国人，”她承诺。
这些视频最近被发布到一个名为“拉迪娜”的账户上，但她的嘴唇动作与视频中的音频不太匹配。这是因为，视频中的人其实是澳大利亚职业策略师沙德·扎赫拉伊，她在TikTok拥有170多万粉丝，抖音上的视频将她的视频用人工智能进行了修改。有人给扎赫拉伊的视频剪辑配上了汉语普通话，让人觉得她在兜售俄罗斯产品。
欢迎观看这个中国社交媒体上风生水起的类型：以据称是俄罗斯年轻女性为主角的人工智能伪造视频，它们被用来争取对中俄关系的支持，激发爱国热情或是赚钱——有时三者兼而有之。
目前尚不清楚这些视频的幕后推手是谁，但大多数视频最终都会将观众引向一个产品链接，这表明它们的主要目的是商业性的。其主要目标受众似乎是民族主义的中国男性。
这些视频通常有“俄罗斯妻子”和“俄罗斯美女”等标签。她们描述中国男性多么有成就，或者恳求他们把自己从贫困或不那么美好的国家中拯救出来。
另一组视频中，一名金发女子描述了她对来到中国的感激之情。
“我真的很羡慕我的中国朋友。你们生来就拥有世界上最珍贵的身份和最深奥、最迷人的语言，”她在类似Instagram的平台小红书上发布的视频中说。
在另一段视频里，这名女子感谢中国人民从她那里购买俄罗斯巧克力，帮助俄罗斯度过经济难关。“过去的一年里，整个世界都在抵制俄罗斯，对我们施加各种限制和困难。中国就像救世主，”她说。
这些视频看起来更自然，女人的口型与流利的普通话同步。但它们也是假的。这些视频是根据奥尔加·洛伊克在YouTube上发布的视频篡改的，她是一名大学生，她的真实视频是关于自我提升和她在德国的间隔年。
洛伊克不会说中文。她在接受采访时说，她永远不会那样赞扬俄罗斯。她来自乌克兰，她的一些亲戚还在那里。
这些视频的制作者正试图利用中国当前地缘政治、科技和公众情绪所催生的市场。
用外国人的面孔来赞美中国也是为了利用中国受众的民族自豪感或民族主义。在审查环境下，越来越多的话题成为禁区，民族主义内容已成为中国互联网上最可靠的流量驱动力之一。
英国杜伦大学国际关系教授张晨晨说，这种民族主义——和世界各地的民族主义一样——往往包含着性别歧视的因素。
“以性物化的方式呈现年轻白人女性是性别民族主义或民族主义性别歧视的典型表现，”张晨晨在一封电子邮件中写道。“观众可以在消费这些内容的过程中坚定自己的民族主义和男性自豪感。”
在几段以伪造的扎赫拉伊为主角的视频中，这个伪造人物叫她的观众“大哥”。这个角色还指出，俄罗斯没有在日本或韩国销售这些产品，这两个国家与中国的关系一直很紧张。
中国政府经常鼓励网上的民族主义，但没有迹象表明它和这些深伪视频有任何关系（尽管一些地方政府与真实的俄罗斯女性合作，宣传有关中国魅力的类似信息）。在中国的社交媒体上也有一小群真的俄罗斯网红，其中许多是年轻女性。
俄罗斯国家媒体提供的一张照片显示，俄罗斯总统普京和中国领导人习近平在普京上周访问期间喝茶。
许多视频制作者可能只是利用了中国人喜欢通过直播和短视频购物的特点。随着人工智能技术变得越来越先进，一些中国公司为了节省开支，已经将真人改为虚拟销售人员。
圣克拉拉大学研究人工智能治理的教授陆海兵（音）说，作为销售策略的人工生成视频可能会越来越普遍，因为人工智能技术发展得非常快，普通大众也更容易获得。
扎赫拉伊的经纪公司在电子邮件中说，那些视频中的人工智能修改“质量很差”，即使是对普通观众来说也“很可能看起来是假的”。该账号的一些视频只有几十次浏览，但其中一个讨论与俄罗斯女性结婚的视频有2.2万次浏览。
这似乎无关紧要。在该账号的一个视频中弹出的自动计数器显示，该品牌的盐在抖音平台上已经被购买了36万次。
当《纽约时报》联系经篡改的扎赫拉伊的视频抖音账号时，账号持有者在一段音频信息中证实，这些视频是他制作的。
“要设置三样东西：音频、视频和嘴巴。想要什么视频都能做，”他说，然后他取消了与记者的好友关系。
这些视频的复杂程度各不相同。一些假女人看起来完全是电脑生成的，动作僵硬，也就比《模拟人生》游戏人物强些。有些则非常出色，比如以洛伊克为原型篡改的视频。
“尽管我知道那不是我，但现实还是让人害怕，”洛伊克说。她最近发现，中国有30多个不同的社交媒体账户盗用了她的形象。“当我决定创建自己的YouTube频道时，我知道深伪的危险，但我认为这主要是著名政治和娱乐人物要担心的问题。现在我意识到，任何在网上上传自己视频的人都可能受到影响。”
洛伊克在小红书上举报了这些账户，并将她的经历制作了一段YouTube视频。最终，大多数使用她肖像的账号都被关闭了。
最近几周，这些社交媒体平台加强了审查，删除了一些人工智能视频，或给其中一些视频加上了标签。中国是第一个针对生成式人工智能制定法规的国家，从理论上讲，中国的一些政策比西方更严格。
正在上在线销售直播课的学生。在中国，爆炸性的网红文化和在线直播视频浪潮改变了人们买卖商品的方式。 QILAI SHEN FOR THE NEW YORK TIMES
但世界各国都在艰难执行自己的规定。在中国，发现不法行为可能尤其困难，因为中国的互联网环境是封闭的，许多外国社交媒体都是被禁止的。
外国网红不太可能知道他们的照片在中国社交媒体上被使用，并提起版权诉讼。在检查人工智能操纵时，中国的平台可能也不会去参考海外的内容，一名35岁、只透露自己姓陈的男子说。他经营着两个人工智能生成的俄罗斯女性账户，他说自己每个月从这些账户中赚取大约1000美元，但由于担心监管加强，他于今年3月关闭了这些账户。
但更多的视频仍在涌现。圣克拉拉大学的陆海兵说，俄罗斯现在可能是热门话题，但这种做法可能很快就会蔓延到下一个趋势。
“幕后的人会操纵任何可能的话题来吸引人们的注意力，”他说。“向家长展示‘如何上名校’；向年轻女士展示‘如何变美’。我相信在未来，每个人都会使用人工智能技术来定制主题，制作视频来吸引特定受众。”
来源：纽约时报
作者：王月眉
日期：2024年5月21日