一觉醒来，自己突然出现在陌生直播间里，拿着从未使用过的商品卖力推荐；嘴型对得上，声音听着像，就连说话的停顿和语气都被模仿得惟妙惟肖。

可视频中的人并不是本人，所谓“明星推荐”从头到尾都是一场AI骗局。

近日，演员吴越公开发声，怒斥有人盗用其影像和声音制作虚假带货视频。相关账号随后被永久封禁，发布内容也被全部清空。

账号虽然消失了，但这起事件暴露出的问题远没有结束：当AI可以低成本复制一张脸、一种声音和一个公众身份，普通消费者还能相信屏幕里的谁？

明星从未带货，视频却逼真到难辨真假

10月18日凌晨，演员吴越发文质问，究竟是谁在利用AI盗用他人形象实施欺骗，并要求相关人员退还骗取的钱款。

在此前流传的视频中，一个高度仿真的“明星形象”手持精华液，声称并不是品牌主动邀请她，而是她在看过其他视频后亲自找到商家，收到产品后发现效果非常直观。

这套话术并不复杂，却很容易让消费者放下戒心。

它首先制造了一种“明星主动寻找好产品”的错觉，刻意淡化商业合作痕迹；随后再以亲身体验的口吻强调效果，让观众误以为这是一场基于真实使用感受的推荐。

真正危险的是，视频已经不再停留在粗糙的换脸阶段。

制作者可以收集明星过去公开出现的影视片段、采访视频和语音素材，再通过深度合成技术调整口型、替换台词、复刻声线，最终拼出一段从未真实发生过的带货场景。

画面中的表情、说话节奏甚至语气停顿，都可能与本人高度相似。普通用户在快速刷视频的过程中，很难仅凭肉眼立即识别真假。

截至10月19日，相关账号已经无法通过微信搜索找到。据媒体报道，该账号已被永久封禁，内容也已清空。

但账号被处理，不代表受骗消费者的损失能够自动追回，更不意味着背后的制作和运营者已经受到追究。

被AI冒充的明星，远不止一个

这类事件并非个案。

演员温峥嵘也曾发现，有人通过AI技术盗播自己的形象。她进入相关直播间质问，随即遭到拉黑。更夸张的是，同一时间内，她可能以不同妆发出现在多个直播间，推销不同商品，说出的却是相似话术。

霍启刚同样公开表示，有人提取他的声线、利用他的样貌生成短视频，视频中表达的观点却与他本人毫无关系。由于合成效果逼真，就连身边同事看了一段时间后，才意识到内容来自AI生成。

靳东的形象也曾被不法分子仿冒，并被用于针对中老年群体实施诈骗。

相比熟悉网络技术的年轻人，一些中老年观众更容易把影视角色形成的好感，转化成对演员本人的信任。当熟悉的面孔出现在视频中，用熟悉的声音推荐商品、关心生活甚至诱导投资时，受害者很可能把技术伪造当成真实交流。

不法分子盗走的因此不只是一张脸，而是公众人物长期积累的信誉。

他们不需要明星本人参与，也不必支付高额代言费，只要从网络上获取足够多的公开素材，就可能批量生产仿冒视频。一个账号被封，还可以迅速更换账号、平台和商品重新出现。

AI造假正在变成一门低成本生意

过去，伪造一段明星代言视频，需要专业演员、拍摄场地、后期制作和复杂设备。如今，随着生成式AI工具快速普及，造假成本正在大幅下降。

制作门槛降低，传播效率却在提高。

不法团队可以让同一个“明星”同时出现在多个直播间，24小时不间断卖货；也可以快速替换台词和商品，将一套数字形象反复利用。

真人明星每天能够参与的商业活动有限，AI分身却几乎没有数量和时间限制。

更麻烦的是，这类骗局往往披着正规电商的外衣。视频有商品链接，直播间有人互动，评论区还可能出现大量“使用有效”“已经回购”的虚假反馈。

对消费者来说，判断依据已经被系统性伪造：明星是假的，体验是假的，评论可能也是假的，只有付款和损失是真的。

即使视频带有AI标识，也不代表其中的侵权和欺诈就可以被免责。AI标签只能说明内容经过技术生成，不能为虚假代言、冒用身份和误导营销提供挡箭牌。

账号封禁只是第一步，平台不能总等明星自己发现

针对利用AI仿冒公众人物的问题，监管部门已经开始加大治理力度。

今年9月底，中央网信办在全国范围内部署开展为期两个月的“清朗·整治短视频虚假人设乱象”专项行动。其中一项整治重点，就是利用AI合成虚假音视频，假冒公众人物实施虚假代言、营销等侵权违法行为。

相关要求同时强调，平台不能仅凭“虚构演绎”“AI生成”“营销推广”或“个人观点”等标签，规避应当承担的内容治理责任。

最高人民法院也发布了依法审理涉人工智能纠纷案件的相关意见，进一步明确涉AI纠纷的司法裁判规则。

平台层面的技术治理同样在升级。

微信视频号已经建立针对AI生成合成内容的常态化管控机制，对疑似AI内容添加提示标识；抖音上线了AI内容主动标识和元数据标识读写功能；快手也开始通过显式标签与文件元数据中的隐式标识，对AI生成内容进行提示和溯源。

这些措施有助于用户判断内容来源，但真正的难点仍在于，治理速度能否跑赢造假速度。

如果每次都要等到明星本人偶然刷到视频、公开发声后，平台才封禁账号，那么受害者可能早已出现。对于高度仿真的名人带货内容，平台不能只做事后处理，还应加强发布前审核、传播中拦截和资金链追踪。

AI可以复制声音，却不该继承一个人的信用

AI换脸、声音克隆本身并非只能用于作恶。它们可以服务影视制作、无障碍交流、数字人和内容创作，真正需要被限制的是未经许可盗用身份，并借此牟利或实施诈骗。

公众人物的面容、声音和社会信誉，不应成为任何人可以随意调用的免费素材。

更不能因为视频上出现了“AI生成”几个字，就默认观众应当自行承担全部辨别责任。对于故意冒充真人、制造虚假推荐并诱导消费的内容，标注不是免责条件，技术也不是逃避责任的借口。

这场风波真正值得警惕的，不只是某位演员被冒充带货，而是我们正在进入一个“看到未必为真、听到也未必可信”的时代。

当一张脸、一种声音乃至一段完整表达都能被批量伪造，平台需要守住审核入口，监管需要提高违法成本，消费者也要逐渐放下对“明星亲自推荐”的盲目信任。

AI能够复制一个人的外貌和声线，却不能自动获得这个人的授权，更没有资格继承他多年积累下来的信用。