AI伪造明星直播带货,谁来管?
凌晨三点,演员吴越在社交平台上发了一条愤怒的动态:“一觉醒来,居然有人用AI技术冒充我卖东西!这位‘花姐’,你到底骗了多少人的钱?赶紧还回来!”她还附上了一段视频。画面里,有人利用深度伪造技术,把吴越的声音和形象合成到一个广告视频中,用她的“虚拟分身”推销商品。这种手法,简直让人目瞪口呆。
更离谱的是,不止吴越,这个视频最后居然还有“邓亚萍”的影像出现在其中,同样是在推荐产品。而且翻看相关账号发现,还有多条疑似乒乓球冠军邓亚萍“带货”的广告内容。虽然视频下方标明是“AI生成”,但对普通用户来说,这种标注未必能引起足够的警惕。明星们被摆在台面上乱用形象,而消费者则容易掉入骗局。这样的操作,让人不禁想问一句:这些骗子到底想干嘛?
其实,这已经不是第一次有明星公开遭遇类似情况了。演员温峥嵘此前也爆料说,她曾无意间刷到自己的直播间,但问题是——那根本不是她!她质问对方,“你是温峥嵘,我是谁?”结果直接被拉黑。这种荒谬场景听着像段子,但却真实发生在她身上。据悉,当时多个直播间同时播放着“温峥嵘”的影像,有些是以前录播的片段,有些则干脆是用AI合成出来的假直播。不管真假,对观众而言,很难分辨背后的真相。
温峥嵘提到,她早就发现问题,从今年四月开始,就不停地有人冒充她开直播。有趣的是,她自己并没有参与那些所谓的带货活动,可那些伪造的视频里却出现了不同妆容、各种商品,以及完全雷同的话术。这种现象,说白了就是利用技术手段牟利,把明星当成赚钱工具,既伤害公众信任,也直接损害艺人的名誉。
最近几年,随着深度伪造技术的发展,用AI换脸、模拟声音制作虚假内容的问题越来越严重。不少名人都因为这类事件陷入麻烦,而普通消费者更是防不胜防。一些专家表示,要解决这种乱象,关键在于严格执行内容标识制度,明确区分合法使用和非法滥用。但这话说起来简单,做起来难。即便平台要求标注“含AI生成”,又有几个人会认真查看这些小字提醒呢?更别提彻底杜绝此类恶意行为。
这个问题显然不会轻易结束。从明星到普通用户,都可能成为受害者。在我们为技术进步感到惊叹之余,是不是更应该思考一下:到底该如何避免科技成为犯罪者手中的工具?毕竟,如果连公众人物都无法证明自己是谁,那普通人又该如何保护自身权益?答案,还需要更多时间去寻找,也许,更需要社会各界一起努力。