央视曝AI人哭着卖惨带货
对着屏幕里哭得梨花带雨的“苦命人”疯狂下单,结果发现对面连个喘气的都没有,全是代码渲染出来的“赛博眼泪”。
央视这次曝光的AI人卖惨带货,直接扯下了直播带货最后一块遮羞布。
以前搞直播,好歹还得雇个大活人,找个破仓库,哪怕剧本再假,流出来的眼泪也是咸的。现在呢?直接上AI数字人,设定好“悲惨身世”和“助农”剧本,连轴转播24小时,不吃饭不睡觉,连滴眼药水的功夫都省了。
从技术角度拆一下,这玩意儿为什么能骗到人?
它背后的“情绪渲染算法”做得太逼真了。不仅能精准卡点挤出眼泪,还能配合哽咽的音效和微表情。加上那层磨皮到失真的滤镜,很多中老年人在手机那头,根本分不清这是真人还是代码。
技术本身是中性的,但拿技术去精准收割同情心,这就是纯粹的恶。
这事的恶劣之处不仅在于骗钱,更在于它把社会的“信任余额”给透支光了。
当消费者发现自己因为善良被一堆代码耍得团团转,下一次真遇到滞销的果农、真需要帮助的弱势群体时,大家还会不会伸出手?AI卖惨最大的破坏,是让真实的苦难,也变成了“狼来了”的剧本。
其实防这招很简单:看互动。你让主播在直播间随机念一条弹幕,或者让它侧脸转个身。现在的AI数字人,一旦遇到突发状况,眼神马上就开始空洞、动作僵硬。毕竟,算法能模拟哭的表情,但模拟不出被逼问时的窘迫。
技术应该用来提高生产力,而不是用来测试人性的底线。
你在直播间刷到过这种“哭得撕心裂肺”的AI主播吗?你当时买了吗?评论区聊聊。