“这太恐怖了！”浙江杭州，男子与同伙在网上购买他人的手机号、头像照片和身份信息，然后使用AI换脸技术，生成一个虚拟人物出来。再然后利用这个虚拟人物的交互功能，去验证购物平台的人脸识别系统，没想到还真被他们给破译了。之后，男子与同伙强制登陆不少人的购物平台账号，将收货地址、购物车信息等售卖给第三方，同时还有偿帮人虚假实名认证，非法获利5857元。


这事得从他们的操作逻辑说起。张某和王某接触AI技术之后，心思没往正道上放，琢磨的是怎么让机器替人“活过来”。


他们从网上弄到了一批手机号、头像照片和身份信息，这些东西在正常人手里是隐私，在他们手里就是生产工具。


拿着一张正面照，用深度学习算法把五官特征抠出来，反复喂给模型训练，最后生成一段会动的视频。视频里的人会左右看、会张嘴、会眨眼，看上去跟真人对着镜头做动作没什么两样。


光有视频还跨不过那道门。购物平台的人脸核验不是放段视频就能糊弄过去的，系统要调摄像头，要看你镜头前的人是不是真在动。张某和王某的解法是在手机里塞了一个“虚拟相机”程序，把系统自带的摄像头给顶替掉。


平台一弹人脸验证，手机以为自己在拍真人，实际上播放的是那段提前做好的合成视频。点头、摇头、眨眼，每一步都踩在验证流程的节奏上，系统就这么放行了。


门开了之后，事情就简单了。他们强制登进别人的购物平台账号，把收货地址、购物车这些东西翻出来，转手卖给有需要的人。


这还不算完，虚假实名认证的活儿他们也接，明码标价帮人过验证，挣的是那份“技术钱”。两笔进账加在一起，5857元。这个数字放在个人信息黑灰产里实在不算大，可它背后牵连的账号数量和信息层级，远不是这个数能衡量的。


杭州中院审理这起案子的时候，把它定性为公益诉讼。原因不复杂，被侵犯的人太多太散，没法一个一个去找来起诉。


法院最后判的是公开道歉加支付公益损害赔偿金5857元，这笔钱专款专用于个人信息保护和人脸深度合成技术不当应用的治理。


值得注意的是，检察机关在此之前已经对两人作出了刑事不起诉决定，理由是侵权持续时间不长，被查获后退了违法所得，也认了罪。刑事上没追责，民事公益诉讼把口子堵上了。


这里面有个细节值得琢磨。办案法官助理在说明案情时提到，张某和王某用的手段是“AI生成视频循环播放卡点”，说白了就是提前做好一段包含指定动作的视频，在验证时卡着时间点播放出去。


这种手法的技术门槛并不算高，甚至可以说粗糙。可它偏偏奏效了。那些还在用“点头眨眼”当最后一道防线的平台，面对这种粗糙的攻击方式，防线就跟纸糊的差不多。


换个角度想，平台设计人脸核验的初衷是“证明镜头前是个活人”。可当攻击者能用一张照片生成一个“活人”的时候，这个逻辑的根基就松动了。


你让用户摇头，合成视频里的人在摇头。你让用户眨眼，合成视频里的人在眨眼。系统判定的是动作有没有做，而不是做动作的那个人到底是不是账号主人。张某和王某钻的就是这个空子，而且钻得毫不费力。


杭州中院副院长在谈这个案子时说过一句话，AI换脸技术的滥用破坏的不只是个体权益，还有实名制和社会信任体系的根基。这话搁在这起案子里看，分量很实在。


5857块钱的涉案金额小得几乎可以忽略不计，可它演示的是一条路径：两个人、一部手机、几个软件，就能把很多人当成“最后保险”的那道核验给绕过去。


今天他们拿去卖收货地址，明天换一拨人拿去干别的，普通人连自己的脸是什么时候被“借”走的都未必知道。


案子判了，钱退了，道歉也判了。可那道被捅穿的防线还在那儿摆着，等着下一个张某或者王某来试。平台该不该把核验标准往上提一提，技术该不该从“看动作”升级到“看场景”，这些问题法院没法在判决书里写答案，但它们就悬在那儿，谁都看得见。


信源：澎湃新闻：《AI视频已能骗过人脸识别，2人突破购物平台核验盗取个人信息》