不到一年，被捧上神坛的"英雄"成了"人人喊打的过街老鼠"，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。中央网信办重磅发声，难道AI还能毫无约束肆意扩张吗！
 
就在前两年生成式AI刚走入大众视野的时候，整个互联网都在为这项技术狂欢。从头部科技公司到小型创业团队，都在争先恐后地推出各类AI产品，仿佛只要贴上AI的标签，就握住了通往未来的船票。舆论场里更是满是推崇之声，说它会颠覆所有行业，会重构生产和生活的逻辑，那些站在风口上的AI从业者，也被捧成了引领时代的英雄。
 
那段时间里，谁要是对AI的风险提出半句质疑，很容易被扣上“不懂技术”“阻碍进步”的帽子。各行各业都在忙着做“AI+”的改造，不管实际需求是否匹配，先蹭上热度再说。几乎没有人愿意停下来想一想，狂奔的AI如果踩空了底线，会给普通人带来什么。
 
答案来得比很多人预想的都要快。不过短短一年多的时间，AI的另一面就赤裸裸地暴露在了公众面前。
 
有人用AI换脸、声音克隆这类深度伪造技术，冒充亲友、领导甚至公众人物实施诈骗，天津就有市民被合成的“领导”视频骗走了95万元，类似的案件在全国多地接连出现。有人用AI生成虚假的商品破损、变质图片，在电商平台恶意申请仅退款，单笔金额不大却积少成多，已经形成了完整的灰色产业链。还有账号批量生成低俗暴力、扭曲经典的“数字泔水”，甚至制作侵害未成年人的不良内容，靠博眼球收割流量，把网络空间搅得浑浊不堪。
 
更别说那些打着情感陪伴旗号的AI数字人，专门瞄准对技术不熟悉的中老年群体，用精心设计的话术拉近关系，最终目的都是引流变现、诱导消费。曾经被寄予厚望的先进技术，转眼就成了不法分子手里的作案工具，成了很多人避之不及的陷阱。
 
就在近期，中央网信办通报了“清朗·整治AI应用乱象”专项行动第二阶段的进展，截至目前累计清理违法违规信息561万余条，查处违规账号4.9万余个，处置违规网站、应用程序等2400余个。从落实大模型备案登记，到开设涉AI乱象举报专区，从整治数据投毒问题，到规范生成内容标识，监管的大网正在一步步收紧。
 
乍一看，很多人可能觉得这些只是少数不法分子的问题，可再往深处看，就会发现问题的根源远不止于此。不少AI平台和企业，为了抢占市场份额、实现快速变现，刻意放宽内容审核的标准，甚至对违规生成行为睁一只眼闭一只眼。它们抱着“先扩张后治理”的心态，把技术风险全部转嫁给社会和普通用户，自己只顾着吃下技术红利。
 
有一点我怎么都想不明白，明明所有人都清楚科技是把双刃剑，可到了AI这里，就有那么多人选择性地无视风险。一边享受着技术带来的效率便利，一边对其潜藏的危害闭口不谈，甚至拿“技术无罪”当挡箭牌，仿佛只要冠上科技进步的名义，就可以突破法律和道德的底线。
 
网上很多人把这事归结为技术发展的必然代价，可我觉得并不是这么回事。技术本身没有对错，但使用技术的人、运营平台的企业有对错。如果没有规则的约束，再先进的技术也可能走偏，再美好的初衷也可能变味。所谓的“必然代价”，本质上是资本逐利时，对规则和秩序的刻意漠视。
 
这事最让人接受不了的是，最终承受风险的往往是最普通的人。是分不清AI换脸的中老年人，是被AI假图坑害的小商家，是被不良AI内容影响的未成年人。他们没有能力分辨技术的真假，也没有能力对抗平台的强势，只能被动承接技术无序扩张带来的后果。
 
说白了，AI从来都不是什么无所不能的神话，它只是人类发明出来的一件工具。工具是造福人还是祸害人，从来都不取决于工具本身，而取决于使用它的人，以及有没有完善的规则去约束它的使用边界。
 
这背后的问题，远没有看上去那么简单。它不止是几起诈骗案件、几条违规信息的事，更关系到整个社会的信任基础。当照片、视频、声音都可以被轻易伪造，当亲眼所见都不一定为实，人与人之间的信任成本会被抬到多高？当AI可以批量产出海量低质内容，真正有价值的信息被淹没，我们的认知又会被带向何方？
 
我们真正该问的，不是要不要发展AI，而是该怎么发展AI，该让AI服务于谁。国家出手整治AI乱象，从来都不是要打压技术进步，而是要给狂奔的技术套上缰绳，给逐利的资本划下红线。只有让AI在规则的框架里稳步发展，它才能真正成为造福社会的工具，而不是悬在普通人头顶的不确定风险。
 
科技发展的脚步永远不会停下，但往前走的同时，也该等等底线，等等规则，等等那些跟不上技术速度的普通人。毕竟，所有的技术进步，最终都该是为人服务的，而不是反过来，让人为技术的失控买单。