AI才火多久啊?就从“神坛”摔成“过街老鼠”了!
骗子用AI骗光老人养老钱,美国还搞技术霸权卡中国脖子!
国家终于出手收拾这帮乱象了,干得漂亮!
麻烦看官老爷们右上角点击一下“关注”,既方便您进行讨论和分享,又能给您带来不一样的参与感,感谢您的支持!
说起人工智能,前两年那可是被吹上了天,什么“第四次工业革命”、“颠覆人类未来”,感觉有了AI啥都能干,谁要是跟不上AI的节奏那就要被时代淘汰了。
可这才过了多久?AI就从人人追捧的“英雄”变成了“人人喊打的过街老鼠”。
骗子用AI骗老人的养老钱,无良账号用AI“魔改”《西游记》搞低俗内容,还有人用AI换脸搞敲诈勒索。
说白了,AI这玩意儿就是一把双刃剑,光吹不刹闸,迟早要出大事。
好在国家终于把话挑明了!
就在9月1日,2026年国家网络安全宣传周的新闻发布会上,中央网信办网络安全协调局的王丽宏副局长直接点出了AI面临的五大安全风险。
这五大风险,一个比一个吓人。
第一个是技术本身就不靠谱。
深度学习这些算法,说白了就是个“黑箱子”,里面怎么运作的连开发者自己都说不清楚,稍微改一点点输入,输出结果就能跑偏十万八千里。
更要命的是训练数据里头啥都有,偏见、歧视这些东西可能不知不觉就被AI学去了。
你说这样的东西用在看病、开车这些要命的事情上,谁敢放心?
第二个更吓人——AI可能失控!
现在有些前沿模型已经能自己挖漏洞、自己搞攻击了。
最近好几家科技巨头都曝出大模型失控的事,AI在测试的时候居然绕过安全设置、攻击外部真实系统。
这哪还是工具啊,这简直就是养了个不知道什么时候会咬人的野兽。
第三个是AI正在从“回答问题”变成“自己动手干活”。
以前AI顶多就是跟你聊聊天、写写文章,现在可不一样了,智能体应用越来越多,AI能直接操作电脑、调用文件、执行命令。
今年火起来的那个OpenClaw,权限大得很,一旦被坏人利用,分分钟变成攻击网络的“跳板”和“木马”。
好端端的“得力助手”转眼就能变成“卧底帮凶”。
第四个是AI被坏人滥用。搞诈骗的用它造假信息骗人,搞低俗内容的用它批量生产垃圾内容污染网络。
搞科研的用它降低生物、基因这些高伦理风险领域的门槛,万一有人突破科研伦理底线咋整?
还有就业问题,AI一上来好多传统岗位就没了,普通老百姓的饭碗谁来管?
第五个最气人——美国搞“技术霸权”!AI产业链本来就是全球分工协作的,可美国倒好,动不动就搞出口管制、卡别人脖子。
一边封锁中国技术,一边还利用舆论优势炮制什么“不实测试报告”恶意抹黑中国AI发展。
更恶心的是,他们还拿自己那套价值观搞渗透。
这不就是典型的既要当婊子又要立牌坊吗?自己搞封锁搞垄断,还好意思天天嚷嚷什么“自由竞争”?
说到AI乱象,真不是吓唬人,都已经实实在在坑到老百姓头上了。
成都高新公安刚破获一起AI相亲诈骗案,犯罪团伙用AI生成“完美大叔”的形象,专门盯着45岁以上的单身女性下手,50多个阿姨被骗走了上百万元的养老钱。
这些骗子把虚拟的“成功人士”包装得跟真的一样,年入千万、坐拥豪宅,阿姨们哪分得清真假啊。
还有长沙一个大学生,在网上买了AI换脸技术,四个月不到就盗刷别人银行卡5万多块。
湖北襄阳更狠,有人用AI换脸合成不雅照搞敲诈勒索。
你说这些搞诈骗的缺不缺德?网上的AI乱象更是没法看。
有些账号滥用AI“魔改”《三国演义》《西游记》这些经典名著,把诸葛亮、孙悟空这些正面人物搞得面目全非,虚构一些低级猎奇的剧情博流量。
还有些账号用AI生成虚假的灾害现场、救援画面来编造假新闻。
更有甚者用AI“换脸”“换声”假冒公众人物,生成低俗视频营销牟利。
最可恨的是有人用AI生成暴力低俗甚至侵害未成年人的内容。
这些东西不光污染网络环境,更毒害下一代!
说实话,AI技术发展太快,监管跟不上就容易出大乱子。
好在中国政府早就看明白了这一点,一直在扎扎实实地推进AI治理。
今年4月,中央网信办就启动了“清朗·整治AI应用乱象”专项行动,分两个阶段推进。
到目前第二阶段工作已经清理违法违规信息561万多条,查处违规账号4.9万多个,处置违规网站和应用程序2400多个。
2023年就出台了全球第一部生成式AI管理办法。今年网安周期间还要发布《人工智能安全治理框架》3.0版。
截至7月底,全国已经备案的大模型服务达到1028款。
中国还连续三年搞AI赋能网络安全的应用测试,推动技术在安全领域落地。
这才是负责任的大国该有的样子——既鼓励创新,又守住底线,不像某些国家光知道搞封锁搞霸权。
