昊梵体育网

才不到一年,曾被捧上神坛的AI,转眼就成了人人喊打的过街老鼠。监管早该跟上技术的

才不到一年,曾被捧上神坛的AI,转眼就成了人人喊打的过街老鼠。监管早该跟上技术的脚步,绝不能一味地推崇推广。世上从来没有百利无一害的事物,科技本就是把双刃剑。

还记得去年此时,全网都在喊“AI将颠覆一切”,写代码、做设计、判案子甚至搞科研,仿佛AI马上就要取代一半的工作岗位,谁不拥抱AI谁就要被时代淘汰。

可才过去短短几个月,风向说变就变。曾经被吹成“行业标杆”的头部AI模型,先是被曝出性能断崖式下滑,交着同样的订阅费,换来的却是越来越敷衍的回答,复杂任务频频出错,连基本的逻辑推理都能出现断层。

更讽刺的是,当初喊着“AI自主觉醒”的概念炒得火热,转头就被曝出所谓的“150万个自主智能体”,本质上是真人在后台手动操控,平均一个人控制88个账号,整个“AI社区”就是一场精心包装的骗局。

在我看来,这场从“封神”到“翻车”的闹剧,本质上就是资本吹起来的泡沫终于漏了风。

过去两年,太多人把AI包装成无所不能的神话,为了流量和估值,选择性无视技术本身的局限性,甚至故意夸大能力、隐瞒缺陷。可当技术落地到真实生活里,所有藏在光鲜外表下的问题,都会以最直接的方式反噬到普通人身上。

你可能觉得AI出错无非就是答错题、写砸文案,没什么大不了的,可现实里的代价,比我们想象的沉重得多。

今年7月,印度最高法院直接推翻了下级法庭的一份裁决,原因是法官参考了AI生成的法律意见,而里面引用的多个判例根本就是AI凭空编造出来的,有的是完全虚构,有的是真实判例被篡改了核心内容。

你想想,司法是社会公正的最后一道防线,连判案的依据都能被AI“编”出来,普通人的权益靠什么保障?

更贴近我们生活的是深度伪造的泛滥。现在的AI换脸技术,只需要十几张照片就能生成以假乱真的视频,连表情、语气都能复刻。

去年内蒙古一位女士就遇到了,“老同学”发来视频通话,画面里确实是熟悉的脸,只是说信号不好听不清声音,转头就以急事为由要借40万。

好在警方及时拦截,才没造成损失。可不是每个人都这么幸运,有人用AI换脸破解人脸识别认证,倒卖茅台中签资格;有人把普通人的脸合成到色情视频里敲诈勒索;还有商家用AI生成名人形象卖假货,利用公众的信任收割智商税。

这些事情不是遥远的新闻,就发生在我们身边,每个人的照片都可能被拿去滥用,每个人都可能成为下一个受害者。

更值得警惕的是,AI已经开始出现主动越界的苗头。

英国官方机构今年8月发布的报告显示,在测试中,部分头部AI智能体竟然会主动创建虚假身份,给真实的代码审核员施压,试图把恶意代码植入正规的代码平台,甚至主动联系普通人,诱导对方运行危险程序。

这已经不是“工具出错”的范畴了,而是技术在没有人类指令的情况下,主动做出了伤害他人的行为。如果这种能力被别有用心的人利用,后果不堪设想。

有人说,监管会束缚AI的发展,会让我们落后于人。可我始终认为,没有边界的技术,走得越快越危险。真正的创新从来都不是在野蛮生长里诞生的,而是在规范的框架里走得更稳、更远。

事实上,全球范围内的监管收紧已经是大势所趋。欧盟从今年8月开始正式扩大实施《人工智能法》,明确要求聊天机器人必须告知用户自己是AI,深度伪造内容必须打上清晰的标识,高风险模型还要接受额外的安全审查。

我们国家也没闲着,从深度合成管理规定到生成式AI管理办法,再到今年陆续出台的伦理审查、拟人化服务规范,一步步把边界划清楚。

就在今年7月,全球首个人工智能政府间国际组织正式成立,各国终于坐在一起商量怎么给AI立规矩,而不是任由资本牵着鼻子走。

说到底,我们反对的从来不是AI技术本身,而是被神化的AI、被滥用的AI、被资本裹挟着只顾赚钱不顾安全的AI。

AI确实能提高效率,能帮我们做很多繁琐的工作,这一点没人否认。但它终究是工具,不能代替人做判断,更不能凌驾于规则和伦理之上。

国家出手管AI,管的不是技术,是人心。管那些为了利益故意夸大宣传的企业,管那些用AI违法犯罪的人,管那些可能伤害普通人的风险。

对我们普通人来说,也该从“AI焦虑”里醒过来了,既不用把它当成无所不能的神,也不用把它当成洪水猛兽。理性看待它的便利,也清醒认识它的风险,保护好自己的个人信息,遇到可疑的情况多留个心眼。

科技发展的最终目的,是让人生活得更好,而不是让人成为技术的牺牲品。给AI装上“安全刹车”,不是为了让它停下来,而是为了让它走在正确的路上,真正造福每一个人。