短短不到一年，曾经被捧至高位的“英雄”沦为千夫所指的对象，国家该出手对AI加以规范治理，切不可一味追捧推广，世间万物皆有利弊，科技本身就是一把双刃剑。
 
中央网信办在9月1日的新闻发布会上直接亮明了态度！
 
就在这场发布会上，中央网信办明确点出了当前人工智能面临的五大安全风险，排在第一位的，就是技术先天脆弱性难以根除。深度学习算法本身运行逻辑复杂、可解释性欠缺，推理过程不透明，异常故障难以快速定位修正，哪怕是微小的输入扰动，都可能导致完全错误的推理结果。
 
这话可能很多人听着没概念，举个最简单的例子。你让AI写一份方案，它洋洋洒洒几千字，逻辑通顺数据详实，你挑不出毛病。可你追问一句，这个数据是从哪来的，这个结论是怎么推导出来的，它要么顾左右而言他，要么干脆编一个看似合理的理由。
 
有一点我怎么都想不明白，过去一年多，全网都在吹AI要颠覆世界、取代人类，可连最基本的"为什么这么说"都回答不了的技术，我们凭什么放心大胆地把重要决策交给它？
 
网上很多人把这事归结为技术还不够成熟，等模型再大一点、数据再多一点就好了。可我觉得并不是这么回事。这根本不是参数多少的问题，而是深度学习的底层逻辑决定的。神经网络的训练过程，本质上是让机器在海量数据中自己寻找规律，这个过程连开发者自己都无法完全复刻。训练完成的模型就像一个黑匣子，你知道输入和输出，却不知道中间发生了什么。
 
这背后的问题，远没有看上去那么简单。
 
想想看，现在AI已经渗透到了多少领域。金融风控、医疗诊断、自动驾驶、教育评估，甚至是司法辅助量刑，这些直接关系到普通人切身利益的场景，都在纷纷引入AI系统。可如果AI给出了一个错误的判断，我们连错在哪都不知道，又该怎么去纠正，怎么去追责？
 
这事最让人接受不了的是，很多企业明明知道这个问题的存在，却刻意回避。对外宣传的时候只说准确率百分之九十九，只说效率提升了多少倍，绝口不提可解释性为零，绝口提不出错的时候怎么办。出了问题就推给"算法"，好像算法是个免罪金牌。
 
乍一看，很多人可能觉得这是技术问题，交给科学家解决就行了。可再往深处看，就会发现这本质上是个治理问题。技术可以慢慢迭代，但社会信任一旦崩塌，再想重建就难了。
 
我们真正该问的，不是AI还能变得多聪明，而是我们能不能看得懂AI在做什么。
 
截至今年7月底，国内已经备案的大模型服务有1028款，登记的大模型应用有630余款，覆盖了工业、农业、商业、教育、交通、法律等几乎所有领域。数量增长之快，令人咋舌。可与之相对的是，我们对这些模型的了解程度，其实并没有同步增长。
 
但是我认为，中央网信办这次发声，释放了一个非常明确的信号——AI发展的狂奔时代该结束了，接下来要进入规范发展的新阶段。只谈创新不谈风险，只讲效率不讲安全的路子，走不通了。
 
这次发布会还提到，今年网安周期间会发布《人工智能安全治理框架》3.0版。从1.0到3.0，版本迭代的背后，是监管层面对AI风险认知的不断深化。这不是要打压AI发展，恰恰相反，只有把边界划清楚了，把底线守牢了，这个行业才能走得更远。
 
说白了，过去我们对待AI的态度，多少有点像溺爱孩子的家长。只看到它聪明伶俐的一面，舍不得管，也不忍心管，总觉得它长大了自然就懂事了。可现实是，没有规矩约束的技术，长得越快，跑偏的可能性就越大。
 
就拿AI生成内容来说，去年大家还在惊叹AI画画、AI写文章有多厉害，今年就已经被AI造谣、AI诈骗、AI换脸搞得焦头烂额。从"科技英雄"到"过街老鼠"，口碑反转只用了不到一年时间。这不是AI本身变了，而是我们终于看清了它的全貌——它既能创造价值，也能制造麻烦。
 
科技从来都是把双刃剑，这话说了很多年，可真到了新技术面前，很多人还是会选择性地只看利好的一面。互联网如此，大数据如此，人工智能也是如此。每一次技术浪潮袭来，都是先吹捧、后质疑、再治理，循环往复。
 
但是我认为，这一次我们应该吸取教训，不要等问题成堆了再去收拾残局。AI的发展速度远超以往任何一次技术革命，等到风险全面爆发的时候，可能已经来不及了。提前建章立制，把治理的速度提上来，跟上技术发展的脚步，才是负责任的做法。
 
有一点可以肯定，AI不会停下前进的脚步，也不应该停下。但我们必须搞清楚，人类发展AI的目的，是让它服务于人，而不是反过来被它牵着鼻子走。一个我们无法理解、无法掌控的黑匣子，哪怕能力再强，也不值得我们顶礼膜拜。
 
说到底，AI最大的敌人从来都不是人类，而是它自己的不透明。什么时候它能清清楚楚地告诉我们"我为什么这么想"，什么时候它才算真正走向成熟。在那一天到来之前，监管的手，不能松。