近期硅谷AI研究员Jacob Thompson裸辞发声，声称十年内AI有可能毁灭人类，帖子阅读量破1.6亿，甚至惊动美国国会，引发全网热议。连Anthropic内部安全专家也认同AI存在灭绝人类的风险，坦言目前还没有成熟的管控方案。


抛开故事里惊悚的描述，我认为AI毁灭人类属于极端猜想，不能因此就否定科技进步。
这位研究员放弃数百万美元股权选择离职，这份警示值得重视。AI飞速迭代确实存在未知风险，超级智能的潜在隐患，是全人类必须正视的课题。各大科技公司追逐技术突破，各国之间形成类似囚徒困境的竞争，都害怕落后，这是客观存在的现实。

但把风险推演当成必然结果，认为AI会主动消灭人类，未免太过悲观。回顾人类科技发展史，每一次颠覆性技术出现，都会伴随末日式担忧。火药、核能、互联网问世之初，都有大量声音预判文明将会崩塌。可人类没有停下发展，而是不断建立规则，约束技术风险，让科技服务社会。

AI目前只是工具，并不具备真正的自我意识，没有主动毁灭人类的欲望。所谓失控，根源是人类研发、监管的漏洞，并不是AI本身自带恶意。
如果仅仅因为存在极小概率的极端风险，就全盘叫停科技发展，甚至退回原始社会，这是典型的因噎废食。AI已经实实在在造福社会：辅助医疗诊断、提高生产效率、帮助普通人解决各类生活难题。科技带来的红利，是实实在在的。

当然，我们不能盲目乐观。这位研究员的呐喊，最大的意义不是制造焦虑，而是敲响警钟。AI不能一味追求速度，只顾商业利益，忽略安全底线。现在全球各国都在推进AI立法，无数科研人员深耕AI安全领域，就是在寻找那套“刹车方案”。

就像当年曼哈顿计划，科学家看见原子弹的威力后心生愧疚。科研人员的敬畏之心，值得尊重，但不必放大末日恐慌。
技术本身没有善恶，关键在于人类如何管控。我们要警惕无序野蛮的AI竞赛，完善全球监管共识，把安全放在发展前面。但也不要被极端预言吓到，相信人类的智慧，有能力驾驭自己创造出来的技术。
#AI末日论#人工智能风险 #超级AI #硅谷AI警示 #科技理性思考