AI 可能会终结人类：人类该如何消化这件事？

这项技术远非人类面临的唯一生存风险。但权衡此类宇宙级恐惧，可能变成一场令人脑洞大开的练习。
它可能发动生物武器袭击，或引发全球无人机战争。它可能引爆核弹。或者，它可能更渐进地摧毁人类社会：囤积全球所有经济资源，让我们失去食物、住房或药品。
这些就是如今围绕人工智能盘旋的黑暗想象。这项技术已经证明是人类成就的一次巨大飞跃——但一些人担心，它也有可能彻底灭绝人类。
本周，这类焦虑登上全球头条：Anthropic一名研究员辞职，理由是他担心自己所在的实验室及其他类似实验室正在构建人类无法控制的超智能机器。
AI构成的潜在威胁令人恐惧，这可以理解。但现代世界充斥着众
多生存风险。人类还面临杀手小行星、大流行病、热核战争、气候变化、太阳喷射出的巨大炽热物质团、生态崩溃以及突然降临的冰河期等末日前景。
科学家和公共政策专家说，问题与其说是这些威胁本身——AI只是其中最新一个——不如说是人类天生难以把它们放在恰当视角下看待。
“我们容忍习以为常的风险，却恐惧新的风险，”哈佛风险分析中心主任詹姆斯·K·哈米特说。
他说，我们开车比坐飞机更频繁，所以“与机动车相比，航空公司被认为很危险，但实际上并非如此。”
他指出，人工智能“显然不被人理解，也不在我们感知的掌控之中，因此引发巨大的社会担忧。”
在构建AI系统的科技高管和研究人员中，一直有一批人警告AI可能毁灭人类。
一些人说，短期来看，人工智能可能帮助没有技术但心怀恶意的人制造病毒或有毒物质，造成大范围疾病和死亡。就在周四，Anthropic表示，它已挫败若干科学家的研究尝试，这些研究可能导致生物武器开发。
从更长远的视角看，那些警告AI潜在危险的人认为，科技公司可能赋予AI系统更大自主权，将它们接入互联网，甚至把它们连接到关键基础设施，包括电网、股票市场和军事武器。他们声称，一旦AI系统接入这些基础设施，就可能以意想不到的方式制造问题。
今天，当AI系统失控时，OpenAI等公司可以直接关掉它们。但一些专家担心，未来的系统会抵抗关闭它们的努力。
目前，这些还只是假设性担忧。
“我们离那一步还很远，”华盛顿大学教授、艾伦人工智能研究所创始首席执行官奥伦·埃齐奥尼说。“如果我必须担心要么是AI逃出实验室杀死数百万人，要么是病毒逃出杀死数百万人，那毫无疑问。我担心的是病毒。”
#人工智能 #商业 #科技 #美国 #观点