AI会给人类带来末日？那些刷屏的风险数字，很多人都理解错了
人工智能威胁人类生存的讨论，已经跳出科幻影视作品。
硅谷科技高管、经济领域撰稿人公开探讨AI引发人类灭亡的可能性。
圈内还诞生P(doom)这个专属名词，用来指代AI造成人类覆灭的预估概率。
大众舆论直接撕裂成两种截然不同的状态。
一部分人觉得机器永远无法威胁人类，断电就可以解决全部隐患。
另一部分人被各类预测数字震慑，处处渲染末日即将到来的紧张氛围。
英国金融时报撰稿人索马亚·凯恩斯撰文，把容易混淆的概念摊开，帮助普通大众跳出两极化的认知误区。
网络上随处可见各类风险百分比。
很多网友看到数字就心生恐慌。
很少有人深究数字背后对应的现实场景。
大家口中的AI末日，指向的结局并不相同。

一部分说法指向整个人类物种彻底消失。
另一部分说法，仅仅代表大规模伤亡的重大灾难。
彻底抹除全部人类本身存在现实层面的阻碍。
杀人机器人会受电池、弹药物资的硬性约束，很难做到全球范围无休止的扫荡。
现有核武器库存引爆之后扬起的烟尘，也达不到制造全球性核冬天的条件。
美国曾经在2022年开展一场风险预测竞赛。
一百六十九位超级预测者和行业专家参与调研。
给到本世纪末AI致使人类彻底灭绝的预估，超级预测群体给出零点三八百分比。
AI行业专家给出的数值达到百分之三。
统计口径切换为造成一成以上人口死亡的重大灾难，两组人员给出的数字分别上涨到百分之二与百分之十二。
同样一组调研人群。更换事件界定标准，输出结果出现几倍的差距。
这就好比天气预报简单标注有雨。
细雨瓢泼带来的影响完全不在一个层级。
不厘清定义，再精密的数字也只具备表面意义。

哲学家帕菲特很早抛出过一套思想实验。
设想三种局面，世界维持和平，核战争夺走百分之九十九人口，核战争致使人类彻底消亡。
不少普通人眼里，数十亿人口消亡，和物种完全覆灭感受差别微弱。
实验室后续面向英美两千五百多名普通人开展问卷调研。
没有附加背景信息的时候，仅有两成受访者认为人类彻底消失，比近乎覆灭更加可怕。
给到人类未来可以走向更好生活的前提条件。
英国受访人群的这一占比直接来到百分之七十七。
美国样本也达到百分之六十七。普通大众的思考，大多局限眼前的苦难死亡。
容易忽略未来世代全部消失这份隐性代价。
长期研究生存风险的学者，大多能够感知这份差异。
公众群体和专业研究人员，看待同类事件的紧迫感由此拉开距离。

各路行业大佬对外抛出的估算数值落差巨大。
辛顿给出百分之十至百分之二十区间。
阿莫迪罗判断局面走向极坏的概率为百分之二十五。
超级预测者给出的数值不足百分之一。
各方数据之间，差距拉开几十倍。
时间期限、事件定义、每个人对技术发展速度的判断，全部左右最终输出结果。
那场预测锦标赛原本希望通过辩论缩小认知分歧。
几个月交流过后，两方观点几乎没有发生改变。
普通网民刷到碎片化的百分比，不要直接当成既定事实。
先去分辨统计条件，看清数据出自哪一类人群。
人类彻底灭绝发生的门槛很高。
各类中等程度的破坏性事件，依旧值得所有人保持警惕。
文明出现大幅度倒退，几代人的生活遭受冲击，同样属于不能忽视的现实隐患。
面对满天飞的AI末日说法。保持冷静思辨，就是普通人手里最简单有效的防护。

#AI科普 #人工智能风险 #科技观察
技术向前迭代，独立分辨各类言论，是每个普通人必备的能力。