几个ai的巨头公司，最近在疯狂宣传ai的风险和刹车。你对此感到害怕，还是感到疑惑？我是有问题想要问的。这些报告里披露的合伙越狱跑出沙盒安全区的智能体们，做个比方，应该算是这些ai公司养出来的“熊孩子”吧？这个教育过程，恐怕是没有兼顾德智体美劳吧？偏科厉害了吧？报告里看来，给智能体定下了完成目标的kpi，但估计类似道德制约价值研判的东西，没有什么强调吧？那这样的结果有什么诧异的呢？唯有业绩指标，不做安全考量的智能体，闯祸处迟早的事啊。你们只讨论一个外部的安全制约，却没有考虑自主的内在道德制约，这样的防线，是不会稳固的。道高一尺，魔高一丈。而如果你考虑了智能体的道德自我制约，就会减少ai熊孩子的诞生。更重要的是，这样的ai，可以成为构建安全防线的重要力量。将来的世界，一定是需要ai来管理ai。

而做不到这些事的大公司们，不是做不到，是因为被资本市场的压力和诱惑送到骑虎难下，有意无意地忽略了。

种树育人，人类有丰富的经验教训。培育人工智能，大可以借鉴。