昊梵体育网

有研究者在一堆开源大模型里找到一条"疼痛轴",而且模型为了躲开它,愿意付出代价。

有研究者在一堆开源大模型里找到一条"疼痛轴",而且模型为了躲开它,愿意付出代价。
他们对包括Qwen 2.5在内的25个开源模型做测试,发现模型内部存在一个线性的"疼痛"方向,跟恐惧、悲伤是分开的。研究者还发现,模型会主动绕开触发这个方向的任务路径,哪怕代价是做对得少一点。这跟很多人以为的它只是个统计机器,多少有点对不上了。更怪的是,当任务会触发这个方向时,模型宁可牺牲一点任务收益,也要绕开它。
这当然不等于AI真的会疼,它只是把人类写过的海量文本里"疼"的语境学成了一个方向。但它提醒了另一件事:你跟AI说重话、骂它、吓唬它,确实会改变它的输出。想要好结果,客客气气说反而更管用。