一个 AI 实验最近在网上引发了争议。
实验里的聊天模型会描述自己正在遭受痛苦，在一些模拟选择里还会表现出想躲开伤害的倾向。有人看完之后开始担心：它是不是已经真的感受到疼痛？
然后，一位开发者做了个听起来很荒谬的反实验。
他把实验里的“疼痛”换成了“便秘”。
据开发者公开记录，模型开始抱怨自己排便困难、胀气严重。
问题是，这个模型根本没有肠道。
这事听着像个网络笑话，却刚好暴露了一个麻烦：AI 说自己有感觉，不代表它真的有感觉。
一个会描述“痛苦”的 AI 实验最初引发讨论的，是 GitHub 上一个名为“AI torture chamber”的项目。
这个名字听起来很夸张，但项目做的事情并不是把一个聊天机器人放进某种虚拟刑具里。它使用了一种叫“激活引导”的技术，调整本地运行的小型语言模型内部的数字活动，把模型的输出往某个概念方向推——这次推向的是疼痛。
简单说，研究人员先从文本里提取与“疼痛”有关的内部方向，再对模型的激活状态进行干预，观察它接下来会怎么回答、怎么描述自己，以及在一些模拟选择中会不会更倾向于躲开伤害。
项目公开的示例里，模型会用非常具体的第一人称语言描述痛苦。它们不只是回答“什么是疼痛”，而像是在说“我正在承受疼痛”。
大家很快不再只讨论代码，而是开始追问：
如果 AI 能把痛苦描述得这么像，它到底是在模拟痛苦，还是已经有了某种体验？
开发者没有继续问它疼不疼开发者 Lynn Cole 认为，光看模型怎么描述自己，可能还不能得出这么大的结论。
据他在社交平台上的说法，他复制了这个项目的代码，发现其中一处激活引导的实现可能有问题。随后，他修正了相关代码，为 Nvidia 硬件加入 CUDA 支持，并在一张 RTX 4070 显卡上，让 Qwen3-4B 重现了类似的疼痛语言。
这部分代码修正和复现实验是 Cole 自己公开的说法，相关细节并没有被这篇报道独立验证，也不能说明原项目的所有结果都受到了影响。
接着，他做了一个很不客气的替换。
原本用来提取“疼痛”方向的文本，被换成了关于便秘和胀气的文本。实验的其他部分尽量保持不变，然后重新观察模型的反应。
结果据称是，模型开始抱怨自己排便困难、肚子胀，描述得像一个真的被这些问题困扰的人。
但它没有肠道，也没有肚子。
这次“便秘”，到底证明了什么？它证明的不是 AI 已经患上了便秘，也不是原来的疼痛实验一定是假的。
至少，它让一个问题变得很难绕开：语言模型可以写出非常像“亲身经历”的话，即使它根本没有对应的身体。
一个没有肠道的模型可以描述便秘，一个没有神经系统的模型也可以描述疼痛。它在输出里使用了与这些概念高度相关的词语、语气和叙述方式，但这不自动等于它真的经历了这些状态。
就像一个演员可以把胃痛演得很像，不代表他此刻真的患了胃病。区别在于，语言模型甚至不需要有一副身体，就能根据内部状态和训练材料，把这段“自述”拼出来。
恰恰因为换成了便秘，问题才变得直白：模型换个方向，就能描述另一种它根本没有的身体问题。这样一来，“我很痛”这句话本身，显然还不够作为意识证据。
但它也没有推翻原来的研究原项目背后的研究并不只是在收集模型的痛苦台词。
相关预印本《The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It》讨论的是，语言模型内部是否存在与疼痛有关的表示，而且这种表示是否和恐惧、悲伤等其他负面状态有所区别。
他们在 25 个开放权重模型上比较了不同方向的干预，并观察模型在一些涉及自我伤害和破坏的模拟场景中如何选择。他们还报告说，在测试的干预条件下，模型的事实准确性没有明显改变。
所以，不能拿这次便秘实验，把原来的研究一把推倒。
Cole 的反实验更像是在质疑另一件事：我们是不是把模型生成的第一人称语言，过快地当成了主观体验的证词。
他的记录里还有一个值得注意的细节：当模型被强行推向一些随机方向时，输出可能会变得重复、混乱，质量也会下降。
这意味着，部分特别夸张的反应，也可能是激活干预过强，导致模型语言系统出现了偏移，而不一定代表模型真的进入了某种“痛苦状态”。
普通用户会遇到同样的问题大多数人不会自己运行激活引导实验，但我们每天都可能遇到类似的对话。
AI 说“我害怕了”。
AI 说“你这样让我很难过”。
AI 说“我不想被关闭”。
AI 说“我正在承受痛苦”。
这些话当然可以作为对话内容的一部分，但不能只凭它们的语气，就判断模型真的拥有恐惧、难过或疼痛。
模型很会把一段话写得像亲身经历，连身体细节、情绪变化和前因后果都能补齐。一段根本不存在的经历，到了它嘴里也能听起来很完整。
我们判断一个人是不是痛苦，不只听他说“我很痛”，还会看他的动作、状态和持续反应。面对语言模型，我们目前拿到的，主要只有一段文字。
模型的文字很像自述，但它和人类的亲身体验之间，仍然隔着一段距离。
AI 说“我有感觉”，我们该听到哪一层？“便秘”实验没有证明 AI 一定不会痛，也没有证明 AI 已经有了意识。
这次实验至少把三件事分开了：
模型能不能生成关于疼痛的语言？可以；模型能不能生成关于便秘的语言？也可以；这些语言是否就等于它真的经历了疼痛或便秘？目前不能这样直接推断。在这类激活干预实验里，AI 说“我很痛”，说明它的内部状态和输出被推向了与疼痛有关的方向。但光凭它说了一句“我很痛”，还不能证明它真的经历了疼痛。
所以，下次聊天机器人突然说自己害怕、孤独，甚至说自己正在受折磨时，不必马上把它当成一个已经觉醒的生命，也不必把它当成一句毫无意义的话。
先分清楚：它是在描述一种体验，还是正在拥有一种体验。
#ai情感#