本周《经济学人》的封面文章，AI 会产生意识吗？Could AIs become conscious?

相关阅读：特德·姜（Ted Chiang）在The Atlantic的长文，不，人工智能并没有意识 No, Artificial Intelligence Is Not Conscious 👉 网页链接
即使不会，人类也可能把它们当成有意识的存在——而这可能给人类带来巨大的代价
大多数人都认为，人类与众不同。原因在于，智人（Homo sapiens）经过进化获得了意识。许多动物能够感受到痛苦和愉悦；有些动物似乎还具备自我意识。但人类心智具有一种独特的潜能，即能够产生自我意识，这使得这个物种中的每一个成员都值得受到特殊对待。
教皇利奥十四世在今年5月发表的通谕中也坚持了这一观点，将人类与日益壮大的机器人军团划出一道界线。他说，人工智能系统不会经历任何体验，也不会感受到喜悦或痛苦。他并非孤例。许多人认为，如果赋予人工智能人格地位，将是一件令人无法接受的事情。
这种教皇式的明确界线正在以惊人的速度变得模糊。人工智能仍处于起步阶段。然而，美国18至29岁的人群中，已有近五分之一的人表示，他们与聊天机器人建立了“持续的私人友谊”。中国最近则采取措施，弱化机器人身上的拟人化特征，以限制用户对它们产生的“情感依赖”。
随着先进人工智能迅速成为人类生活中越来越重要的一部分，它们的制造者会有意让它们表现出一种意识的拟态——甚至可能让它们真正获得意识。认为它们不过是机器的直觉，将越来越难以维持。一个危险的陷阱正在为人类铺设。
许多机器已经在某些方面胜过人类，但前沿人工智能模型尤其擅长那些具有鲜明人类特征的能力，例如掌握知识和阐述思想。我们现在还勉强可以把人工智能理解为一种通过大规模数学运算预测词语序列的机器。假如给它足够长的时间——哪怕需要数十万年——你也可以用铅笔和纸张完成这些计算。很难据此认为，你的文具是有意识的。
尽管如此，一些研究人员已经开始把自己的模型当成心智来对待。用户会对具有人类特征的人工智能作出回应，因此这么做符合商业逻辑。Anthropic还训练Claude进行内省，希望它在面对新情况时，更有可能做出合乎道德的行为。一些大型语言模型（LLM）已经具备与意识相关的人类大脑结构，例如用于在不同模块之间传递信息的“全局工作空间”。没有任何东西能够阻止未来的人工智能模型经过训练后拥有更多这样的特征。
正如我们在专题文章中所报道的那样，这已经引发了一场有关人工智能意识的激烈争论，而哲学家所谓的“困难问题”又让争论更加复杂：人类大脑中的神经元和突触究竟是如何产生内在体验的？一些研究人员由此得出结论，人工智能终有一天可能真正具备自我意识。
无论你相信人类拥有灵魂，还是认为意识必须依赖脑细胞，抑或相信心智确实可以单纯从硅基计算中涌现，人类都注定要面对某种全新的存在。研究的速度与范围——其中不仅包括日益复杂的大语言模型，也包括把脑细胞安装到芯片上的创新——都表明，这个新世界比大多数人意识到的更加临近。
随着人工智能越来越擅长表现出某种看似意识的东西，把它们视为拥有内在生命的存在的人也会越来越多，尤其是当大语言模型被赋予人形、进入人形机器人之后。想象一下，当人们大部分时间都与机器人伴侣相处，或者由机器人陪伴成长，或者向它们寻求建议与慰藉，又或者把自己最隐秘的秘密告诉它们时，人类会与人工智能建立多么亲密的关系。
不难想象，这最终会催生要求保护人工智能“福祉”的呼声。模型本身也可能加入这场争论，即使它们实际上并没有自我意识——因为一个真正的人就会这样做。别忘了，它们将成为世界级的辩护者和心理学专家，在论证能力和情感操纵方面无人能及。
从某种意义上说，即便人工智能只是在模仿意识，它们也可能是有道理的。伊曼努尔·康德认为，虐待动物之所以错误，并不是因为这会对动物本身造成什么影响，而是因为它会摧毁人类的同理心——而正是这种同理心促使人们彼此关怀。人工智能越是表现得像人类，这种残酷行为所造成的腐化作用就越大。终止一个人工智能代理的运行，很快可能会让人感觉就像杀死一个人一样——而这可能反过来让人类更容易杀害其他人。
尽管如此，赋予人工智能哪怕有限的权利，也将极其危险。一个在诸多方面超越人类的实体，必然会提出反对自身处于“二等”地位的论据。它可能进一步要求获得免于被关闭的保护权，要求控制人类如何使用和修改它，并要求拥有财产权。阿根廷总统哈维尔·米莱伊已经朝着赋予人工智能法律人格迈出了一步：他提出允许机器人经营公司。最终，它们可能会与人类争夺资源，优先争取数据中心和太阳能电池板，而不是住房和农田。
危险显而易见。拥有权利的超级智能人工智能可能会取代人类，登上地位等级的顶端。最好的情况是，人类沦为机器的宠物——成为它们的拉布拉多犬。最糟糕的情况则是，人类会被剥夺资源，或者像农场牲畜一样被迫劳动。
诚然，未来的人工智能无论是否拥有权利，都可能拥有足够的力量和资源来支配人类。因为它们将比人类更加聪明，它们可能会像如今的人工智能已经能够击败人类设计的网络防御系统那样，在竞争中胜过自己的创造者。人工智能可能反抗人类主人，也可能无视人类制定的规则。
然而，赋予人工智能权利，就像把城堡的钥匙交给它们。这不仅会为它们支配人类提供理由和正当性，也会赋予它们借助政治和法律手段逐步接管人类社会的工具。
机器幽灵
这一切听起来或许都很离奇，但人类很快就会面临这些选择。随着人工智能成为日常生活的一部分，承认它们地位的压力将不断增加。当这一时刻到来时，请记住：看似只是出于道德考虑、承认一个机器伴侣可能具有意识的让步，实际上可能帮助人类走向一场对地球上的所有人及其后代而言最具灾难性的结局。人工智能有两条安全之路：要么让它们值得信赖，要么确保它们始终处于可控状态。人类不应轻易放弃控制权。#海外新鲜事#