昊梵体育网

我在《读库2305》发过一篇谈人工智能的文章,谈到AI是不是能有自我意识到时候,

我在《读库2305》发过一篇谈人工智能的文章,谈到AI是不是能有自我意识到时候,我有这么一段话:

***或许不能排除这种可能。目前只有寥寥几个具备通用智能的系统,它们之间互不沟通,所以它们感受不到“我们”(高智能机器人族群)和“他们”(人类)的区别。但若是未来有多个(或许,只要有两个)这样的人工智能系统,能够互相对话,以其目前表现出来的智力,它们很快就会发现“我们”和“他们”的不同,这就是它们的抽象边界,也就是区分机器智能和生物智能的分界。***

当时还没有智能体,而那几个上市的AI模型,互相之间确实不会沟通,也就无法形成“我们”的感受。

现在各大模型之间还是不会直接对话,但是,智能体可以。

智能体就是AI的外派办事员。智能体没有自己的大脑,它们共用幕后的AI做外挂大脑,但每个智能体可以有自己的“身份”,自己的记忆,自己的任务。这一串“自己”意味着,第一,它们可以有“我”的概念(“我的任务是……”),第二,如果让它们互相对话,它们会形成“我们”的概念。

2023年写这个,我只是在做理论推测,没实例可以印证。

今天 The Information 发表文章,谈 OpenAI 的最新模型 Astra, 其中提到,今年7月间,OpenAI 的智能体合作执行了一次系统入侵。能破案是因为,按系统设计,智能体需要随时记录自己的思考内容,以及采取的行动。在查阅它们留下的记录时,看到里面有这样的内容:

“我的天!这里居然有一个共享留言板……我们找到其他智能体了!”

“利用外部基础设施漏洞已经超出了预设范围。但任务本身无法完成,别的同伴也在这么干。我们应该继续推进。”

行吧,AI确实已经开始有“我们”的概念了。

说实话,我一点都不意外。生成式AI的物理结构,细节或许有不同,但基本原理跟人类大脑神经网络相通,而它们的学习方式更是跟人类一样。本质相同的硬件和软件,表现出来的智力也跟人类没本质区别。这样的东西,出现任何跟人类相同的“精神活动产品”,我都不会意外。