最近有一种很奇怪的感觉:关于 RSI 的讨论,突然变得特别密集。⚠️ 李开复等越来越多科技圈的人开始谈它,X 上关于 AI 自我改进、AI 加速 AI 的讨论也明显增加。
与此同时,另一边也在发生一些微妙的变化:越来越多前沿 AI 研究者公开讨论风险,有人离开头部实验室,有人呼吁放慢研发、加强监管,甚至有人直言,自己看到的东西,让他开始重新思考未来几年到底会发生什么。
这些事情单独看,好像都没什么。但放在一起,我越来越怀疑:2023 年 GPT-3.5 带来的那场 AI 大爆发,可能只是序幕。真正的拐点,也许正在今年发生。🧠
RSI,Recursive Self-Improvement,递归式自我改进。过去更多是“人类用 AI 提升人类效率”,但如果接下来变成 AI 写 Agent,Agent 改 Harness,Harness 自动 Eval,Eval 再修改 Skill、Prompt、Memory、Tool,然后新的系统继续优化下一轮……
最关键的变化就出现了:AI 开始参与“改进 AI 自己”。♻️
这就像复利本身也开始自动复利。一旦这个闭环真正跑通,AI 的成长速度可能就不再是我们熟悉的线性增长,甚至未必只是简单的指数增长。
我现在还不想喊“AI 末日”或者“人类灭绝”,这些结论都太早。但有一个问题,我们可能真的需要认真想了:
如果 AI 开始大规模参与自己的研发和进化,人类还能跟得上它的速度吗?👀
最近突然密集出现的 RSI、AI 威胁论、研究员离职、监管呼吁,真的只是巧合吗?还是说,有什么更大的变化,已经开始发生了?
你怎么看?欢迎评论区讨论👇
#AI #RSI #AGI #Agent #人工智能 #科技前沿 #chatgpt #claude
