2026年9月,DeepSeek v4.1发布后,其算子优化负责人刘胜与发了一篇震动业界的长文,标题毫不掩饰——“我不得不把才华埋葬在昨天”。他在文中直白地写道:自己手写了v4.1所有主Attention算子,模型的优秀是对他能力的肯定。
但他很清楚,再过半年到一年,AI写的算子大概率会超越他——因为AI能一秒思考300个token,二十秒写完一份完整算子代码。
DeepSeek v4.1相关负责人发布的行业评论内容截图
这个时间节点往回倒推一年,2025年秋天,AI在他眼里还只是个能查文档、读代码、找bug的小助手。而到了2026年9月,它已经能独立阅读CUDA、PTX和SASS汇编,通过专业工具分析每条指令的停顿时间,自主完成算子优化。
算子优化是AI基础设施领域公认门槛最高的硬核工作之一——你需要同时理解算法逻辑、硬件架构和编译原理,一个顶级算子工程师的培养周期以年为单位。是什么让AI在短短12个月内,从辅助工具的位子跳到了能取代顶级工程师的位置?
答案藏在英伟达2026年3月底发布的一项研究中。
2026年3月31日,英伟达研究员许冰和他的团队公开了AVO智能体——一个能完全脱离人类指导、自主优化GPU底层内核的AI系统。他们把AVO部署在Blackwell B200 GPU上,让它优化Transformer最核心的多头注意力算子。
没有任何人类干预,AVO连续运行了7天,自主探索了超过500个优化方向,生成了40个有效内核版本。
最终的结果让算子圈炸了锅:AVO生成的多头注意力算子吞吐量比英伟达官方为Blackwell定制的闭源cuDNN库高出3.5%,比当时最前沿的开源方案FlashAttention-4高出10.5%。这是AI首次在工业级核心算子上,用完全自主的方式,产出超越人类顶级专家多年优化沉淀的成果。
要理解这件事为什么如此颠覆,得先明白传统算子优化是怎么做的。
打个比方,算子优化就像给一台超级复杂的数控机床写加工程序。每个人类工程师的做法是:先研究图纸,理解工件的形状;然后钻进机床内部,摸清楚刀具的运动学限制、主轴转速的物理极限、冷却液的喷射角度;最后靠直觉和经验,在脑海里推演最优的刀具路径。
这个过程极其依赖人的“硬件直觉”——你能不能在脑子里精确模拟每条指令在GPU硅片上的物理行为。
而AVO完全不按这套逻辑出牌。它不试图“理解”硬件,它把这个问题变成了一个进化实验——就像达尔文雀的喙形演化,只不过时间尺度从百万年压缩到7天。
它不断生成新版本的内核,在真实GPU上跑分,根据性能分析器返回的硬件级指标给每个版本打分,然后以这些指标为引导自动迭代修改。
分析AVO最终提交的代码,能看到一些只有人类顶尖专家才会做的深度操作——无分支累加器重缩放消除了条件分支对warp同步的阻塞、纠错与张量核心流水线重叠把顺序执行的依赖关系重组成交叠流水线、跨warp组的寄存器重新平衡则通过分析溢出到慢速内存的数据,反向优化寄存器分配策略。
任何一个算子工程师看到这些手法,都会承认这是“内行”才能干的事——但完成这件事的系统,是由两个一年半前完全不懂GPU编程的研究员搭建的。
AVO的突破不是凭空出现的。如果拉一条时间轴回看2025年9月到2026年9月,整个传导链条清晰可见。
最底层的先决条件是通用代码大模型的编程能力达标。2026年4月,OpenAI发布的GPT-5.5在SWE-Bench Pro这一衡量真实世界软件工程能力的基准上达到58.6%;头部科技企业已经实现60%到75%的新代码由AI生成。
大模型首次能在百万Token上下文窗口内加载数万行底层硬件代码,完成多步执行、报错到修正的闭环。没有这个能力底座,后面所有针对算子的专项优化都无从谈起。
在这个底座之上,2025年底到2026年3月,领域专项的算子智能体框架开始落地。深圳智子芯元在2026年3月发布了KernelCAT,这是一个专门针对算子场景的AI智能体,能自动完成算子逻辑理解、硬件约束建模、参数空间搜索和编译验证全流程。
它在昇腾平台上把FlashAttentionScore算子的延迟降低了22%,吞吐量提升30%。
这一步的关键在于:通用大模型虽然会写代码,但它不理解GPU的底层硬件特性——KernelCAT这类框架把硬件架构、编译优化、算子调优的领域知识系统性地注入了模型,补上了传统代码生成工具最核心的缺陷。
AVO的突破则把这根链条推到了临界点。它第一次证明,在无人干预的超长周期自主探索下,AI不仅能完成算子优化,而且能产出比人类最好的结果更优的结果。这不是“辅助调参”,而是“超越”——这个概念上的质变让整个行业开始认真对待AI独立搞定算子这件事。
AVO之后,下一环是把单点的突破变成可复现的体系化能力。
2026年8月,清华大学与Frontis联合开源了OpenRSI项目,定义了Draft(从零起草)、Improve(基于执行反馈改进)、Debug(修复报错)和Crossover(重组两个父本)这4个原子编程算子,通过执行反馈的监督微调和在线强化学习让模型持续迭代。
他们用这套框架训出的35B模型,在MLE算子优化基准上直接超过了GPT-5.5配合Codex的成绩。这意味着算子优化不再是一个需要烧钱堆专家的神秘手艺,而是变成了一套可训练、可复现的通用工程体系。
从2025年9月的编程底座达标,到2026年8月的全栈自进化体系开源,整条传导链只用了约12个月。每一个环节在前一个环节的产出上叠加新能力,没有任何跳步——而AVO在3月的验证是整条链中最关键的那个“扳机”,它让行业相信这条路能走通。
但这里需要加一句重要的限定:AI在算子优化上走到了“超越人类的部分结果”这一步,不等于它能在所有场景下完全替代顶级工程师。
如果把算子世界分成三个区域,AI目前只点亮了其中一块。在它已经证明自己的稠密注意力算子这类场景,它的确可以独立产出SOTA结果。
稳定性也是硬伤。2026年8月的NVIDIA开发者论坛上,有用户反馈B200架构上FP32训练算子,高负载下平均每20到45分钟就会触发内核提交超时、GPU锁死,完全达不到生产级7×24小时零报错的要求。国内2026年的企业调研也显示,6.7%的自建智算集群利用率不足50%。
中科院计算所研究员崔慧敏、北京大学TileLang框架团队等权威专家也公开发声,认为AI辅助编译优化目前仍处于“自动调参、给出建议”阶段,距离完全替代人类完成跨越多个层次的算子级深度编译优化,还存在明显缺口,两者是互补关系。
所以,回到最初的问题:为什么AI能在短短一年内独立完成算子优化?
因为2025年9月到2026年9月之间,通用代码大模型全栈编程能力达标、领域专项智能体框架落地、进化式自主优化能力在实打实的工业级任务上被验证、自进化训练体系通过开源形成通用方案——这四条线几乎在同一时间窗口内跑通,串成了一个完整的“从能写代码、到能理解硬件、到能自主探索、到能自我进化”的四级火箭。
刘胜与说的那句“我不得不把才华埋葬在昨天”,不是文人的感伤修辞,而是一个在风暴中心的人,亲眼看见这道闪电完整劈下来的证词。