OpenAI的战略未来主管Dean W. Ball评论最新的中国AI进展,暴露了他作为资本主义辩护士的惊慌和恶毒:热点解读
一些关于 Kimi 的观察:
1. 这是一个非常优秀的模型!我认为它的性能不能简单归因于蒸馏或其他类似技术。在代理式编码会话中,它似乎与2026年第一季度的最佳公开模型相当。在我有限的使用中,它也显得非常耗费token。我并不觉得这个模型运行起来真的那么便宜。
2. 我个人对中国的政府继续允许开源如此优秀的模型感到惊讶,鉴于潜在的风险。明确地说,我自己可能不介意这种边际风险水平的模型以开放权重形式发布,但令我惊讶的是中国对此表示接受。我怀疑他们这样做的原因有75%是由于战略性失明/缺乏 AGI 觉醒(中国对AI的看法非常像杨立昆,2018年图灵奖得主、卷积神经网络之父)。另外25%左右则是他们缺乏用于客户推理的计算能力(这使得中国的开放权重策略成为美国出口管制的意外副产品),以及中国一贯的激进出口策略。对于公司而言,与政府不同,开源的决定部分是意识形态驱动,部分是因为它们落后了,而且它们知道很少有人会为来自中国的次前沿模型付费。
3. 开放权重模型本质上是减速主义的,我持续惊讶于所谓“加速主义者”对开放权重模型如此兴奋。我怀疑他们兴奋的原因是,他们知道开放权重模型实际上无法治理,他们只是喜欢开放权重模型为整个AI领域带来的整体“无法治理”的外衣。这不是一个坏策略;它让我想起James Scott在《不被治理的艺术》中对山民的描述。尽管如此,最终,开放权重模型会阻碍进一步的AI资本支出。
4. 一个开放权重模型主导世界的可能结果是全面的AI共产主义,这正是中国所提议的:AI 不是市场产品,而是一种“公物”,最终将由国家作为一种“数字公共基础设施”提供。这种未来在我看来是一个反乌托邦的地狱景观,但我从未遇到过一位开放权重模型倡导者最终不承认事情会走向这一步。你会惊讶于有多少“加速主义者”在我还在政府任职时,游说我支持一个十一或十二位数的联邦资助数据中心,以便初创公司以补贴方式训练模型,然后免费分发。他们说,这是AI进步的唯一途径。也许这是事情的逻辑终点。尽管如此,我发现自己惊讶于看到所谓加速主义者对这种结果如此兴奋。我认为他们中的许多人只是不知道自己在做什么。许多加速主义者并不认为创建和提供前沿模型是一种合法的生意。
5. 我猜特朗普政府会在某个时候意识到,他们在这里的最佳策略是围绕使用开放权重中国模型制造大量监管风险。你不需要“禁止开源”(这是 AI 政策讨论中最愚蠢的主题之一)。你只需要指示每个机构发布软法来制造 FUD。“美联储咨询公告发现,中国 AI 模型中可能存在后门。”这不必有很好的理由。你只需制造足够的监管风险,让每个受监管的企业都退缩。你可能不想制造太多监管风险,以至于吓退超大规模云提供商为中国模型提供服务;这只会把初创公司推向更可疑的提供商。这里有一个愉快的中间地带。我假设他们会做一些版本的这个。
6. 很可能,这种能力的开放权重模型确实让世界变得有点更危险,但不会多到你真正能注意到。模型在某个时候会强大到你能注意到。“一种非生物的、无形的、危险的、并且无限自我复制的代理从中国实验室逃逸,”(恶意的影射)你说?震惊到我了。