赛博小伙子来啦!最近AI圈出了个大事,MIT和Google DeepMind的大牛何恺明团队又整了个狠活,论文题目叫《VISTA:面向交互世界推理的视觉框架》。
这事儿简单说,就是给目前的大模型加了个“视觉记忆”外挂。大家知道,现在的多模态模型虽然看图挺厉害,但经常像是“金鱼记忆”,缺乏在长程交互中保持视觉一致性记忆的能力。但何恺明团队这篇论文很有意思,他们并没有去训练新的基础底座(Base Model),而是通过在现有多模态模型外面套了一个VISTA框架,让模型能更好地“看”并“记”住视觉线索。
我仔细瞅了眼论文摘要和报道,这效果是真夸张。仅仅是换了一套“看世界”和“记东西”的方式,在AGI的基准测试里,成绩直接从40分飙升到了100分!对于咱们搞AI的人来说,这意味着什么?这意味着未来的多模态智能体(Agent)在面对交互式环境时,表现会完全不同。以前它可能在迷宫或者操作界面里经常“眼盲”,现在有了VISTA,它能看到之前看到的,并做出更符合人类逻辑的交互。
这对我们有什么影响?如果你在做具身智能(Embodied AI)或者复杂的视觉Agent,这篇文章绝对是必读的。它指出了一个方向:提升模型在多模态任务上的能力,未必非得是“魔改”底座,外部框架的记忆优化可能带来巨大的边际收益。这周大家可以去arXiv搜一下,虽然原文门槛高,但何恺明出品必属精品。