昊梵体育网

[LG]《Sub-JEPA: Subspace Gaussian Regular

[LG]《Sub-JEPA: Subspace Gaussian Regularization for Stable End-to-End World Models》K Zhao, D Nie, Y Lin, Z Luo… [Shanghai University] (2026)

在端到端世界模型中,JEPA容易坍缩成无信息表征。过去用全空间高斯约束稳住训练,却把低维动力学硬塞进高维球形分布。

本文的核心洞见是:把潜表示不再看作整体空间,而看作多组随机子空间的投影。由此,只在子空间中施加高斯约束,既防坍缩,又放松全局形状。

这项工作留下的遗产是:稳定训练不必牺牲潜空间几何。它打开了按内在维度设计正则的新门,但门槛仍是子空间数量与维度对任务敏感。

arxiv.org/abs/2605.09241 机器学习 人工智能 论文 AI创造营