[LG]《Compositional Sparsity as an Inductive Bias for Neural Architecture Design》H Lin, A Briola, Y Wang, T Aste [University College London] (2026)

在高维学习中，神经网络为何不被维度灾难压垮，是一个悬而未决的难题。过去方法受困于调深度、宽度和连边，本质原因是把结构先验交给了盲目搜索。

本文的核心洞见是：把网络结构重新看作数据依赖拓扑的投影。由此，IFN先抽取稀疏高阶相互作用，HNN再把这些相互作用铸成固定连线的层级网络。

这项工作留下的遗产是：组合稀疏从理论假设变成可训练架构。它为少参数、高维表格学习打开新门，但尚未跨过非线性依赖估计与小样本噪声的门槛。

arxiv.org/abs/2605.14764 机器学习 人工智能 论文 AI创造营