残差能量
分类: 基础理论
残差能量
定义
向量在正交投影到子空间后,未被表示部分的能量(L2 范数的平方)
数学形式
核心要点
残差能量越大,说明该向量携带越多当前子空间未覆盖的新信息
在贪心子空间扩展中,每步选择残差能量最大的向量可最大化信息增量
可通过 Gram-Schmidt 正交化增量更新,避免重复计算投影矩阵
代表工作
ResPrune: 用残差能量作为视觉 token 选择的核心准则
分类: 基础理论
向量在正交投影到子空间后,未被表示部分的能量(L2 范数的平方)
残差能量越大,说明该向量携带越多当前子空间未覆盖的新信息
在贪心子空间扩展中,每步选择残差能量最大的向量可最大化信息增量
可通过 Gram-Schmidt 正交化增量更新,避免重复计算投影矩阵
ResPrune: 用残差能量作为视觉 token 选择的核心准则