CDPruner
分类: 剪枝与稀疏化
CDPruner
定义
条件多样性最大化的 token pruning 方法，在选择重要 token 的同时强制保持多样性，平衡指令相关性与冗余消除
核心要点
结合 attention-based importance 和 diversity maximization
使用条件多样性约束避免选择冗余 token
针对大视觉语言模型（LVLM）的视觉 token 压缩
代表工作
IWP: 作为 baseline 被对比，IWP 在理论层面统一了重要性和多样性指标