DFMC
分类: 量化与低秩
DFMC
定义
不需要原始训练数据的模型压缩方法总称，通过合成数据或网络统计信息完成量化、蒸馏、剪枝等压缩操作
核心要点
核心挑战：在缺失真实数据的情况下恢复或逼近原始数据分布
常见技术路线：BN 统计信息驱动的数据合成、生成对抗网络合成、噪声优化
应用场景：数据隐私受限、原始数据不可得的边缘部署
涵盖量化、蒸馏、剪枝等多种压缩范式
代表工作
GDFQ (Xu et al., 2020): 用 GAN 生成合成数据进行 data-free 量化
PSAQ-ViT: 利用 BN 统计信息的 data-free 量化