GID

分类: 知识蒸馏

GID

定义

检测领域知识蒸馏方法，通过通用实例级别的 feature 对齐（而非 anchor 级别），统一处理不同尺度和类别的 instance，提升蒸馏的泛化性。

核心要点

以 instance 为单位做 feature 对齐，而非 pixel 级或 anchor 级

使用 instance-level aggregation（ROI pooling 或 average pooling in bbox 内）提取实例特征

对正样本（有 GT 的 instance）和负样本（无匹配 GT 的区域）分别处理

代表工作

Dai et al. — 原始 GID 论文

LIAF — 对 GID 等方法的改进：可学习的 instance-aware 权重

相关概念

知识蒸馏 — GID 的上位概念

DeFeat — 同类检测 KD，前背景解耦方案

FGFI — 同类检测 KD，anchor 距离加权方案

MasKD — 另一种 masked 蒸馏方案