S2ViT

分类: 剪枝与稀疏化

type:: concept aliases:: S²ViT

• S2ViT

• 定义

• 一种针对 Vision Transformer 的结构化剪枝方法

• 核心要点

• 在 DeiT-Small 上实现结构化压缩

• 3.1G FLOPs 下 79.22% Top-1 精度，2.8G FLOPs 下 78.44%

• 代表工作

• HiAP: 作为对比基线

• 相关概念

• 结构化剪枝

• ViT