多数投票

分类: 深度学习基础

多数投票

定义

一种聚合多个决策源的简单策略:对每个候选选项统计支持票数,选择得票最多的候选作为最终决策

数学形式

ck=tTzk(t),selected=argtopK{ck}c_k = \sum_{t \in T} z_k^{(t)}, \quad \text{selected} = \arg\text{top}_K \{c_k\}

核心要点

鲁棒性强:对单个决策源的噪声不敏感

在 ensemble 学习中广泛使用(如 Random Forest、多模型投票)

DieT 中用于聚合跨任务的维度重要性判断,将多个任务的二值选择器合并为全局 mask

代表工作

DieT: 核心聚合机制,7 个任务各自投票决定哪些维度不重要

相关概念

结构化剪枝