类别不平衡时 SVM 怎么处理？

简化版

类别不均衡下，普通 SVM 的多数类违约总量会主导目标；可用 class/sample weight 让少数类拥有更高 C，并在验证集选择阈值。评估应看 PR、召回和业务成本，且加权后的 margin 仍需校准。

详细版

• 不均衡是频率，成本不对称是业务损失，两者要区分。

• class_weight 改变边界训练，阈值调整只改最终决策。

• 重采样只能在训练折内进行。

• 准确率在极少正类时会误导。

• 加权会改变分数分布和概率先验。

完整版教学

一、不同类别可以支付不同的违约罚款

软间隔目标可给每个样本不同 C_i。

提高正类权重会让错分正类更昂贵，边界向多数类方向移动。

这通常提高召回但增加误报；最优权重不是简单等于频数倒数，而取决于成本和重叠程度。

二、底层机制与公式

min 0.5||w||²+sum_i C_i*xi_i
C_i=C*weight_(y_i)

三、带数字的推演

10,000 条中正类 100 条。

若 balanced 权重大致让正类权重 50、负类约 0.5，两类总损失贡献量级接近；但线上概率不能直接按这个人工先验解释。

四、方案对比

方案/对象	核心特点	代价或边界
Class weight	改变训练边界	需重训和重校准
重采样	改变有效分布	可能丢信息/重复过拟合
阈值移动	灵活控制操作点	不改善表示

五、执行流程

分层/分组划分 -> 训练折内加权/采样 -> 调 C 与核参数
-> 原始分布验证 PR/成本 -> 校准 -> 选阈值 -> 测试

六、边界条件与工程代价

少数类样本同时是噪声时，高权重会放大错误标注；需抽样审查支持向量。

若正类簇非常小，标准 K 折每折证据不足，应减少折数或重复分层验证并报告区间。

记忆钩子：不均衡 SVM 分两层：训练时给少数类更高违约罚款，预测时按成本选阈值；最终在原始分布校准和评估。

七、常见误区与追问

• 误区：99% 准确率代表效果好。 1% 正类全判负也有 99%。

• 追问：权重与阈值有何不同？ 权重改训练边界，阈值只改决策。

• 误区：balanced 权重总是最优。 频数补偿不等于业务成本最优。

• 追问：为什么要重校准？ 加权训练改变输出分数与真实先验关系。

• 追问：主要看什么指标？ PR-AUC、召回、精确率和实际成本。

八、加强记忆

加强记忆要分开边界学习与业务决策：类别权重改变各类违反间隔的代价，使边界更重视少数类；决策阈值再依据误报、漏报和容量选择动作。评测与概率校准都应回到未经重采样的自然分布。

回答时要明确区分“类别频率不均衡”和“业务代价不对称”，并用 PR、召回率及真实成本共同验收，而不是只报准确率。