逻辑回归中的 class_weight 如何起作用？

简化版

class_weight 让少数类样本在损失和梯度中占更大权重，主要改变决策边界；它不创造新信息，也不保证输出概率仍按原始先验校准。

回答时应把“按类别重加权对数损失”讲清，再说明如何验证和落地；关键边界是：加权与改阈值不是完全等价：前者改变拟合参数，后者只改变决策；极端权重会放大噪声。

详细版

类权重通过放大少数类样本在对数损失中的梯度，改变模型拟合时关注的错误；它不会创造新信息，也不保证加权后概率仍对应自然发生率。权重过大会提高召回，同时增加误报并可能扭曲截距。

训练后必须回到原始分布比较 PR 曲线、校准和成本，再独立选择动作阈值。若只需改变业务取舍，调阈值可能已足够；当希望决策边界本身更关注少数类结构时，类权重才会产生不同作用。

完整版教学

一、问题本质与使用动机

class_weight 改变每类样本在经验风险中的相对贡献，本质是成本敏感学习，而不是“复制少数类信息”。

加权后最大似然对应被改变的经验分布，截距尤其会随类先验移动。若目标是风险概率，必须在自然分布验证并重新校准。

balanced 权重约为 n/(K*n_k)，适合作起点；业务成本明确时按成本调节。也可保持训练不变，仅在决策层改阈值。

二、机制与数学表达

二分类加权对数损失可写为：

L = -Σ w_(y_i)[y_i log p_i+(1-y_i)log(1-p_i)]

加权与改阈值不是完全等价：前者改变拟合参数，后者只改变决策；极端权重会放大噪声。

三、带数字的推演

正负样本为 100:1 时，把正类与负类权重比设为约 100:1，可使一个正样本的损失贡献接近 100 个负样本。权重的整体倍数还可能改变正则项与数据损失的相对强度，因此要看具体实现是否对样本权重归一化。

比较未加权与加权模型时，应同时看 PR 曲线、固定容量下的召回、系数和校准。权重升高但少数类召回不再改善时，继续放大通常只会增加误报并放大错标正样本。

四、从数据到上线的执行流程

可按下面的训练—决策链路实施：

自然基线 → 搜索类权重 → 原分布校准 → 成本选阈值 → 先验漂移复核

权重可从业务误判成本或 balanced 公式起步，再经验证集调节；训练后要在自然分布上检查概率，并单独选择上线阈值。

发布记录需包含训练采样率、class_weight、目标先验、校准器和阈值。线上先验漂移后，即使条件排序能力不变，precision、概率解释和最优阈值也会变化。

五、方案对比与选择边界

手段	改变对象	主要副作用
类权重	拟合参数与边界	概率失准、误报增加
决策阈值	输出到动作的映射	不改善表示能力
重校准	概率解释	需要独立自然分布数据

三种手段作用层次不同：权重改拟合，阈值改动作，校准改分数的概率含义，可以组合但不能互相替代。

六、概率解释与实现边界

加权损失相当于在训练目标里改变类别先验或误判成本。即便模型形式正确，直接输出也对应加权目标下的最优分数，不应自动当作自然人群风险；正则化、模型失配和有限样本还会让简单截距修正不充分。需要概率时，应保留独立的自然分布校准集，用 Platt、isotonic 或先验修正后再验 NLL、Brier 和可靠性图。

balanced 常令第 k 类权重为 n/(K n_k)，它平衡的是类别总损失，不代表业务上的漏报与误报成本相等。若训练又对少数类过采样，再叠 inverse-frequency 权重，可能重复补偿。不同库对样本权重的平均方式、正则缩放与截距惩罚也可能不同，迁移实现时要用一个小数据集对齐损失与系数。

类权重解决“训练目标重视谁”，阈值解决“分数到动作怎么切”，校准解决“分数能否解释成概率”。三者必须分开验收。

七、常见误区与追问

• 误区：class_weight='balanced' 就是最佳权重。 它只按频数给出起点，不包含业务成本、标签噪声和处理容量。
• 误区：加权训练与降低阈值完全等价。 在线性模型正确设定且无正则等理想条件下可能主要移动截距，现实中权重还会改变斜率与边界。
• 追问：为什么 AUC 可能变化不大而召回提高？ 变化可能主要来自阈值或局部排序；应在同一阈值规则和自然分布上比较。
• 追问：加权后还能直接使用 0.5 阈值吗？ 不能默认；应根据校准后的概率、误判成本或审核容量重新选择。
• 追问：权重越大为何可能更差？ 错标或异常少数类也被放大，模型可能为少数点扭曲整体边界。
• 追问：线上先监控什么？ 同时报自然正例率、分数分布、precision/recall、触发量与分群校准，避免只盯总体准确率。

八、加强记忆

类权重改训练，阈值改决策，两者不完全等价。权重让少数类梯度更大，也改变概率尺度；最终要在自然分布重新校准，并按成本选择阈值。