← 返回题目列表

类别极不平衡时怎样训练和评估逻辑回归?

高频 困难 第 17 / 25 题 更新于 2026/09/25
机器学习线性模型面试题
学习 AI 实战项目

简化版

极不平衡时准确率失真,训练可用类权重、欠采样或难例采样,评价应看 PR-AUC、召回、精确率与成本;最终阈值由业务容量和误判代价决定。

回答时应把“先验稀少条件下的训练、评价与阈值设计”讲清,再说明如何验证和落地;关键边界是:ROC-AUC 在极不平衡下可能显得乐观;过采样后的 0.5 预测概率不能直接当真实发生率。

详细版

极不平衡分类要把排序、概率和动作分开评估。ROC-AUC 可能在大量真负例下显得乐观,应同时看 PR 曲线、Top-K Precision/Recall、校准以及自然正例率;最终阈值由误判成本和审核容量决定。

欠采样节省计算但丢失负类信息,过采样和类权重会改变训练先验,输出概率需回到原分布校正。难例挖掘有价值,却要防止把错标当难例;每个切片分数都应附样本数与置信区间。

完整版教学

一、问题本质与使用动机

极不平衡问题必须拆成三个层面:模型能否排序、分数能否解释成自然概率,以及有限业务容量下如何采取动作。

自然先验影响概率截距,采样和类权重改变训练目标。排序、概率估计和最终动作是三个层次,应分别评估。

欠采样降低成本但丢失负类信息,过采样易重复噪声,class weight 简单但需校准。难例挖掘必须防止采到标注错误。

二、机制与数学表达

只按类别改变采样率时,可用先验 odds 比例理解概率修正:

odds_true = odds_sampled * (π_true/(1-π_true)) / (π_sample/(1-π_sample))

该修正要求类内采样不依赖特征;否则不能只改一个截距。

三、带数字的推演

正类占 0.5% 时,全预测负类也有 99.5% 准确率,却没有任何正类召回。若每天只能审核 500 条,更相关的是 top-500 precision、覆盖的正类比例和每个命中的净收益。

评估应组合 PR 曲线、目标阈值混淆矩阵、Top-K 指标、概率校准和分群召回;报告 precision 时必须附自然正例率。正例很少时,还要用符合数据分组结构的 bootstrap 给出区间。

四、从数据到上线的执行流程

从训练到上线可使用下面的链路:

自然分布基线 → 加权/采样训练 → 概率校正 → 容量与成本选阈值 → 漂移监控

验证集和测试集应保留目标自然先验,训练采样率必须单独记录;必要时先校正概率,再按成本矩阵、审核容量或 Top-K 规则选择动作点。

线上需监控告警量、审核容量、命中率、漏报成本与标签延迟。正例率变化会直接改变 precision 和最优动作点,即使条件排序能力没有明显下降。

五、方案对比与选择边界

目标主指标常用动作
排序能力PR-AUC/Top-K Recall类权重或采样
概率质量Log Loss/可靠性图原分布重校准
业务决策成本/容量收益选择阈值或 Top-K

排序、校准和决策各有不同指标,单个 AUC 无法替代整条业务验收链。

六、采样校正与可信评估

若只按类别做 case-control 采样且类内采样与特征无关,可以用训练先验和自然先验修正 odds;若采样概率还依赖特征、时间或难度,单一截距修正通常不够,应保留样本纳入概率并使用重要性权重或独立校准集。验证集与测试集必须保持目标自然分布,否则 precision、校准和业务触发量都会失真。

PR-AUC 的基线等于正例率,因此跨时间或跨数据集比较时必须同时报告 prevalence。ROC-AUC 衡量随机正例排在随机负例前的概率,并非数学上“因负例多而自动变高”,但在稀有事件场景可能掩盖运营所关心的低误报区域,所以要补充 partial ROC、PR、Top-K 与成本曲线。

极少正例时点估计波动很大;应按用户或时间正确重采样给区间,并报告每个切片的正例数,而不是只给三位小数。

七、常见误区与追问

  • 误区:99.5% accuracy 说明模型很好。 正例率 0.5% 时全负预测就有该准确率,却没有任何召回。
  • 误区:ROC-AUC 在不平衡数据上一定无效。 它仍有明确排序含义,只是可能不匹配低误报和容量约束下的业务目标。
  • 追问:过采样会改变逻辑回归什么? 它改变训练先验与损失贡献,截距和概率解释需要修正,正则下斜率也可能变化。
  • 追问:PR-AUC 为什么要附正例率? 随机排序的期望 precision 由 prevalence 决定,基线不同不能直接横比。
  • 追问:阈值如何选? 在自然验证分布上按误判成本、处理容量或约束指标选,并在时间外测试集确认。
  • 追问:线上监控哪些量? 自然正例率、告警量、Top-K 命中、分群召回、概率桶发生率和标签延迟都要记录。

八、加强记忆

不平衡问题拆成三层:模型先排好序,校准器恢复自然概率,策略层按成本或容量取 Top-K。任何 Precision 都要附正例率,任何重采样概率都不能未经校正直接上线。