集成模型如何做可解释性分析？

简化版

集成模型的解释应分全局与局部：全局看置换重要性、PDP/特征效应，局部看 SHAP、路径贡献或反事实。解释描述模型行为而非因果关系，并要检查相关特征、背景分布和解释稳定性。

详细版

• 树内 impurity importance 快但偏爱高基数特征。

• Permutation importance 衡量打乱后的性能下降，却受相关特征替代影响。

• 局部解释回答一个样本，不能直接当全局规律。

• PDP 在强相关特征下可能构造不现实组合。

• 解释结果需跨时间、切片和重采样验证。

完整版教学

一、先明确解释对象与问题层级

“模型整体依赖什么”和“这次为什么拒绝”是不同问题，所需工具也不同。

没有先定义受众与决策，解释图很容易被过度解读。

集成平均隐藏了单棵规则，但不代表不可解释；它需要把众多路径贡献聚合，同时诚实报告近似假设。

二、底层机制与公式

global importance: delta_metric after feature permutation
local additive explanation: f(x)=baseline+sum_j phi_j

三、带数字的推演

模型对样本预测 0.72，基线 0.30；若 SHAP 贡献为收入 +0.25、负债 +0.22、年龄 -0.05，总和为 0.72。

这里是模型分数分解，不是收入造成结果的因果效应。

四、方案对比

方案/对象	核心特点	代价或边界
Impurity importance	计算快	高基数偏差
Permutation	贴近指标	相关特征会互相替代
SHAP	局部可加分解	背景集和计算成本敏感

五、执行流程

定义全局/局部问题 -> 选择指标与背景数据 -> 计算解释
-> 相关特征分组复核 -> 扰动稳定性检查 -> 与业务规则对照

六、边界条件与工程代价

解释值依赖输出空间：logit、概率和回归值的加法含义不同，展示前必须标明。

解释器版本、背景样本与模型版本要一起保存，否则同一请求无法复现原解释。

记忆钩子：先问“解释谁、解释什么输出、用于什么决策”，再选工具。

七、常见误区与追问

• 误区：特征重要性证明因果关系。 它只描述模型如何使用输入。

• 追问：全局与局部解释有何不同？ 前者汇总总体行为，后者针对单次预测。

• 误区：SHAP 数值在任何背景集下都相同。 基线与贡献依赖背景分布。

• 追问：相关特征有什么坑？ 贡献可被任意分摊，置换也会破坏联合分布。

• 追问：如何验收解释稳定？ 重采样、轻微扰动并跨版本比较排名和方向。

八、加强记忆

先问“解释谁、解释什么输出、用于什么决策”，再选工具。

任何重要性都只是模型行为证据，必须带上相关性与背景分布边界。