线性模型如何系统地构造和筛选特征交互？
简化版
交互构造应来自机制假设、分桶观察或残差模式，并遵循层级原则：保留 x1*x2 时通常保留 x1、x2 主效应，避免模型解释依赖任意零点。
回答时应把“层级原则下的候选生成与正则筛选”讲清，再说明如何验证和落地；关键边界是：这一题关注系统筛选流程，不只是交互项定义；数据驱动穷举必须做多重比较和独立验证。
详细版
系统筛选交互项的风险在于候选数按 p(p−1)/2 增长，搜索本身会过拟合。应先用领域机制、分桶斜率或残差模式缩小候选，并遵守强层级原则：交互存在时对应主效应也保留。
所有生成和筛选步骤都必须在交叉验证训练折内完成，否则验证信息会泄漏。报告跨折入选频率与外部提升；若候选仍巨大，可用层级正则、Factorization Machine 或树模型作基线，但解释目标要提前明确。
完整版教学
一、问题本质与使用动机
系统构造交互本质是高维模型选择：候选数量二次增长，若在全量数据上筛选，会同时产生过拟合和验证泄漏。
候选数按 p(p-1)/2 增长，搜索本身会过拟合。强层级原则要求交互存在时两个主效应都存在，弱层级至少保留一个。
领域候选加层级正则最可控；Factorization Machine 适合大规模稀疏二阶交互；树模型可作为非线性交互基线。
二、机制与数学表达
若只考虑不同特征的两两乘积，候选数为：
number_of_pairwise_interactions = p(p-1)/2若还包含平方项、类别展开与高阶交互，实际维度会更大。
三、带数字的推演
50 个原始特征全做两两交互会新增 1225 项；若根据机制先缩到 10 个候选特征，则只有 45 个两两组合。候选减少不仅节省计算，也降低从噪声中“挑中最好一个”的选择偏差。
交互生成、中心化和筛选必须在每个训练折内完成，并统计入选频率、符号与增量指标。若先在全量数据筛一次再交叉验证，验证标签已经影响特征集合，结果会偏乐观。
四、从数据到上线的执行流程
推荐使用下面的嵌套选择流程：
机制/残差提出候选 → 折内构造 → 层级约束筛选 → 跨折稳定性 → 外部数据确认在训练折内完成中心化和候选生成，再用层级正则、Elastic Net 或预先限定的检验筛选；最终同时检查外部提升、跨折稳定性和条件效应形状。
特征注册表要记录依赖列、数据类型、中心化参数、类别词典和生成版本。服务端遇到训练未覆盖的组合区域时，应产生范围告警并按预定义策略回退。
五、方案对比与选择边界
| 方案 | 优点 | 风险 |
|---|---|---|
| 领域候选 | 可解释、搜索小 | 可能漏未知机制 |
| 层级正则 | 自动筛选且守层级 | 调参与实现复杂 |
| 树/FM 基线 | 捕获大量交互 | 系数解释较弱 |
领域候选强调可解释性，层级正则强调自动筛选，FM 与树模型强调大规模交互预测；选择取决于目标而非算法新旧。
六、筛选方法与选择偏差
强层级约束要求交互进入时两个主效应都保留；弱层级只要求至少一个主效应存在。普通 Lasso/Elastic Net 并不自动保证层级结构，需要专门的层级惩罚或分组构造。若使用显著性检验筛大量候选，还要处理多重比较；只报告最终入选项的普通 p 值会忽略选择过程。
树模型可以发现候选交互，但若先在全量标签上训练树、再把发现的交互拿回同一数据评估，仍然泄漏。稳妥做法是用训练折发现、验证折评价，或用独立探索集提出假设。Factorization Machine 用低秩向量内积参数化大量二阶交互，适合稀疏类别特征，但它牺牲了每个显式交互系数的直接解释。
“稳定入选”比单次系数非零更可信，但稳定性仍只说明预测选择的一致性，不等于因果关系成立。
七、常见误区与追问
- 误区：先全量筛交互，再做交叉验证没有泄漏。 标签已参与候选选择，验证折不再独立。
- 误区：加入交互后可以删除对应主效应。 这会使解释依赖任意编码原点，并可能违反预设层级原则。
- 追问：候选如何从残差提出？ 查看残差在二维分箱、条件斜率或业务群体中的系统模式，再在独立折验证。
- 追问：何时用 FM？ 特征极稀疏、显式二阶项巨大且主要关注预测时，低秩交互更可扩展。
- 追问：如何报告筛选结果？ 给出外部指标增量、非零交互数、跨折入选频率、符号稳定性与覆盖区域。
- 追问：线上最常见故障是什么？ 训练和服务中心化、类别编码或乘积顺序不一致，会直接制造 train-serving skew。
八、加强记忆
交互筛选不是把两列相乘，而是一个高维模型选择问题。先靠机制把 p² 候选压小，折内生成、折内筛选、跨折看稳定性，并用层级原则保留主效应。