RBF 核中的 gamma 参数如何影响模型？
简化版
RBF SVM 的 gamma 控制单个样本影响半径：gamma 大时核随距离快速衰减，边界局部复杂；gamma 小时影响范围广，边界平滑。它与缩放和 C 强耦合，需对数网格联合验证。
详细版
-
gamma 是 RBF 宽度的倒数尺度。
-
高 gamma 加高 C 最易过拟合。
-
低 gamma 可能所有点核值相近而欠拟合。
-
自动
scale仍依赖训练方差。 -
维度增加会改变典型距离与适用 gamma。
完整版教学
一、gamma 决定相似度随距离衰减多快
RBF 把平方距离乘 gamma 后指数衰减。
gamma 越大，同样距离得到越小相似度，每个支持向量只影响附近小区域。
若特征未缩放，一个大尺度维度会让指数迅速趋零，gamma 的搜索失去稳定含义。
二、底层机制与公式
K(x,z)=exp(-gamma*||x-z||²)
sigma_kernel=1/sqrt(2*gamma)三、带数字的推演
两点平方距离 4：gamma=0.1 时核值 e^-0.4≈0.670；gamma=2 时为 e^-8≈0.00034，几乎互不相似。
四、方案对比
| 方案/对象 | 核心特点 | 代价或边界 |
|---|---|---|
| 小 gamma | 全局平滑 | 可能欠拟合 |
| 大 gamma | 局部灵活 | 易碎片化过拟合 |
| 线性核 | 无 gamma | 高维稀疏常高效 |
五、执行流程
折内缩放 -> 建 log C×log gamma 网格 -> CV 热力图
-> 看训练验证差距/支持向量数 -> 缩小搜索区 -> 独立测试六、边界条件与工程代价
高维空间距离集中时，gamma 默认值可能仍不合适，应从实际 pairwise distance 分布出发检查。
不同特征选择或 PCA 会改变距离，旧 gamma 不能直接沿用。
记忆钩子：gamma 是 RBF 的“影响半径旋钮”：大 gamma 看得近，小 gamma 看得远。
七、常见误区与追问
-
误区：gamma 越大泛化越强。 它通常让边界更局部、更高方差。
-
追问：gamma 与核宽度什么关系？ gamma 越大，有效宽度越小。
-
误区：只需单独调 gamma。 C 同时决定违约惩罚。
-
追问：为何缩放先做？ gamma 作用于总平方距离。
-
追问：如何观察过拟合？ 训练很高、验证下降且边界/支持向量局部化。
八、加强记忆
gamma 是 RBF 的“影响半径旋钮”：大 gamma 看得近，小 gamma 看得远。
必须在统一尺度下与 C 联合调。