软间隔 SVM：合页损失等价写法（了解级）¶
- 章节：第7章 · SVM（软间隔 / 了解概念）
疑问¶
"等价于正则化的合页损失最小化"是什么意思？\([1-y_i(w\cdot x_i+b)]_+\) 那块怎么理解？
我悟到的¶
- 软间隔 SVM 可等价写成：
\[\min_{w,b}\ \sum_i\big[1-y_i(w\cdot x_i+b)\big]_+ +\lambda\lVert w\rVert^2\]
- \([z]_+=\max(0,z)\) 叫合页损失，形式像 ReLU。含义很直白：
- 分类对且函数间隔 \(\ge1\) → 不罚（损失 0）；
- 越界（落进间隔里）或分错 → 按"差多少"线性惩罚。
- \(\lambda\lVert w\rVert^2\) 是正则项（追求大间隔 / 防过拟合）。
- 这是软间隔的另一种叫法，了解有这回事即可。
易错点¶
- 合页损失是软间隔（允许噪声）的写法，不是硬间隔。
- 前一项 \(\sum_i[\cdot]_+\) 是逐点损失，后一项 \(\lambda\lVert w\rVert^2\) 才是正则；别混。
出处¶
课件 PPT slide_024 合页损失等价式；课本 p.106 软间隔原始问题（式 7.32–7.34，松弛变量 \(\xi_i\)：\(y_i(w\cdot x_i+b)\ge1-\xi_i\)）。相关：[[硬间隔SVM-为什么令函数间隔等于1]]。