重磅干货，第一时间送达

本文转自：机器学习算法那些事

SVM经过拉格朗日乘子法，引入了 m 个系数，目标函数的形式如下：

变量含义和相关假设如下：

• 设 w 向量维度是 m,

  

• a 的维度是 m (特征个数)，

• 样本(X,Y)的第一维度代表样本个数，设为n; 第二维度是特征维度m，如第 i 个样本的向量表示为：

  

• b是标量

因此，下式可以化简为：

为了更好地理解，先对w向量的第一个分量w1求偏导，和w1无关的分量全部消除，式子立即化简为如下：

这些只涉及到最简单的求导公式，求出偏导：

这样对w1的求导完毕，然后对整个的 w 向量求导：

已经求得L对w1的偏导，w1,w2,…,wn的地位是相同的，所以依次带入即可，上式可以化简为如下：

下面再利用一些基本的线性代数中行列式的一些知识，就可以转化为向量的表达，具体操作如下：

回到文章开始对w向量和xi向量的定义，得到如下向量表达：

因此，对w向量的偏导求解完毕，结果如下：

下面再对b求导，b是标量，直接一步可以得到结果：

根据拉格朗日乘子法的理论，令L对w偏导等于0，得到关系式：

同理，令L对b偏导等于0，得到关系式：

接下来，将得到2个关系式代入到L中，化简L.

为了更好理解，仍然采用更直观地表达方式，将向量完全展开，

将上面关系式代入到L之前，我们先展开这个式子，

仍然还是先抽出w的第一个分量w1，因为L完全展开中涉及到其平方，

所以，先化简w1的平方这一步。因为w1可以进一步展开成如下形式：

w1的平方，因此可以展成如下形式：

上面这个式子就是基本的多项式求和，w1的平方进一步浓缩下：

至此，w1的平法化简完毕，再整合所有其他w分量并求和，如下，整个推导过程依然相清晰，如下：

再对上式拆分成两个向量，如下：

再写成浓缩式子：

至此，代入w后化简中的第一项已经完毕。

再化简第二块：

对上式展开，并利用条件：，化简如下：

代入w满足的等式后，

提取出公因子后变为如下：

将上式写为向量形式：

因为都是向量，所以转置相等，故，

至此，第一二项求解完毕，整理后得到：

目标函数终于变为系数的函数，接下来使用KKT求解上式的最优解。关于 KKT 的理解，可以先尝试理解拉格朗日乘子法，而它的推导可借助下面这些图更加容易理解

2 找找 sense

使得f(x)减小最快的方向就是它的梯度反方向，即