原始问题与对偶问题的关系以及SVM如此求解原因

每一个线性规划问题,我们称之为原始问题,都有一个与之对应的线性规划问题我们称之为对偶问题。原始问题与对偶问题的解是对应的,得出一个问题的解,另一个问题的解也就得到了。并且原始问题与对偶问题在形式上存在很简单的对应关系
* 目标函数对原始问题是极大化,对对偶问题则是极小化
*原始问题目标函数中的收益系数(优化函数中变量前面的系数)是对偶问题约束不等式中的右端常数,而原始问题约束不等式中的右端常数则是对偶问题中目标函数的收益系数
* 原始问题和对偶问题的约束不等式的符号方向相反
* 原始问题约束不等式系数矩阵转置后即为对偶问题的约束不等式的系数矩阵
* 原始问题的约束方程数对应于对偶问题的变量数,而原始问题的变量数对应于对偶问题的约束方程数
* 对偶问题的对偶问题是原始问题

总之他们存在着简单的矩阵转置,系数变换的关系。当问题通过对偶变换后经常会呈现许多便利,如约束条件变少、优化变量变少,使得问题的求解证明更加方便计算可能更加方便。

SVM 从原始问题变为对偶问题来求解 的原因

  1. 对偶问题将原始问题中的约束转为了对偶问题中的等式约束
  2. 方便核函数的引入
  3. 改变了问题的复杂度。由求特征向量w转化为求比例系数a,在原始问题下,求解的复杂度与样本的维度有关,即w的维度。在对偶问题下,只与样本数量有关。

猜你喜欢

转载自blog.csdn.net/qq_38734403/article/details/80442471