机器学习day8-SVM训练误差为0的解存在问题

训练误差为0的SVM分类器一定存在吗

理论上,存在一组参数image.png以及图片使得SVM训练误差为0,但是这个参数不一定是满足SVM条件的一个解,在实际训练SVM模型时,会加入一个松弛变量,那么还能够保证得到的SVM分类器满足训练误差为0吗?
因此,我们需要找到一组参数,使得满足训练误差为0,且是SVM模型的解。
SVM模型解的限制条件是
image.png目前我们得到的一组参数可以使得,当image.png时,image.png;当image.png时,image.png
因此,我们还需要满足的条件,
image.png因此,对于公式,首先令b=0,则
image.png因此,
image.png

这里,image.png图片取值非常小,也就满足了image.png。此时满足了SVM的解条件,同时此时模型误差也为0。

加入松弛变量,SVM的训练误差可以为0吗

实际中使用SMO算法来训练加入松弛变量的线性SVM模型,并且惩罚因子为任一未知常数,也不一定可以得到训练误差为0的模型。
带松弛变量的SVM模型的目标函数包含这两项:
image.png当C=0,图片=0,达到了优化目标,此时训练误差不一定为0。


猜你喜欢

转载自blog.51cto.com/15069488/2578601