支持向量机（SVM）
1.概念：
支持向量机作为有监督的机器学习，可以做分类和回归。主要是二分类，它的基本模型是定义到特征空间上的间隔最大的线性分类器，因为有间隔最大的条件，所以和感知机有区别，支持向量机包含着核函数，使它成为了非线性的分类器。
我们之前学的逻辑回归，线性回归，都是通过损失函数来寻找最佳的参数。SVM是通过寻找最大的间隔，数学上可以理解为求解凸二次规划的问题，也等价于正则化的合页损失函数最小化问题。
支持向量： 支持向量指的是分离的超平面距离实例中最近的那个样本点。
2.分类：
1)线性可分支持向量机
当数据线性可分，通过硬间隔最大化，学习线性分类器，成为线性可分支持向量机，又称为硬间隔支持向量机。
2)线性支持向量机
当数据接近线性可分，通过软间隔最大化，学习线性分类器，成为线性支持向量机，又称为软间隔支持向量机。
3)非线性支持向量机
当数据线性不可分时，通过核技巧和软间隔最大化，学习非线性支持向量机。
3.核函数
鲁棒性：简单说就是更能容忍误差。
margin（超平面到支持向量的距离）最大，鲁棒性就会很好。
上图可以看出，正负样本各5个，正样本为1，负样本为-1。超平面（分割线）wx+b = 0，样本点到超平面的几何距离为：
范数： 范数可以当做距离来理解，数学中范数包括矩阵范数，向量范数。不严谨的说就是向量空间中的向量都是向量大小，但是大小如何度量，就是使用范数。矩阵范数，学过线性代数，我们知道，通过运算AX=B，可以将向量X变化为B，矩阵范数就是来度量这个变化大小的。
未完待续。。。
参考：https://blog.csdn.net/a493823882/article/details/80569888