李飞飞计算机视觉课CS231n第四天

1. Hinge Loss 表达式

$L_{i}=\sum_{j\ne y_{i}}max(0, s_{j}-s_{y_{i}}+1)$
函数存在一个问题，即当 $L=0$的时候 $w$并不唯一，而使用正则项可以解决这个问题。

2. SoftMax 表达式

$P(Y=k|X=x_{i})=\frac{e^{s}k}{\sum_{j}e^{s}j}$，其中 $s=f(x_{i};W)$