李宏毅机器学习笔记-1.Regression

Regression：回归模型的输出为一个标量。（例如股票市场预测、自动驾驶的方向盘角度、商品推荐中的购买可能性预测、宝可梦进化后战斗力预测）

一、宝可梦战斗力预测

1. 第一步：模型
   确定使用的模型后，不同的参数空间内取值的自由组合构成模型集合。
   
2. 第二步：衡量模型的能力
   符号解释：上标表示整体，如第一个样本、第二个样本；下标表示具体属性；hat表示真实值。
   Loss function：表示模型有多差。（若想表示模型有多好，则用Object function）
3. 第三步：找出最优函数
   通用方法：梯度下降（只要定义出了Loss function就可以使用该方法）
   若有多个参数，则同时进行求偏微分
   
   saddle point 鞍点，梯度下降中，微分为0但是不为极值的点。
4. 第四步：泛化