线性回归问题
首先来看一个例子：人们去银行贷款，所能贷到的额度Y与变量1工资X1、变量2年龄X2相关。现需要找出一个线性函数Y=thetaX0+theta1X1+theta2*X2（为了便于矩阵化处理，补充变量X0,X0=1,thea0、theta1、theta2是各变量的系数），来最大程度符合Y和X1、X2之间的关系**。即如图2所示，找到一个平面使得该平面与所有点的距离之和最小。
因此可以构建目标函数，为求J(theta)的最小值，对该目标函数求导，令一阶导等于零求出极值点。
对求解结果进行分析
求解结果中包含矩阵的逆，当逆存在时，自然是极好的；然而现实中并不能保证所有矩阵的逆都存在，这时该怎样进行求解呢？基于机器学习的求解方法无疑是求解这类问题的有力武器。