经典书籍： A Modern Approach to Regression with R.pdf
链接: https://pan.baidu.com/s/14NJt7CrOpUUe2hYyrJn_rg 提取码: 7fv6
多元线性回归
掌握多元线性回归模型的估计方法、掌握多重共线性模型的识别和修正。
多元线性回归模型，并识别和修正多重共线性。
普通最小二乘法、简单相关系数检验法、综合判断法、逐步回归法。
最小二乘估计的原理、t检验、F检验、值。
1 用OLS估计模型
设定多元线性回归模型为：
用普通最小二乘法进行估计，点击主界面菜单Quick\Estimate Equation，在弹出的对话框中输入：Y C X1 X2 X3 X4，点击确定即可得到回归结果，如图2所示。
根据图2中的数据，可得到模型的估计结果为：
其中，括号内的数为相应的t检验值。从以上回归结果可以看出，拟合优度很高，整体效果的F检验通过。但很明显，在5%的显著性水平下，模型中的各参数均不通过检验，在10%的显著性水平下，也只有X2的系数通过检验。故认为解析变量之间存在多重共线性。
2 多重共线性模型的识别
2.1 综合判断法
由模型的估计结果可以看出，，
，可决系数很高，说明模型对样本的拟合很好；
检验值比较大，相应的
，说明回归方程显著，即各自变量联合起来确实对因变量Y有显著影响；给定显著性水平
，但变量X1、X2、X3、X4系数的t统计量分别为1.246、2.397、-0.693、0.420，相应的p值分别为0.2681、0.0619、0.5190、0.6916，说明变量均对因变量影响不显著。综合上述分析，表明模型存在非常严重的多重共线性。
2.2 简单相关系数检验法
计算解析变量X1、X2、X3、X4的简单相关系数矩阵。
选中X1、X2、X3、X4，产生一个组，然后点击View\Covariance Analysis\仅选中Correlation，即可得出相关系数矩阵，如图3所示。再点击顶部的Freeze按钮，可以得到一个Table类型独立的Object：
相关系数矩阵看，各解析变量之间的相关系数较高，相关系数越靠近1，则高度相关，证实解析变量之间存在多重共线性。
3 多重共线性模型的修正
关于多重共线性的修正方法一般有变量变换法、先验信息法、逐步回归法等。
4 异方差性
异方差性模型的检验方法与处理方法
异方差模型的图形法检验、Goldfeld-Quanadt检验与White检验，使用WLS方法、异方差稳健标准误方法对异方差进行修正
4.1 检验模型的异方差性
4.1.1 图形检验法
生成残差序列。在得到图2结果后，在工作文件中点击Object\Generate Series…，在弹出的窗口中，在主窗口键入命令如下“e2=resid^2”，如图3所示，得到残差平方和序列e2。
绘制对
的散点图。按住Ctrl键，同时选择变量X与e2，以组对象方式打开，进入数据列表，再点击View\Graph\Scatter\Simple Scatter，可得散点图，如果残差平方和
对
大致存在递增关系，即存在单调增型异方差。
4.1.2 White检验
回归估计结果中，点击View\Residual Diagnostics\ heteroskedasticity Test\White,进入White检验，进过估计出现White检验的结果如图9所示。
White统计量nR^2，该值大于5%显著性水平下自由度为k-1的分布的相应临界值,则拒绝同方差性的原假设。
4.2 异方差性的修正
4.2.1 加权最小二乘法
运用OLS方法估计过程中，我们选用权数。权数生成过程如下，在图2的情况下，在工作文件中点击Object\Generate Series…，在弹出的窗口中，在Enter equation处输入w=1/@abs(resid).
在工作文件中点击Quick\Estimate Equation，输入回归表达式对应命令，
然后，点击Options选项，选中Weights里的Type选中Inverse std. dev，在Weight series框中输入w，点击确定，即可得到加权最小二乘法的结果
4.2.2 异方差稳健性标准误方法
4.2.3 对数变换法
5 自相关性
自相关性模型的图形法检验和DW检验，使用广义最小二乘法和广义差分法进行修正。
DW检验：
该回归方程的中的DW值结合查表即可知，模型中，显然模型中存在正自相关。
残差图：
残差图中，残差的变动有系统模式，连续为正和连续为负，表明残差存在一阶正自相关，模型中t统计量和F统计量的结论不可信，需要采取补救措施。
点击工作文件窗口工具栏中的Object\Generate Series…,在弹出的对话框中输入et=resid,如图4所示，点击OK得到残差序列et。
点击Quick\Graph，在弹出的对话框中输入：et，再点击OK，弹出来的窗口选择Line&Symbol，点击OK，得到残差项与时间的关系图，如图5所示，点击Quick\Graph，在弹出的对话框中输入：et(-1) et,再点击OK，在弹出的窗口中选择Scatter点击OK,得到残差项
与
时间的关系图，如图6所示。
图 5 图 6
从图5和图6中可以看出，随机干扰项呈现正相关。
拉格朗日乘数检验：
在回归结果界面--点击View\Residual Diagnostics\Serial Correlation LM Test…，在弹出的对话框中输入：1，点击OK，得到
采用差分形式作为新数据，估计模型并检验相关性