计量经济学课件一元线性回归PPT资料.ppt
《计量经济学课件一元线性回归PPT资料.ppt》由会员分享,可在线阅读,更多相关《计量经济学课件一元线性回归PPT资料.ppt(29页珍藏版)》请在冰点文库上搜索。
实际这些假设与所采用的估计方法紧密相关。
一、线性回归模型的基本假设,假设1、解释变量X是确定性变量,不是随机变量;
假设2、随机误差项具有零均值、同方差和不序列相关性:
E(i)=0i=1,2,nVar(i)=2i=1,2,nCov(i,j)=0iji,j=1,2,n假设3、随机误差项与解释变量X之间不相关:
Cov(Xi,i)=0i=1,2,n假设4、服从零均值、同方差、零协方差的正态分布iN(0,2)i=1,2,n,1、如果假设1、2满足,则假设3也满足;
2、如果假设4满足,则假设2也满足。
注意:
以上假设也称为线性回归模型的经典假设或高斯(Gauss)假设,满足该假设的线性回归模型,也称为经典线性回归模型(ClassicalLinearRegressionModel,CLRM)。
另外,在进行模型回归时,还有两个暗含的假设:
假设5:
随着样本容量的无限增加,解释变量X的样本方差趋于一有限常数。
即,假设6:
回归模型是正确设定的,假设5旨在排除时间序列数据出现持续上升或下降的变量作为解释变量,因为这类数据不仅使大样本统计推断变得无效,而且往往产生所谓的伪回归问题(spuriousregressionproblem)。
假设6也被称为模型没有设定偏误(specificationerror),二、参数的普通最小二乘估计(OLS),给定一组样本观测值(Xi,Yi)(i=1,2,n)要求样本回归函数尽可能好地拟合这组值.普通最小二乘法(Ordinaryleastsquares,OLS)给出的判断标准是:
二者之差的平方和,最小。
方程组(*)称为正规方程组(normalequations)。
记,上述参数估计量可以写成:
称为OLS估计量的离差形式(deviationform)。
由于参数的估计结果是通过最小二乘法得到的,故称为普通最小二乘估计量(ordinaryleastsquaresestimators)。
顺便指出,记,则有,可得,(*)式也称为样本回归函数的离差形式。
(*),注意:
在计量经济学中,往往以小写字母表示对均值的离差。
三、参数估计的最大或然法(ML),最大或然法(MaximumLikelihood,简称ML),也称最大似然法,是不同于最小二乘法的另一种参数估计方法,是从最大或然原理出发发展起来的其它估计方法的基础。
基本原理:
对于最大或然法,当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。
在满足基本假设条件下,对一元线性回归模型:
随机抽取n组样本观测值(Xi,Yi)(i=1,2,n)。
那么Yi服从如下的正态分布:
于是,Y的概率函数为,(i=1,2,n),假如模型的参数估计量已经求得,为,因为Yi是相互独立的,所以的所有样本观测值的联合概率,也即或然函数(likelihoodfunction)为:
将该或然函数极大化,即可求得到模型参数的极大或然估计量。
由于或然函数的极大化与或然函数的对数的极大化是等价的,所以,取对数或然函数如下:
解得模型的参数估计量为:
可见,在满足一系列基本假设的情况下,模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。
例2.2.1:
在上述家庭可支配收入-消费支出例中,对于所抽出的一组样本数,参数估计的计算可通过下面的表2.2.1进行。
因此,由该样本估计的回归方程为:
四、最小二乘估计量的性质,当模型参数估计出后,需考虑参数估计值的精度,即是否能代表总体参数的真值,或者说需考察参数估计量的统计性质。
一个用于考察总体的估计量,可从如下几个方面考察其优劣性:
(1)线性性,即它是否是另一随机变量的线性函数;
(2)无偏性,即它的均值或期望值是否等于总体的真实值;
(3)有效性,即它是否在所有线性无偏估计量中具有最小方差。
(4)渐近无偏性,即样本容量趋于无穷大时,是否它的均值序列趋于总体真值;
(5)一致性,即样本容量趋于无穷大时,它是否依概率收敛于总体的真值;
(6)渐近有效性,即样本容量趋于无穷大时,是否它在所有的一致估计量中具有最小的渐近方差。
这三个准则也称作估计量的小样本性质。
拥有这类性质的估计量称为最佳线性无偏估计量(bestlinerunbiasedestimator,BLUE)。
当不满足小样本性质时,需进一步考察估计量的大样本或渐近性质:
高斯马尔可夫定理(Gauss-Markovtheorem)在给定经典线性回归的假定下,最小二乘估计量是具有最小方差的线性无偏估计量。
证:
易知,故,同样地,容易得出,
(2)证明最小方差性,其中,ci=ki+di,di为不全为零的常数则容易证明,普通最小二乘估计量(ordinaryleastSquaresEstimators)称为最佳线性无偏估计量(bestlinearunbiasedestimator,BLUE),由于最小二乘估计量拥有一个“好”的估计量所应具备的小样本特性,它自然也拥有大样本特性。
五、参数估计量的概率分布及随机干扰项方差的估计,2、随机误差项的方差2的估计,由于随机项i不可观测,只能从i的估计残差ei出发,对总体方差进行估计。
2又称为总体方差。
可以证明,2的最小二乘估计量为,它是关于2的无偏估计量。
在最大或然估计法中,,因此,2的最大或然估计量不具无偏性,但却具有一致性。