SPC统计过程控制的相关与回归分析.pptx
《SPC统计过程控制的相关与回归分析.pptx》由会员分享，可在线阅读，更多相关《SPC统计过程控制的相关与回归分析.pptx（47页珍藏版）》请在冰点文库上搜索。
SPC统计相关与回归分统计相关与回归分析析课时安排n本章的特点n描述统计与推断统计中相关回归分析的差别n第一节相关与回归分析的基本概念（1学时）n第二节一元线性回归分析（4学时）n第三节多元线性回归分析（2学时）n第四节非线性回归分析（1学时）n第五节相关分析（1学时）本章的特点n与以往的统计学原理教科书不同，本章从推断统计的角度讲解相关分析与回归分析。
这是因为在有关现实经济和管理问题的定量分析中，作为推断统计的相关分析与回归分析更加具有广泛的应用价值。
描述统计与推断统计中相关回归分析的差别n描述统计:
不需要对随机误差项作出各种假定,各种参数估计值是具体数值,是对总体存在的相关关系的描述,不存在显著性检验.n推断统计:
需要对随机误差项作出各种假定,各种参数估计量是随机变量,抽取的样本不同时,得到的估计值也不同.可以用来推断总体.需要进行各种检验.第一节相关与回归分析的基本概念n一、函数关系与相关关系n二、相关关系的种类n三、相关分析与回归分析n四、相关表和相关图一、函数关系与相关关系一、函数关系与相关关系n当一个或几个变量取一定的值时，另一个变量有确定值与之相对应，称这种关系为确定性的函数关系。
n当一个或几个相互联系的变量取一定数值时，与之相对应的另一变量的值虽然不确定，但它仍按某种规律在一定的范围内变化。
变量间的这种相互关系，称为具有不确定性的相关关系。
n变量之间的函数关系和相关关系，在一定条件下是可以互相转化的.二、相关关系的种类二、相关关系的种类n按相关的程度可分为完全相关、不完全相关和不相关。
一般的相关现象是不完全相关。
n按相关的方向可分为正相关和负相关。
n按相关的形式可分为线性相关和非线性相关。
n按变量多少可分为单相关、复相关和偏相关。
一个变量对另一变量的相关关系，称为单相关。
一个变量对两个以上变量的相关关系时，称为复相关。
在某一现象与多种现象相关的场合，当假定其他变量不变时，其中两个变量的相关关系称为偏相关。
n按相关的性质可分为“真实相关”和“虚假相关”。
判断什么是“真实相关”什么是虚假相关，必须依靠实质性科学三、相关分析与回归分析三、相关分析与回归分析n相关分析是用一个指标来表明现象间依存关系的密切程度。
n回归分析是用数学模型近似表达变量间的平均变化关系。
n相关分析可以不必确定变量中哪个是自变量，哪个是因变量，其所涉及的变量都是随机变量。
n回归分析必须事先确定具有相关关系的变量中哪个为自变量，哪个为因变量。
一般地说，回归分析中因变量是随机的，而把自变量作为研究时给定的非随机变量。
n一定要始终注意把定性分析和定量分析结合起来，在定性分析的基础上开展定量分析。
四、相关表和相关图四、相关表和相关图n相关表是一种反映变量之间相关关系的统计表。
将某一变量按其取值的大小排列，然后再将与其相关的另一变量的对应值平行排列，便可得到简单的相关表。
n相关图又称散点图。
它是以直角坐标系的横轴代表变量X，纵轴代表变量Y,将两个变量间相对应的变量值用坐标点的形式描绘出来，用来反映两变量之间相关关系的图形。
根据表8-2的资料绘制的相关图如下：
图9-1消费与收入的相关图图9-1消费与收入的相关图0102030405060708090020406080100120可支配收入消费支出第二节一元线性回归分析n一、标准的一元线性回归模型n二、一元线性回归模型的估计n三、一元线性回归模型的检验n四、一元线性回归模型预测一、标准的一元线性回归模型一、标准的一元线性回归模型n
（一）总体回归函数t12tut（8.1）ut是随机误差项，又称随机干扰项，它是一个特殊的随机变量，反映未列入方程式的其他各种因素对的影响。
n
（二）样本回归函数:
，.nt称为残差，在概念上，t与总体误差项ut相互对应；是样本的容量。
tteXY21总体回归线与随机误差项总体回归线与随机误差项（t）12tXYtY。
ut样本回归函数与总体回归函数区别n总体回归线是未知的，只有一条。
样本回归线是根据样本数据拟合的，每抽取一组样本，便可以拟合一条样本回归线。
n总体回归函数中的1和2是未知的参数，表现为常数。
而样本回归函数中的是随机变量，其具体数值随所抽取的样本观测值不同而变动。
n总体回归函数中的ut是t与未知的总体回归线之间的纵向距离，它是不可直接观测的。
而样本回归函数中的t是t与样本回归线之间的纵向距离，当根据样本观测值拟合出样本回归线之后，可以计算出t的具体数值。
t21和误差项的标准假定n假定：
（ut）n假定：
Var（ut）（）n假定：
Cov（utus）（utus）n假定：
自变量是给定变量，与误差项线性无关。
n假定：
随机误差项服从正态分布。
n满足以上标准假定的一元线性回归模型，称为标准的一元线性回归模型。
2tu2二、一元线性回归模型的估计二、一元线性回归模型的估计n
（一）回归系数的估计最小二乘法设将对求偏导数，并令其等于零，可得:
加以整理后有：
n22）（tttYYeQ221）（ttXY0）（221ttXY0）（221tttXYXttYXn21ttttYXXX221回归系数的最小二乘估计量n以上方程组称为正规方程组或标准方程组，式中的是样本容量。
n求解这一方程组可得：
222）（ttttttXXnYXYXnXYnXnYtt221
（二）总体方差的估计n上式中，分母是自由度，其中是样本观测值的个数，是一元线性回归方程中回归系数的个数。
在一元线性回归模型中，残差t必须满足因而失去了两个自由度，所以其自由度为。
2的正平方根又叫做回归估计的标准误差。
S2；22nettettXe证明:
残差平方和计算ttttYXYY212n一般采用以下公式计算残差平方和：
）-（YY）-（t21tt21tt21t2XeX-e-eYeXYetttttttttttYXYYe2122（三）最小二乘估计量的性质n最小二乘估计量是随机变量。
n在标准假定能够得到满足的条件下，回归系数的最小二乘估计量的期望值等于其真值，即有：
（）1（）2n其方差为：
（）（）2122）（XXt22）（1XXXnt21估计量性质的数学证明n
（一）线性估计量将12u代入估计量，得：
=最小二乘估计量可表现为所要估计的参数的真值与随机误差项的线性组合22）（）（XXYYXXttt2）（）（XXYXXttt22）（）（XXuXXttt推导用的恒等式nnnn令）（XXt2）（XXt）（XXt）（）（YYXXttttYXX）
（2）（）（XXXXwttt最小二乘估计量期望值和方差的推导n（）2（u）2（u）（根据标准假定）2（根据标准假定）2n（）（2u）（u）2（根据标准假定、）（根据标准假定）2）（22ttUEw22tw22）（XXt2有效性证明：
有效性证明：
n设为任意无偏线性估计量，则有约束条件：
n按照与上面同样的方法，可推导出Var（）=n比较（）与Var（）的大小，有：
2ttYk1ttXk0tk222kt22nVar（）Var（）以上第二步到第三步之所以成立，是因为：
而利用前面关于线性无偏估计量的约束条件，可有：
2222tw22tk-kt22（2tw0）-（2t2wkt）wk-w（k）-w（ktttttt222222221222-tttttttw-）X-（X-）X-（X）X-（Xk-wk三、一元线性回归模型的检验三、一元线性回归模型的检验n
（一）回归模型检验的种类回归模型的检验包括理论意义检验、一级检验和二级检验。
n
（二）拟合程度的评价n总离差平方和的分解（8.28）是总离差平方和；是回归平方和；是残差平方和。
n可决系数：
2=1（8.30）n可决系数的特性SSTSSRSSTSSE（三）显著性检验n1提出假设。
n2.确定显著水平。
n3.计算回归系数的值。
=（8.36）n4.确定临界值。
n双侧检验查分布表所确定的临界值是（-2）和
（2）；单侧检验所确定的临界值是（）。
n5.做出判断。
2tiS*22四、一元线性回归模型预测四、一元线性回归模型预测n
（一）简单回归预测的基本公式：
（8.38）n回归预测是一种有条件的预测，在进行回归预测时，必须先给出f的具体数值。
内插检验或事后预测。
外推预测或事前预测。
n
（二）预测误差n发生预测误差的原因。
n预测误差ar（f）2（8.42）n（三）区间预测f的（）的置信区间为：
f2（n-2）fn回归预测的置信区间的特点。
ffXY2122）（）（11XXXXntf回归预测的置信区间回归预测的置信区间YYXffXY21第三节多元线性回归分析第三节多元线性回归分析n一、标准的多元线性回归模型n二、多元线性回归模型的估计n三、多元线性回归模型的检验和预测n四、多元线性回归预测一、标准的多元线性回归模型一、标准的多元线性回归模型n多元线性回归模型总体回归函数的一般形式（8.48）n多元线性回归模型的样本回归函数（8.49）n多元线性回归分析的标准假定除了包括上一节中已经提出的的假定外，还要追加一条假定。
这就是回归模型所包含的自变量之间不能具有较强的线性关系。
tktkttuXXY221tktktteXXY221二、多元线性回归模型的估计二、多元线性回归模型的估计n
（一）回归系数的估计n（X（XX）X）1X1XYY（8.55）n
（二）总体方差的估计n2（8.56）n（三）最小二乘估计量的性质n标准的多元线性回归模型中，高斯.马尔可夫定理同样成立。
knet2三、多元线性回归模型的检验和预测三、多元线性回归模型的检验和预测n
（一）拟合程度的评价
（一）拟合程度的评价n修正自由度的可决系数（理由）。
（8.61）
（2）（8.62）式中，是样本容量；是模型中回归系数的个数。
n修正自由度的可决系数的特点。
2R）/（）（）/（122nYYknett）（）（knn12R
（二）显著性检验n1回归系数的显著性检验j=1,2,k（8.63）式中，S是的标准差的估计值。
按下式计算：
n（8.64）n式中，是（X（XX）X）-1的第个对角线元素，2是随机误差项方差的估计值。
（8.63）式的统计量的原假设是0：
j，因此的绝对值越大表明j为的可能性越小，即表明相应的自变量对因变量的影响是显著的。
jSjjjS2jjjjj2回归方程的显著性检验n具体的方法步骤n回归模型方差分析表n（3）统计量离差名称平方和自由度方差回归平方和SSR=k-1SSR/（k-1）残差平方和SSE=n-kSSE/（n-k）总离差平方和SST=2）YYt
（2）YYt（2tek）/（n-ESS1）/（k-RSS四、多元线性回归预测四、多元线性回归预测n基本公式：
n（8.66）式中，Xjf（j=2,3,k）是给定的Xj在预测期的具体数值；是已估计出的样本回归系数；是Xj给定时的预测值。
kfkffXXY221jfY第四节非线性回归分析第四节非线性回归分析n一、非线性回归分析的意义一、非线性回归分析的意义n二、非线性函数形式的确定二、非线性函数形式的确定n确定函数形式的原则n实际分析中较常用的几种非线性函数的特点三、非线性回归模型的估计三、非线性回归模型的估计n几种线性变换方法n实际应用时要注意：
第一、比较复杂的非线性函数，需综合利用上述的几种方法。
第二、变换得到的方程式中的变量不允许包含未知的参数。
第三、当变换后的新模型中包含的误差项能够满足标准假定时，新模型中回归系数最小二乘估计量的理想性质才能成立。
第四、严格地说，线性变换方法只是适用于变量为非线性的函数。
第五、并不是所有的非线性函数都可以通过变换得到与原方程完全等价的线性方程。
第五节相关分析第五节相关分析n一、单相关系数及其检验n二、等级相关系数及其检验n四、复相关系数和偏相关系数n六、相关指数一、单相关系数及其检验一、单相关系数及其检验n
（一）相关系数的定义（8.86）n样本相关系数的定义还可从另一个角度给出。
设倚和倚的样本回归方程为：
（8.87）（8.88）22）（）（）（YYXXYYXXttttttXY21ttYX21样本相关系数可定义为样本回归系数的乘积的开方，即:
（8.89）上式中的符号应与回归系数的符号一致。
n
（二）相关系数与可决系数n简单线性回归模型中相关系数的平方等于可决系数2。
n样本相关系数的特点：
n（三）单相关系数的检验22二、等级相关系数及其检验二、等级相关系数及其检验n
（一）等级相关系数的定义和计算s=（8.92）n式中，和分别是两个变量按大小（或优劣）排位的等级，n是样本的容量。
n推导推导n通常的单相关系数为：
si=1,2,n（9.121）1（6122nndi）（iiiyxdixiy22）（）（）（yyxxyyxxiiii注意到和是等级变量，其可能的取值范围均为：
1，2，3，n。
利用有关数列求和的公式可得：
n（9.122）n（9.123）（9.124）（9.125）ixiy2/）1（/）2/）1（/nnnnnxxi2/）1（/）2/）1（/nnnnnyyiyx222）（xnxxxii22）1（6）12）（1（nnnnn12）1（2nn12）1（）（22nnyyi=n=n整理后，可得:
n（9.126）将（9.124）、（9.125）和（9.126）式代入（9.121）式，便可导出等级相关系数的计算公式（9.120）式。
n
（二）等级相关系数检验222）（）（）（yyxxyxdiiiiiyx）
（2）（）（22yyxxyyxxiiii）（212）1（12）1（22yyxxnnnnii26）1（）（22iiidnnyyxx四、复相关系数和偏相关系数四、复相关系数和偏相关系数n
（一）复相关系数（8.94）实际计算复相关系数时，一般是先计算出可决系数，然后再求可决系数的平方根。
复相关系数只取正值。
n
（二）偏相关系数计算偏相关系数时，需要掌握多个变量的数据，一方面考虑多个变量之间可能产生的影响，一方面又用一定的方法控制其他变量，专门考察两个特定变量的净相关关系。
偏相关系数与单相关系数数值上可能相差很大，甚至符号都可能相反。
22）（）（）（YYYYYYYYtttt（三）样本偏相关系数的定义n偏相关系数等于两个相应偏回归系数的几何平均数。
设有个变量X1、X2和X3。
个变量各自以另两个变量为自变量拟合的样本回归方程如下n个变量之间的偏相关系数可定义如下：
tttXXX21.3212.3112.33tttXXX32.1323.1223.11tttXXX31.2313.2113.221.321.231.23r2.312.132.13r3.213.123.12r六、相关指数六、相关指数n相关指数，也就是对非线性回归模型进行拟合时所得到的可决系数。
对相关指数进行显著性检验的方法与对复相关系数进行检验的方法类似。
升级会员 