数理统计复习总结西北工业大学.docx

数理统计复习总结西北工业大学.docx

《数理统计复习总结西北工业大学.docx》由会员分享，可在线阅读，更多相关《数理统计复习总结西北工业大学.docx（22页珍藏版）》请在冰点文库上搜索。

数理统计复习总结西北工业大学

1统计量与抽样分布

1.1基本概念：

统计量、样本矩、经验分布函数

样本均值X

n

样本k阶原点矩Ak丄X',（k1,2,...）

ni1

n

样本k阶中心矩Bk丄（XiX）k,（k1,2,...）

ni1

经验分布函数Fn（x）Vn（X）,（x）其中Vn（x）表示随机事件{Xx}出现的次

n

1

数，显然y（x）~B（n,F（x）），则有E[Fn（x）]F（x）D[Fn（x）]F（x）[1F（x）]

n

补充：

2n1*222

ES：

DXESnDXEX2DX（EX）2

n

二项分布B（n,p）:

P{X

k}C：

pk（1p）nk,（k0,1,...,n）

EX=npDX=np（1-p）

k

泊松分布P（）：

P{Xk}e,（k0,1,...）k!

EXDX

1

均匀分布U（a,b）：

f（x）,（axb）

ba

EXa^bDX丄（ba）2

212

EX-DX1

1.2统计量：

充分统计量、因子分解定理、完备统计量、指数型分布族（不重要）

T是B的充分统计量f（X1,X2,...xTt）与B无关

T是B的完备统计量要使E[g（T）]=0,必有g（T）=0

n

L（）f（Xi；）h（X1,X2，…，Xn）g（T（X1,X2，…，Xn）;）且h非负T是B的充分统计量

i1

n

f（Xi;）C（）exo{b（）T（X1,X2，…,Xn）}h（X1,X2，…,Xn）T是B的充分完备统计量

i1

nf（Xi;）C（）exp{bi（）「（X1,X2，…，Xn）b2（）T2（X1,X2,...,Xn）}h（X1,X2,...,Xn）

i1

（T1,T2）是（1,2）的充分完备统计量

1.3抽样分布：

2分布，t分布，F分布，分位数，正态总体样本均值和方差的分

布，非正态总体样本均值的分布

2n

ni

F分布：

F丫一1~F（n「n2）—F（n2,nJ

n2

补充：

Z=X+Y的概率密度fz（z）f（x,zx）dxf（zy,y）dyf（x,y）是X和Y的联合

概率密度

Z—的概率密度fz（z）f（x,xz）xdx

X

yg（x）的概率密度fy（y）fx（g1（y））[g1（y）]'

函数：

（）0xxdx

（1）（）（n）（n1）!

（1）1

B函数：

B（,）0x1（1x）1dxB（,）（（）（））

1.4次序统计量及其分布：

次序统计量、样本中位数X、样本极差R

X（k）的分布密度：

f稣（x）砂[F（x）]k1[1F（x）]nkf（x）,（k1,2,...,n）

x（k）（k1）!

（nk）!

X

（1）的分布密度：

％（刈nf（x）[1F（x）]n1

X（n）的分布密度：

fX（n）（x）nf（x）[F（x）]n1

2参数估计

2.1点估计与优良性：

概念、无偏估计、均方误差准则、相合估计（一致估计）、渐

近正态估计

$的均方误差：

MSE（$,）E（$）2D$（E$）2

若$是无偏估计，则MSE（$,）D$

对于的任意一个无偏估计量$，有D$*D$，则$*是的最小方差无偏估计，记

MVUE

相合估计（一致估计）：

limEnlimD$n0

nn

2.2点估计量的求法：

矩估计法、最大似然估计法

矩估计法：

1求出总体的k阶原点矩：

akEXkxkdF（x;1,2,…，m）

n

2解方程组ak-Xik（k=1,2,...,m）,得$k$k（Xi，X2,…,Xn）即为所求

ni1

最大似然估计法：

1写出似然函数L（）°f（Xi；），求出lnL及似然方程宜0i=1,2,…,m

i1i$

2解似然方程得到$心沁,...,焉），即最大似然估计$i（Xi,X2,…,Xn）i=1,2,…,m

补充：

似然方程无解时，求出的定义域中使得似然函数最大的值，即为最大似然估计

2.3MVUE和有效估计：

最小方差无偏估计、有效估计

T是的充分完备统计量，$是的一个无偏估计$*E（$|T）为的惟一的

MVUE

最小方差无偏估计的求解步骤：

1求出参数的充分完备统计量T

2求出ETg（），则$g1（T）是的一个无偏估计

或求出一个无偏估计，然后改写成用T表示的函数

3综合，E[g1（T）T]g1（T）是的MVUE

或者：

求出的矩估计或ML估计，再求效率，为1则必为MVUE

T是g（）的一个无偏估计，则满足信息不等式D[T（x）]常^，其中

I（）Elnf（X；）

或I（）Elnf（2X;）0，f（X;）为样本的联合分布

最小方差无偏估计

达到罗-克拉姆下界有效估计量效率为1

无偏估计$的效率:

e（$）ni]）

D$

$是的最大似然估计，且$是的充分统计量

$是的有效估计

2.4区间估计：

概念、正态总体区间估计（期望、

方差、均值差、方差比）及单侧估

计、非正态总体参数和区间估计

一个总体的情况：

X~N（,

2）

2已知,

的置信区间:

X

0十（O,1）

2未知,

的置信区间:

已知,

2的置信区间:

x

X*-~t（n1）

S.・n

n

（Xi）2

i1

（n）

未知,

2的置信区间:

n

（XiX）2

i1

2

2（n1）

n

（Xi

i1

~^（n1）

2

X）2

两个总体的情况:

X~N（1,

12），

Y~N（

2,

I）

Ft（n

-ni

（Xi）2

i1

""2（n）

2

（XiX）2

i1

；_（n1）

2

1）

n

（Xi）2

i1

（n）

2

X「2）~n（0,1）

12

2

—2un22

ni

2未知时，求1

2的区间估计:

XY（12）

n-in2（n-in22）

（n11）S1n1

未知时，求

*22

S2n21

*22

S1n12

（n2

2

1

~2

2

1）S*'Jn1n2

~F（n21,n-

1）

*2

S1n1

S2n2

F1（n

12

~t（m

n22）

1,n-

1）

2

1

"2

2

*2

S1n1

hF（n21,n11）

S2n22

非正态总体的区间估计:

当n时，/_LN（0,1）

Sn/亦

lnimS.

1,故用Sn代替Sn-1

~N（0,1）

1mm

——1

nnn

3统计决策与贝叶斯估计

3.1统计决策的基本概念：

三要素、统计决策函数及风险函数

三要素：

样本空间和分布族、行动空间（判决空间）、损失函数L（,d）

统计决策函数d（X）:

本质上是一个统计量，可用来估计未知参数

风险函数：

R（,d）E[L（,d（X））]是关于的函数

3.2贝叶斯估计：

先验分布与后验分布、贝叶斯风险、贝叶斯估计

n

1求样本X=（X1,X2,...,Xn）的分布：

q（x|）f（Xi|）

i1

2样本X与的联合概率分布：

f（x,）h（|x）m（x）q（x|）（）

3求f（x,）关于x的边缘密度m（x）f（x,）d

的后验密度为:

h（|x）

f（x,）

m（x）

取L（,d）（d）2时

的贝叶斯估计为：

$E（|x）h（|x）d

R（,d）E（d）2

贝叶斯风险为：

RB（d）E[R（,d）]E（d）2h（|x）d

取L（,d）（）（d）2时，贝叶斯估计为：

$」）凶

E[（）|x]

补充：

C（）的贝叶斯估计：

取损失函数L（,d）（C（）d）2，则贝叶斯估计为

C（）E[C（）|x]C（）h（|x）d

f（x,）d

$E（|x）h（|x）df（x,）d

m（x）f（x,）d

3.3minimax估计

对决策空间中的决策函数d1（X）,d2（X），…，分别求出在上的最大风险值maxR（,d）在所有的最大风险值中选取相对最小值，此值对应的决策函数就是最小最大决策函数。

4假设检验

4.1基本概念：

零假设（Ho）与备选假设（H1）、检验规则、两类错误、势函数零假设通常受到保护，而备选假设是当零假设被拒绝后才能被接受。

检验规则：

构造一个统计量T（X1,X2，…,X3），当Ho服从某一分布，当Ho不成立时，T的偏大偏小特征。

据此，构造拒绝域W

第一类错误（弃真错误）：

P{TW|H。

为真}

第二类错误（存伪错误）：

P{TW|H。

为假}

势函数：

（）E（（X））P{XW}（X）0,；W

当0时，（）为犯第一类错误的概率

当1时，1（）为犯第二类错误的概率

4.2正态总体均值与方差的假设检验:

t检验、X2检验、

F检验、单边检验

一个总体的情况:

X~N（

2）

2已知，检验H0：

Hi:

2未知，检验H°:

Hi:

X丽?

n~t（ni）

已知，检验Ho：

Hi：

n

2

（Xi）

ii

2

2（n）

未知，检验H0：

Hi：

n

（XiX）2

ii

2

2（ni）

两个总体的情况:

X~N（

i，i2），

Y~N（

2,

I）

2未知时，检验H0：

i

2Hi:

i

XY

i）S

*2

nii）Sini（n2

*2

ln2

曲2®n22）~t（nin22）

ni

n2

2未知时，检验H。

:

2Hi：

i2

*2

Sini

—F（nii,n2

S2n2

i）

单边检验：

举例说明,

2已知，检验

H。

:

Hi:

构造Ui

N（0,i），给定显著性水平

，有P{Uiu

}。

当Ho成立

时Ui

def

0飞一。

一；U，因此P{UU

}P{Uiu}

。

故拒绝域为

W{U

4.3非参数假设检验方法:

2拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检

2拟合优度检验：

Ho:

pPio

Hi:

Pi

Pi0

2

（Ninpe）

nPio

2

（mr1）}

{limsup

nx

其中M表示样本中取值为i的个数，r表示分布中未知参数的个数

科尔莫戈罗夫检验：

Ho：

F（x）Fo（x）H1：

F（x）Fo（x）实际检验的是&（x）F°（x）

W

Fn（X）

Fo（x）Dn,}

斯米尔诺夫检验:

Ho：

F（x）

G（X）

Hi：

F（x）G（x）实际检验的是Fn（x）Gn（x）

{limsup

Fni（x）

Gn2（X）Dm,n2,}

4.4似然比检验

明确零假设和备选假设：

Ho：

构造似然比:

I（xx）SUpL（X「…，Xn；）

L1（x17...^冷丿

Lo（X1,…，Xn）SUpL（x,,…，Xn；）

0

拒绝域：

W{（X1,…,Xn）}

5方差分析

5.1单因素方差分析：

数学模型、离差平方和分解、显著性检验、参数估计

数学模型

ijiij

ij~N（0,）,（i=1,2,...,m;j=1,2,...,ni）

各耳相互独立

H0：

12...n

mt

总离差平方和Qt（XijX）2QtQeQa

i1j1

组内离差平方和Qe

mni

（Xij

i1j1

Xi）2

E（

Qe

当Ho成立时，E（d）

r1

m

组间离差平方和Qani（XiX）2

i1

构造统计量F

Qa-

（r1）Q

Qe

（n

A〜F（r

Qe

r）

1,nr），当H0不成立时，有偏大特征

XiXk~N（i

n;）2）且

2（nr）

TXi

（i

丄）Qe

ni氐

k）~t（nr）

应用:

若原始数据比较大而且集中,

可减去同一数值

XjXjk再解题

mn

辅助量：

P丄（Xij）2,Q

ni1j1

Xij）2,R

i1nj1

ni

x2

ij

j1

QaQP,QeR

Q,QtRP

5.2两因素方差分析:

数学模型、离差平方和分解、显著性检验

Xji

数学模型ij~N（0,2）

各j相互独立

ijH

（i=1,2,...,r;j=1,2,…,s）u01：

H02:

总离差平方和Qt

（Xij

j1

X）2Qt

QeQbQa

组内离差平方和Qe

mni

（Xij

i1j1

Xi?

X?

j

Xi）2

Qe

E（（r1）（s1）

因素B引起的离差平方和

Qb

s

r（Xj

j1

X）2

当Ho成立时，

E（^）2

s1

因素A引起的离差平方和

Qa

X）2

当Ho成立时，

E

rs

辅助量：

P-

rs

Xijni1j1

Qi

s

X

ij

j1

2

QII

r

X

ij

i1

2

RXj

i1j1

Fa

构造统计量：

Fb

Qa（r1）

Qe（r1）（s1）

Qb（s1）QA

Qe（r1）（S1）=

QA~F（r1,（r

Qe

Qe~f…

1）（S1））

1）（S1））

6回归分析

布（BaYO（T2厂2）

YXi

回归模型：

i~N（0,2）i=1,2,...,n.

i相互独立

*2

EU

6.2多元线性回归：

回归模型、参数估计、分布

YXii

回归模型：

i~N（0,2In）i=1,2,…,n.

各i相互独立

参数估计：

XtY（XtX）卩卩（XTX）1xty

7多元分析初步

7.1定义及性质：

定义、性质

X~Np（,）其中为X的均值向量,

为X的协方差矩阵

Y二CX+b，贝SY~Np（Cb,CCT）

def

若||0,刚（X）1（X）〜2（p）

7.2参数的估计与假设检验：

卩、艺的估计、正态总体均值向量的假设检验

nn__

样本均值向量X-Xi样本离差阵S（XkX）（XkX）T

niiki

最大似然估计卩X$S

n

最小方差无偏估计卩X$為

一-n1

X~N（，-）SYYT

nii

n（Xo）T-（Xo）~2（p）

T1_

p（mn）（mn2）（X丫）S（X丫）