完整版概率论与数理统计知识点总结.docx
《完整版概率论与数理统计知识点总结.docx》由会员分享,可在线阅读,更多相关《完整版概率论与数理统计知识点总结.docx(24页珍藏版)》请在冰点文库上搜索。
完整版概率论与数理统计知识点总结
第1章随机事件及其概率
(1)随
如果一个试验在相同条件下可以重复进行,而每次试验的可能结果
机试验
不止个,但在进行次试验之前却不能断言它出现哪个结果,则
和随机
称这种试验为随机试验。
事件
试验的可能结果称为随机事件。
在一个试验下,不管事件有多少个,总可以从其中找出这样一组事
件,它具有如下性质:
①每进行次试验,必须发生且只能发生这组中的个事件;
(2)基
②任何事件,都是由这一组中的部分事件组成的。
本事
这样组事件中的每个事件称为基本事件,用来表示。
件、样
基本事件的全体,称为试验的样本空间,用表示。
本空间
一个事件就是由中的部分点(基本事件)组成的集合。
通常用大
和事件
写字母A,B,C,…表示事件,它们是的子集。
为必然事件,?
为不可能事件。
不可能事件(?
)的概率为零,而概率为零的事件不一定是不可能事件;同理,必然事件(Q)的概率为1,而概率为1的事件也不一定是必然事件。
①关系:
(3)事
如果事件A的组成部分也是事件B的组成部分,(A发生必有事件B
件的关
发生):
AB
系与运
如果同时有AB,BA,则称事件A与事件B等价,或称A等于
算
B:
A=B。
A、B中至少有一个发生的事件:
AB,或者A+B。
属于A而不属于B的部分所构成的事件,称为A与B的差,记为A-B,也可表示为A-AB或者ab,它表示A发生而B不发生的事件。
A、B冋时发生:
AB,或者AB。
AB=?
,则表示A与B不可能同时发生,称事件A与事件B互不相容或者互斥。
基本事件是互不相容的。
-A称为事件A的逆事件,或称A的对立事件,记为A。
它表示
A不发生的事件。
互斥未必对立。
②运算:
结合率:
A(BC)=(AB)CAU(BUC)=(AUB)UC
分配率:
(AB)UC=(AUC)n(BUC)(AUB)AC=(AC)U(BC)
Ai入
德摩根率:
i1i1ABAB,ABAB
(4)概率的公理化定义
设为样本空间,A为事件,对每一个事件A都有一个实数P(A),若满足下列三个条件:
1°0WP(A)<1,
2°P(Q)=1
3。
对于两两互不相容的事件A1,A2,…有
PAiP(Ai)
i1i1
则称P(A)为事件A的概率。
(5)古
典概型
1°1,2n,
2°P
(1)P
(2)P(n)-o
n
设任一事件A,它是由1,2m组成的,则有
P(A)=
(1)
(2)(m)=P
(1)P
(2)P(m)
mA所包含的基本事件数
n基本事件总数
(6)几
何概型
若随机试验的结果为无限不可数并且每个结果出现的可能性均匀,同时样本空间中的每一个基本事件可以使用一个有界区域来描述,则称此随机试验为几何概型。
对任一事件A,
p(a)L(A)。
其中L为几何度量(长度、面积、体积)。
L()
(7)加
法公式
P(A+B)=P(A)+P(B)-P(AB)
当AB不相容P(AB)=0时,P(A+B)=P(A)+P(B)
当AB独立,P(AB)=P(A)P(B),P(A+B)=P(A)+P(B)-P(A)P(B)
(8)减
法公式
P(A-B)=P(A)-P(AB)
当BA时,P(A-B)=P(A)-P(B)
当A=Q时,P(B)=1-P(B)
(9)条
件概率
定义设A、B是两个事件,且P(A)>0,则称罟导为事件A发生
P(A)
条件下,事件B发生的条件概率,记为P(B/A)学字。
P(A)
条件概率是概率的一种,所有概率的性质都适合于条件概率。
例如P(Q/B)=1P(B/A)=1-P(B/A)
(10)
乘法公
式
乘法公式:
P(AB)P(A)P(B/A)
更一般地,对事件A1,A2,…An,若P(A1A2…An-1)>0,则有
P(A1A2…An)P(A1)P(A21A1)P(A3|A1A2)P(An|A1A2…An1)
(11)
独立性
①两个事件的独立性
设事件A、B满足P(AB)P(A)P(B),则称事件A、B是相互独立的。
若事件A、B相互独立,且P(A)0,则有
P(AB)P(A)P(B)
P(B|A)二人、DAP(B)
P(A)P(A)
若事件A、B相互独立,则可得到A与B、A与B、A与B也都相互独立。
必然事件和不可能事件?
与任何事件都相互独立。
?
与任何事件都互斥。
②多个事件的独立性
设ABC是三个事件,如果满足两两独立的条件,
P(AB)=P(A)P(B);P(BC)=P(B)P(C);P(CA)=P(C)P(A)并且同时满足P(ABC)=P(A)P(B)P(C)
那么A、B、C相互独立。
对于n个事件类似。
(12)
全概公
式
设事件Bl,B2,,Bn满足
1°B1,B2,,Bn两两互不相容,P®)0(11,2,,n),
n
ABi
2°i1,
则有
P(A)P(B1)P(A|B1)P(B2)P(A|B2)P(Bn)P(A|Bn)。
全概率公式解决的是多个原因造成的结果问题,全概率公式的题型:
将试验可看成分为两步做,如果要求第二步某事件的概率,就用全
概率公式;
(13)
贝叶斯
公式
设事件B1,B2,…,Bn及A满足
1°B1,B2,…,Bn两两互不相容,P(Bi)>0,i1,2,…,n,
n
ABi
2°i1P(A)0
J55
则
P(Bi/A)nP(Bi)P(A/Bi),i=1,2,…n。
P(Bj)P(A/Bj)
j1
此公式即为贝叶斯公式。
P(Bi),(i1,2,…,n),通常叫先验概率。
P(Bi/A),(i1,2,…,n),通常称为后验概率。
贝叶斯公式反映了“因果”的概率规律,并作出了“由
在第二步某事件发生条件下第一步某事件的概率,就用贝叶斯公式
我们作了n次试验,且满足
每次试验只有两种可能结果,A发生或A不发生;
n次试验是重复进行的,即A发生的概率每次均一样;
(14)
伯努利
概型
每次试验是独立的,即每次试验A发生与否与其他次试验A发生与否是互不影响的。
这种试验称为伯努利概型,或称为n重伯努利试验。
用P表示每次试验A发生的概率,则A发生的概率为1pq,用Pn(k)
表示n重伯努利试验中A出现k(0kn)次的概率,
Pn(k)C:
Pkqnkk0,1,2,,n
5
第二章随机变量及其分布
(1)设离散型随机变量X的可能取值为Xk(k=1,2,…)且取各个值的概率,
即事件(X=Xk)的概率为P(X=xk)=pk,k=1,2,…,
则称上式为离散型随机变量X的概率分布或分布律。
有时也用分布列的形式给出:
X|x1,x2,,xk,
P(Xxk)p1,p2,,pk,。
显然分布律应满足下列条件:
pk1
(1)宀0,k1,2,,
(2)k1
(2)设F(x)是随机变量X的分布函数,若存在非负函数f(x),对任意实数
X,有
X
F(x)f(x)dx
则称X为连续型随机变量。
f(X)称为X的概率密度函数或密度函数,简称概率密度。
密度函数具有下面4个性质:
分布仁f(x)0
3、P(XiXX2)F(X2)F(xJf(x)dx
Xi
4、P(x=a)=O,a为常数,连续型随机变量取个别值的概率为0
(3)
设X
为随机变量,x是任意实数,则函数
分布
F(x)
P(Xx)
函数
称为随机变量X的分布函数,本质上是一个累积函数。
P(a
Xb)F(b)F(a)可以得到X落入区间(a,b]的概率。
分布函
数F(x)表示随机变量落入区间(-^,X]内的概率。
分布函数具有如下性质:
1°
0F(x)1,x;
2°
F(x)是单调不减的函数,即刃X2时,有F(x1)F(x2);
3°
F()limF(x)0,F()limF(x)1-
X7X7
4°
F(x0)F(x),即F(x)是右连续的;
5°
P(Xx)F(x)F(x0)。
对于离散型随机变量,F(x)Pk;
XkX
X
对于连续型随机变量,F(x)f(x)dx。
(4)
0-1分
P(X=1)=p,P(X=0)=q
六大
布
分布
二项分
在n重贝努里试验中,设事件A发生的概率为p。
事件A发生
布
的次数是随机变量,设为X,则X可能取值为0,1,2,,n。
P(Xk)Pn(k)C:
pkqnk,其中q1p,0p1,k0,1,2,,n,
则称随机变量X服从参数为n,p的二项分布。
记为
X~B(n,p)。
当n1时,P(Xk)pkq1k,k0.1,这就是(0-1)分布,所
以(0-1)分布是二项分布的特例。
泊松分
布
设随机变量X的分布律为
k
P(Xk)—e,0,k0,1,2,
k!
则称随机变量X服从参数为的泊松分布,记为X~()或者
P()。
泊松分布为二项分布的极限分布(np=入,nfg)。
均匀分
布
设随机变量X的值只落在[a,b]内,其密度函数f(x)在[a,
i
b]上为常数一,即
ba
1af(x)0:
其他,
则称随机变量X在[a,b]上服从均匀分布,记为X~U(a,
b)o
分布函数为
0,xxa
J
x
F(x)f(x)dx'
1,x>bo
当aWX1VX2wb时,X落在区间(x1,x2)内的概率为
x2x1
P(X1XX2)———1o
ba
指数分
布
x
4e,x0
f(x)门
L0,x0,
其中0,则称随机变量X服从参数为的指数分布。
正态分
布
设随机变量X的密度函数为
(x)2
f(x)
i
-^e2,x,
J2
其中、
0为常数,则称随机变量X服从参数为、的
・、、…一八,、.―、夕M/2\
止态分布或咼斯(Gauss)分布,记为X~N(,丿。
f(x)具有如下性质:
1°f(x)的图形是关于X对称的;
2°当x
时,f()为最大值;
22
若X~N(
)亠X的分布函数为
F(x)21
xe(吃2)2dt
参数
0、1时的正态分布称为标准正态分布,记为
x~N(0,1)1,其x密度函数记为
(x)-
尹x
分布函数为x,2
(x)近
—e2dto
(X)是不可求积函数,其函数值,已编制成表可供查用。
①(-X)=
1-①(x)且①(0)=-o
如果x~
X2
N(,2),则N(0,1)o
P(x1X
、X2X1
X2)o
(6)
下分位表:
P(x
)=;
分位
上分位表:
P(x
)=o
数
(7)
离散型
已知X的分布列为
X
X1,X2,,Xn,
函数
P(X
Xi)P1,P2,,Pn,'
Yg(X)
的分布列(yig(Xi)互不相等)如卜:
的分
Y
g(x1),g(x2),,g(xn),
布函
p(yyi)
若有某些
!
g(Xi)相等,则应将对应的Pi相加作为g(Xi)的概率。
数
连续型
先利用
X的概率密度fx(x)写出Y的分布函数FY(y)=
P(g(x)=
Cv),再利用变上下限积分的求导公式求出fY(y)o
第三章二维随机变量及其分布
(1)联离散型
合分布
如果二维随机向量(X,Y)的所有可能取值为至多可列个有序对(x,y),则称为离散型随机量。
设=(X,Y)的所有可能取值为(人『)(门1,2,),且事件{=(Xi,yj)}的概率为pij,,称
P{(X,Y)(Xi,yj)}Pj(i,j1,2,)
为=(X,Y)的分布律或称为X和Y的联合分布律。
联合分布有时也用下面的概率分布表来表示:
y
y
・・・
yj
・・・
X1
P11
P12
・・・
P1j
・・・
X2
P21
P22
・・・
P2j
・・・
Xi
pi1
・・・
Pj
・・・
这里pij具有下面两个性质:
连续型
对于二维随机向量(X,Y),如果存在非负函数
f(x,y)(x,y),使对任意一个其邻边分别平
行于坐标轴的矩形区域D,即D={(X,Y)|aP{(X,Y)D}f(x,y)dxdy,
D
则称为连续型随机向量;并称f(x,y)为=(X,Y)的分布密度或称为X和Y的联合分布密度。
分布密度f(x,y)具有下面两个性质:
(1)f(x,y)>0;
(2)f(x,y)dxdy1.
2联合
设(X,Y)为一维随机变量,对于任意实数x,y,一元函数
分布函
F(x,y)P{Xx,Yy}
数
称为二维随机向量(X,Y)的分布函数,或称为随机变量X和Y
的联合分布函数。
分布函数是一个以全平面为其定义域,以事件
{(1,2)|X
(1)x,Y
(2)y}的概率为函数值的一个实值函数。
分布函数F(x,y)具有以下的基本性质:
(1)0F(x,y)1;
(2)F(x,y)分别对x和y是非减的,即
当X2>X1时,有F(X2,y)>F(x1,y);当y2>y1时,有F(x,y2)>F(x,y1);
(3)F(x,y)分别对x和y是右连续的,即
F(x,y)F(x0,y),F(x,y)F(x,y0);
(4)F(,)F(,y)F(x,)0,F(,)1.
(5)对于花X2,y1y2,
P(x13边缘
离散型X的边缘分布为
分布
R?
P(XXi)Pj(i,j1,2,);
j
Y的边缘分布为
P?
jP(Yyj)Pj(i,j1,2,)o
i
连续型
X的边缘分布密度为
fx(x)f(x,y)dy;
Y的边缘分布密度为
fy(y)f(x,y)dx.
4条件
分布
离散型
在已知X=xi的条件下,Y取值的条件分布为
Pj
P(Yyj|Xxj_L;
Pi?
在已知Y=yj的条件下,X取值的条件分布为
Pij
P(XXi|Yyj)」,
P?
j
连续型
在已知Y=y的条件下,X的条件分布密度为
f(x,y)f(x|y)「”;
fY(y),
在已知X=x的条件下,Y的条件分布密度为
f(x,y)f(y|x)''"
fx(x)
5独立
性
一般型
F(X,Y)=Fx(x)FY(y)
离散型
PijPi?
P?
j
有零不独立
连续型
f(x,y)=fX(x)fY(y)
直接判断,充要条件:
1可分离变量
2正概率密度区间为矩形
二维正
态分布
22
1X12(x!
)(y2)y2
12(1—1122
f(x,y)e,
212芒2
=0
随机变量的函数
若X1,X2,…Xm,Xm+1,…Xn相互独立,h,g为连续函数,则:
h(X1,X2,…Xm)和g(Xm+1,…Xn)相互独立。
特例:
若X与Y独立,贝y:
h(X)和g(Y)独立。
例如:
若X与Y独立,贝V:
3X+1和5Y-2独立。
6二维
均匀分
布
设随机向量(X,Y)的分布密度函数为
:
(x,y)D
Sd
f(x,y)
o,其他
其中Sd为区域D的面积,则称(X,Y)服从D上的均匀分布,记为(X,Y)〜U(D)。
图3.2
7正态
设随机向量(X,Y)的分布密度函数为
分布
22
1X12(xi)(y2)y2
12(12)1122
f(x,y)—
——e,
2
12屮
其中1,2,
10,20,||1是5个参数,则称(X,Y)服从二维正
态分布,
记为(X,
Y)〜N(1,2,12,2,).
由边缘密度的计算公式,可以推出二维正态分布的两个边缘分布仍
为正态分布,
即X〜N
(1,2),Y~N(2,;).
但是若X〜
-N(1,12),y~N(2,;),(X,Y)未必是二维正态分布。
8函数
Z=X+Y
根据定义计算:
Fz(z)P(Zz)P(XYz)
的分布
对于连续型,fz(Z)=f(x,zx)dx
两个独立的正态分布的和仍为正态分布(12,121)。
n个相互独立的正态分布的线性组合,仍服从正态分布。
Cii2c22
2ii'2ii
ii
Z=max
若X1,X2Xn相互独立,其分布函数分别为
min(Xi
Fx。
),Fx2(x)Fxn(x),贝yZ=max,min(X1,X2,…Xn)的分布
X2,…
函数为:
Xn)
Fmax(x)FxJx)?
Fx2(x)Fxn(x)
Fmin(X)1[1Fx1(X)]?
[1FxJx)][1F^X)]
第四章随机变量的数字特征
(1)一
离散型
连续型
维随机
期望
设X是离散型随机
设X是连续型随机变量,其概率密
变量的
期望就是
变量,其分布律为
度为f(x),
数字特
平均值
P(XXk)=pk,
E(X)xf(x)dx
征
k=1,2,…,n,
n
E(X)XkPk
k1
(要求绝对收敛)
(要求绝对收敛)
函数的期
Y=g(x)
Y=g(x)
望
n
E(Y)g(Xk)Pk
k1
E(Y)g(x)f(x)dx
方差
D(X)=E[
X-E(X)]2
标准差
2
D(X)[XkE(X)]pi
k
D(X)[xE(X)]2f(x)dx
(X)Jd(x)
(2)期
(1)E(C)=C
望的性
(2)E(CX)=CE(X)
质
(3)E(X+Y)=E(X)+E(Y)
nn
E(CiXi)CiE(Xi)
i1i1
(4)E(XY)=E(X)E(Y),充分条件:
X和Y独立;
充要条件:
X和Y不相关。
(3)方
(1)
D(C)=O;
E(C)=C
差的性
(2)
D(aX)=a2I
D(X);
E(aX)=aE(X)
质
(3)
D(aX+b)=a
2D(X)
E(aX+b)=aE(X)+b
(4)
D(X)=E(X
2)-e2(X)
(5)
D(X土Y)=D(X)+D(Y)
,充分条件:
X和Y独立;
充要条件:
X和Y不相关。
D(X±Y)=D(X)+D(Y)
±2E[(X-E(X))(Y-E(Y))],无条件
成立。
而E(X+Y)
=E(X)+E(Y)
,无条件成立。
期望
方差
B(1,P)
P
P(1p)
B(n,P)
np
np(1P)
泊松
分布
P()
(4)常
U(a,b)
ab
2
(ba)2
12
见分布
指数
1
丄
2
的期望
分布
和方差
e()
2
N(,)
2
(5)二
维随机
变量的
期望
n
E(X)Xi口?
i1
n
E(Y)yjp?
j
ji
E(X)xfx(x)dx
E(Y)yfY(y)dy
数字特
函数
E[G(X,Y)]=
E[G(X,Y)]=
征
的期
G(Xi,yj)Pj
ij
G(x,y)f(x,y)dxdy
望
方差
2
D(X)[XiE(X)]Pi?
方
i
D(X)[xE(X)]2fx(x)dx
D(Y)[XjE(Y)]2p?
j
j
D(Y)[yE(Y)]2fY(y)dy
协方
对于随机变量X与Y
,称它们的二阶混合中心矩11为X与
差
Y的协方差或相关矩,记为xy或cov(x,Y),即
xyiiE[(XE(X))(YE(Y))].
>~i——hr~“、匚y、k>z.__/.“、r,__”.八\zx
与记号XY相对应,X
与Y的方差D(X)与D(Y)也可分
别记为XX与YY。
相关
系数
对于随机变量X与Y,如果D(X)>0,D(Y)>0,则称
XY
e(x)/D(Y)
为X与Y的相关系数,记作XY(有时可简记为)。
||<1,当|1=1时,称X与Y完全相关:
P(XaYb)1
宀厶炯辛正相关,当1时@0),
完全相关负相关,当1时(a0),
而当0时,称X与Y不相关。
以下五个命题是等价的:
1XY0;
2cov(X,Y)