完整版概率论与数理统计知识点总结可编辑修改word版.docx
《完整版概率论与数理统计知识点总结可编辑修改word版.docx》由会员分享,可在线阅读,更多相关《完整版概率论与数理统计知识点总结可编辑修改word版.docx(25页珍藏版)》请在冰点文库上搜索。
完整版概率论与数理统计知识点总结可编辑修改word版
第1章随机事件及其概率
(1)随
如果一个试验在相同条件下可以重复进行,而每次试验的可能结果
机试验
不止一个,但在进行一次试验之前却不能断言它出现哪个结果,则
和随机
称这种试验为随机试验。
事件
试验的可能结果称为随机事件。
在一个试验下,不管事件有多少个,总可以从其中找出这样一组事
件,它具有如下性质:
①每进行一次试验,必须发生且只能发生这一组中的一个事件;
(2)基
②任何事件,都是由这一组中的部分事件组成的。
本事
这样一组事件中的每一个事件称为基本事件,用来表示。
件、样
基本事件的全体,称为试验的样本空间,用Ω表示。
本空间
一个事件就是由Ω中的部分点(基本事件)组成的集合。
通常用大
和事件
写字母A,B,C,…表示事件,它们是Ω的子集。
Ω为必然事件,Ø为不可能事件。
不可能事件(Ø)的概率为零,而概率为零的事件不一定是不可能事件;同理,必然事件(Ω)的概率为1,而概率为1的事件也不一
定是必然事件。
①关系:
如果事件A的组成部分也是事件B的组成部分,(A发生必有事件B
(3)事
发生):
A⊂B
件的关
如果同时有A⊂B,B⊃A,则称事件A与事件B等价,或称A等于B:
系与运
A=B。
算
A、B中至少有一个发生的事件:
AB,或者A+B。
属于A而不属于B的部分所构成的事件,称为A与B的差,记为A-B,
也可表示为A-AB或者AB,它表示A发生而B不发生的事件。
A、B同时发生:
AB,或者AB。
AB=Ø,则表示A与B不可能同时发生,称事件A与事件B互不相容或者互斥。
基本事件是互不相容的。
Ω-A称为事件A的逆事件,或称A的对立事件,记为A。
它表示A
不发生的事件。
互斥未必对立。
②运算:
结合率:
A(BC)=(AB)CA∪(B∪C)=(A∪B)∪C
分配率:
(AB)∪C=(A∪C)∩(B∪C)(A∪B)∩C=(AC)∪(BC)
∞∞
德摩根率:
Ai=Ai,
i=1i=1AB=ABAB=AB
(4)概率的公理化定义
设Ω为样本空间,A为事件,对每一个事件A都有一个实数P(A),若满足下列三个条件:
1°0≤P(A)≤1,
2°P(Ω)=1
3°对于两两互不相容的事件A1,A2,…有
⎛∞⎫∞
PçAi⎪=∑P(Ai)
⎝i=1⎭i=1
则称P(A)为事件A的概率。
(5)古典概型
1°Ω={1,2n},
2°P()=P()=P()=1。
12nn
设任一事件A,它是由1,2m组成的,则有
P(A)={
(1)
(2)(m)}=P
(1)+P
(2)++P(m)
=m=A所包含的基本事件数n基本事件总数
(6)几何概型
若随机试验的结果为无限不可数并且每个结果出现的可能性均匀,同时样本空间中的每一个基本事件可以使用一个有界区域来描述,
则称此随机试验为几何概型。
对任一事件A,
P(A)=L(A)。
其中L为几何度量(长度、面积、体积)。
L(Ω)
(7)加法公式
P(A+B)=P(A)+P(B)-P(AB)
当AB不相容P(AB)=0时,P(A+B)=P(A)+P(B)
当AB独立,P(AB)=P(A)P(B),P(A+B)=P(A)+P(B)-P(A)P(B)
(8)减法公式
P(A-B)=P(A)-P(AB)
当B⊂A时,P(A-B)=P(A)-P(B)当A=Ω时,P(B)=1-P(B)
(9)条件概率
定义设A、B是两个事件,且P(A)>0,则称P(AB)为事件A发生条
P(A)
件下,事件B发生的条件概率,记为P(B/A)=P(AB)。
P(A)
条件概率是概率的一种,所有概率的性质都适合于条件概率。
例如P(Ω/B)=1⇒P(B/A)=1-P(B/A)
(10)乘法公
式
乘法公式:
P(AB)=P(A)P(B/A)
更一般地,对事件A1,A2,…An,若P(A1A2…An-1)>0,则有
P(A1A2…An)=P(A1)P(A2|A1)P(A3|A1A2)……P(An|A1A2…An-1)。
(11)独立性
①两个事件的独立性
设事件A、B满足P(AB)=P(A)P(B),则称事件A、B是相互独立的。
若事件A、B相互独立,且P(A)>0,则有
P(B|A)=P(AB)=P(A)P(B)=P(B)P(A)P(A)
若事件A、B相互独立,则可得到A与B、A与B、A与B也都相互独立。
必然事件Ω和不可能事件Ø与任何事件都相互独立。
Ø与任何事件都互斥。
②多个事件的独立性
设ABC是三个事件,如果满足两两独立的条件,
P(AB)=P(A)P(B);P(BC)=P(B)P(C);P(CA)=P(C)P(A)
并且同时满足P(ABC)=P(A)P(B)P(C)
那么A、B、C相互独立。
对于n个事件类似。
(12)全概公式
设事件B1,B2,,Bn满足
1°B1,B2,,Bn两两互不相容,P(Bi)>0(i=1,2,,n),
n
A⊂Bi
2°i=1,
则有
P(A)=P(B1)P(A|B1)+P(B2)P(A|B2)++P(Bn)P(A|Bn)。
全概率公式解决的是多个原因造成的结果问题,全概率公式的题型:
将试验可看成分为两步做,如果要求第二步某事件的概率,就用全概率公式;
(13)贝叶斯公式
设事件B1,B2,…,Bn及A满足
1°B1,B2,…,Bn两两互不相容,P(Bi)>0,i=1,2,…,n,
n
A⊂Bi
2°i=1,P(A)>0,
则
P(B/A)=P(Bi)P(A/Bi),i=1,2,…n。
in
∑P(Bj)P(A/Bj)
j=1
此公式即为贝叶斯公式。
P(Bi),(i=1,2,…,n),通常叫先验概率。
P(Bi/A),(i=1,2,…,n),通常称为后验概率。
贝叶斯公式反映了“因果”的概率规律,并作出了“由果朔因”的推断。
将试验可看成分为两步做,如果求
在第二步某事件发生条件下第一步某事件的概率,就用贝叶斯公式。
(14)伯努利概型
我们作了n次试验,且满足
◆每次试验只有两种可能结果,A发生或A不发生;
◆n次试验是重复进行的,即A发生的概率每次均一样;
◆每次试验是独立的,即每次试验A发生与否与其他次试验A发生与否是互不影响的。
这种试验称为伯努利概型,或称为n重伯努利试验。
用p表示每次试验A发生的概率,则A发生的概率为1-p=q,用Pn(k)
表示n重伯努利试验中A出现k(0≤k≤n)次的概率,
Pn(k)=Ckpkqn-kk=0,1,2,,n
n,。
第二章随机变量及其分布
(1)
设离散型随机变量X的可能取值为Xk(k=1,2,…)且取各个值的概率,即事件(X=Xk)的概率为P(X=xk)=pk,k=1,2,…,
则称上式为离散型随机变量X的概率分布或分布律。
有时也用分布列的形式给出:
X|x1,x2,,xk,
P(X=xk)p1,p2,,pk,。
显然分布律应满足下列条件:
∞
(1)p,,
(2)∑pk=1。
k≥0k=1,2,k=1
离散
型随
机变
量的
分布
律
(2)
设F(x)是随机变量X的分布函数,若存在非负函数f(x),对任意实数
x,有
x
F(x)=⎰-∞f(x)dx,
则称X为连续型随机变量。
f(x)称为X的概率密度函数或密度函数,简称概率密度。
密度函数具有下面4个性质:
1、f(x)≥0。
+∞
2、⎰-∞f(x)dx=1。
3、P(x1221⎰x
1
4、P(x=a)=0,a为常数,连续型随机变量取个别值的概率为0
连续
型随
机变
量的
分布
密度
(3)分布函数
设X为随机变量,x是任意实数,则函数F(x)=P(X≤x)
称为随机变量X的分布函数,本质上是一个累积函数。
P(a分布函数F(x)表示随机变量落入区间(–∞,x]内的概率。
分布函数具有如下性质:
1°0≤F(x)≤1,-∞2°F(x)是单调不减的函数,即x13°F(-∞)=limF(x)=0,F(+∞)=limF(x)=1;
x→-∞x→+∞
4°F(x+0)=F(x),即F(x)是右连续的;
5°P(X=x)=F(x)-F(x-0)。
对于离散型随机变量,F(x)=∑pk;
xk≤x
x
对于连续型随机变量,F(x)=⎰f(x)dx。
-∞
(4)六大分布
0-1分
布
P(X=1)=p,P(X=0)=q
二项分布
在n重贝努里试验中,设事件A发生的概率为p。
事件A发生的次数是随机变量,设为X,则X可能取值为0,1,2,,n。
P(X=k)=Pn(k)=Ckpkqn-k,其中q=1-p,0
n
则称随机变量X服从参数为n,p的二项分布。
记为X~B(n,p)。
当n=1时,P(X=k)=pkq1-k,k=0.1,这就是(0-1)分布,所
以(0-1)分布是二项分布的特例。
泊松分布
设随机变量X的分布律为
k-
P(X=k)=e,>0,k=0,1,2,
k!
则称随机变量X服从参数为的泊松分布,记为X~()或者
P()。
泊松分布为二项分布的极限分布(np=λ,n→∞)。
均匀分布
设随机变量X的值只落在[a,b]内,其密度函数f(x)在[a,b]
上为常数1,即
b-a
⎧1,a≤x≤b
f(x)=⎪b-a
⎨⎪其他,
⎩0,
则称随机变量X在[a,b]上服从均匀分布,记为X~U(a,b)。
分布函数为
0,xx-a,
b-aa≤x≤b
x
F(x)=⎰-∞f(x)dx=
1,x>b。
当a≤x1P(x12b-a
指数分布
e-x,x≥0,
f(x)=
0,x<0,
其中>0,则称随机变量X服从参数为的指数分布。
F(x)=21
⎰-x∞e-(t2-2)2dt
正态分布
设随机变量X的密度函数为
2
1-(x-)
f(x)=e22,-∞2
其中、>0为常数,则称随机变量X服从参数为、的
正态分布或高斯(Gauss)分布,记为X~N(,2)。
f(x)具有如下性质:
1°f(x)的图形是关于x=对称的;
2°当x=时,f()=1为最大值;
2
若X~N(,2),则X的分布函数为
参数=0、=1时的正态分布称为标准正态分布,记为
X~N(0,1),其-x2密度函数记为
(x)=1e2
2,-∞分布函数为
2
1x-t
Φ(x)=⎰e2dt。
2-∞
Φ(x)是不可求积函数,其函数值,已编制成表可供查用。
Φ(-x)=1-Φ(x)且Φ(0)=1。
2
如果X~N(,2),则X-~N(0,1)。
P(x12ç⎪ç⎪
⎝⎭⎝⎭
(6)分位
数
下分位表:
P(X≤)=;上分位表:
P(X>)=。
(7)函数
的分
布函数
离散型
已知X的分布列为
Xx1,x2,,xn,,
P(X=xi)p1,p2,,pn,
Y=g(X)的分布列(yi=g(xi)互不相等)如下:
Yg(x1),g(x2),,g(xn),,
P(Y=yi)p1,p2,,pn,
若有某些g(xi)相等,则应将对应的pi相加作为g(xi)的概率。
连续型
先利用X的概率密度fX(x)写出Y的分布函数FY(y)=P(g(X)
≤y),再利用变上下限积分的求导公式求出fY(y)。
Y
X
y1
y2
…
yj
…
x1
p11
p12
…
p1j
…
x2
p21
p22
…
p2j
…
xi
pi1
…
pij
…
第三章二维随机变量及其分布
(1)联合分布
离散型
如果二维随机向量(X,Y)的所有可能取值为至多可列个有序对(x,y),则称为离散型随机量。
设=(X,Y)的所有可能取值为(xi,yj)(i,j=1,2,),且事
件{=(xi,yj)}的概率为pij,,称
P{(X,Y)=(xi,yj)}=pij(i,j=1,2,)
为=(X,Y)的分布律或称为X和Y的联合分布律。
联合分布有时也用下面的概率分布表来表示:
这里pij具有下面两个性质:
(1)pij≥0(i,j=1,2,…);
(2)∑∑pij=1.
ij
连续型
对于二维随机向量=(X,Y),如果存在非负函数f(x,y)(-∞P{(X,Y)∈D}=⎰⎰f(x,y)dxdy,
D
则称为连续型随机向量;并称f(x,y)为=(X,Y)的分布密度或称为X和Y的联合分布密度。
分布密度f(x,y)具有下面两个性质:
(1)f(x,y)≥0;
+∞+∞
(2)⎰-∞⎰-∞f(x,y)dxdy=1.
2联合分布函数
设(X,Y)为二维随机变量,对于任意实数x,y,二元函数
F(x,y)=P{X≤x,Y≤y}
称为二维随机向量(X,Y)的分布函数,或称为随机变量X和Y的联合分布函数。
分布函数是一个以全平面为其定义域,以事件
{(1,2)|-∞(1)≤x,-∞(2)≤y}的概率为函数值的一个实值函数。
分布函数F(x,y)具有以下的基本性质:
(1)0≤F(x,y)≤1;
(2)F(x,y)分别对x和y是非减的,即
当x2>x1时,有F(x2,y)≥F(x1,y);当y2>y1时,有F(x,y2)≥
F(x,y1);
(3)F(x,y)分别对x和y是右连续的,即
F(x,y)=F(x+0,y),F(x,y)=F(x,y+0);
(4)F(-∞,-∞)=F(-∞,y)=F(x,-∞)=0,F(+∞,+∞)=1.
(5)对于x1P(x13边缘分布
离散型
X的边缘分布为
Pi∙=P(X=xi)=∑pij(i,j=1,2,);
j
Y的边缘分布为
P∙j=P(Y=yj)=∑pij(i,j=1,2,)。
i
连续型
X的边缘分布密度为
+∞
fX(x)=⎰-∞f(x,y)dy
Y的边缘分布密度为
+∞
fY(y)=⎰-∞f(x,y)dx.
4条件分布
离散型
在已知X=xi的条件下,Y取值的条件分布为
P(Y=y|X=x)=pij
jip
i∙
在已知Y=yj的条件下,X取值的条件分布为
P(X=x|Y=y)=pij,
ijp
∙j
连续型
在已知Y=y的条件下,X的条件分布密度为
f(x|y)=f(x,y);
fY(y)
在已知X=x的条件下,Y的条件分布密度为
f(y|x)=f(x,y)
fX(x)
5独立性
一般型
F(X,Y)=FX(x)FY(y)
离散型
pij=pi∙p∙j
有零不独立
连续型
f(x,y)=fX(x)fY(y)
直接判断,充要条件:
①可分离变量
②正概率密度区间为矩形
二维正态分布
1⎡⎛x-⎫22(x-)(y-)⎛y-⎫2⎤
-⎢ç1⎪-12+ç2⎪⎥
f(x,y)=1e2(1-2)⎢⎝1⎭12⎝2⎭⎥,
⎣⎦
21-2
12
=0
随机变量的函数
若X1,X2,…Xm,Xm+1,…Xn相互独立,h,g为连续函数,则:
h(X1,X2,…Xm)和g(Xm+1,…Xn)相互独立。
特例:
若X与Y独立,则:
h(X)和g(Y)独立。
例如:
若X与Y独立,则:
3X+1和5Y-2独立。
6二维均匀分布
设随机向量(X,Y)的分布密度函数为
⎧1(x,y)∈D
⎪S
f(x,y)=⎪D
⎨
⎪0,其他
⎪
⎩
其中SD为区域D的面积,则称(X,Y)服从D上的均匀分布,记为(X,
Y)~U(D)。
图3.2
7正态分布
设随机向量(X,Y)的分布密度函数为
1⎡⎛x-⎫22(x-)(y-)⎛y-⎫2⎤
1-⎢ç1⎪-12+ç2⎪⎥
f(x,y)=e2(1-)⎢⎝1⎭12⎝2⎭⎥,
2
⎣⎦
21-2
12
其中1,2,1>0,2>0,||<1是5个参数,则称(X,Y)服从二维正态分布,
记为(X,Y)~N(,2,2,).
12,12
由边缘密度的计算公式,可以推出二维正态分布的两个边缘分布仍为正态分布,
即X~N(,2),Y~N
(2).
112,2
但是若X~N(,2),Y~N
(2),(X,Y)未必是二维正态分布。
112,2
8函数的分布
Z=X+Y
根据定义计算:
FZ(z)=P(Z≤z)=P(X+Y≤z)
+∞
对于连续型,fZ(z)=⎰f(x,z-x)dx
-∞
两个独立的正态分布的和仍为正态分布(+,2+2)。
1212
n个相互独立的正态分布的线性组合,仍服从正态分布。
=∑C,2=∑C22
iiii
ii
Z=max,m
若X1,X2Xn相互独立,其分布函数分别为Fx1(x),Fx2(x)Fxn(x),则Z=max,min(X1,X2,…Xn)的分布函数为:
Fmax(x)=Fx1(x)∙Fx2(x)Fxn(x)
Fmin(x)=1-[1-Fx1(x)]∙[1-Fx2(x)][1-Fxn(x)]
in(X1,X2
…Xn)
第四章随机变量的数字特征
(1)一
离散型
连续型
维随机
期望
设X是离散型随机变量,其分布律为P(X=xk)=pk,k=1,2,…,n,
n
E(X)=∑xkpk
k=1
(要求绝对收敛)
设X是连续型随机变量,其概率密度为f(x),
+∞
E(X)=⎰xf(x)dx
-∞
(要求绝对收敛)
变量的
期望就是
数字特
平均值
征
函数的期
Y=g(X)
n
E(Y)=∑g(xk)pkk=1
Y=g(X)
+∞
E(Y)=⎰g(x)f(x)dx
-∞
望
方差
D(X)=∑[xk-E(X)]p
2
k
+∞
k
D(X)=⎰[x-E(X)]2f(x)dx
-∞
D(X