概率统计教案2.doc
《概率统计教案2.doc》由会员分享，可在线阅读，更多相关《概率统计教案2.doc（21页珍藏版）》请在冰点文库上搜索。
第三章多维随机变量及其分布
一、教材说明
本章内容包括：
多维随机变量的联合分布和边际分布、多维随机变量函数的分布、多维随机变量的特征数，随机变量的独立性概念，条件分布与条件期望。
本章仿照一维随机变量的研究思路和方法。
1、教学目的与教学要求
本章的教学目的是：
（1）使学生掌握多维随机变量的概念及其联合分布，理解并掌握边际分布和随机变量
的独立性概念；
（2）使学生掌握多维随机变量函数的分布，理解并掌握多维随机变量的特征数；
（3）使学生理解和掌握条件分布与条件期望。
本章的教学要求是：
（1）深刻理解多维随机变量及其联合分布的概念，会熟练地求多维离散随机变量的联合分布列和多维连续随机变量的联合密度函数，并熟练掌握几种常见的多维分布；
（2）深刻理解并掌握边际分布的概念，能熟练求解边际分布列和边际密度函数；理解随机变量的独立性定义，掌握随机变量的独立性的判定方法；
（3）熟练掌握多维随机变量的几种函数的分布的求法，会用变量变换法求解、证明题目；
（4）理解并掌握多维随机变量的数学期望和方差的概念及性质，掌握随机变量不相关与独立性的关系；
（5）深刻理解条件分布与条件期望，能熟练求解条件分布与条件期望并会用条件分布与条件期望的性质求解、证明题目。
2、本章的重点与难点
本章的重点是多维随机变量的联合分布和边际分布、多维随机变量函数的分布及条件分布、多维随机变量的特征数，难点是多维随机变量函数的分布及条件分布的求法。
二、教学内容
本章共分多维随机变量及其联合分布、边际分布与随机变量的独立性、多维随机变量函数的分布、多维随机变量的特征数、条件分布与条件期望等5节来讲述本章的基本内容。
3.1多维随机变量及其联合分布
一、多维随机变量
定义3.1.1如果是定义在同一个样本空间上的个随机变量，则称为维随机变量或随机向量。
二、联合分布函数
1、定义3.1.2对任意个实数，则个事件同时发生的概率
称为维随机变量的联合分布函数。
2、性质
定理3.1.1任一二维联合分布函数必具有如下四条基本性质：
（1）单调性：
分别对或是单调不减的，即
当时有；当时有。
（2）有界性：
对任意的和，有，且
（3）右连续性对每个变量都是右连续的，即
。
（4）非负性对任意的有
证明仿一维分布函数的性质的证明，此处略。
注任一二维联合分布函数必具有以上四条基本性质；还可证明具有以上性质的二元函数一定是某个二维随机变量的分布函数。
例3.1.1证明二元函数满足二维分布函数的性质
（1）
（2）（3），但它不满足性质（4），故不是分布函数。
分析：
证明某二元函数是二维分布函数需验证满足二维分布函数的性质
（1）
（2）（3）（4），若证不是二维分布函数只需验证其中一条性质不满足即可。
证明：
略。
三、联合分布列
1、定义3.1.3如果二维随机变量只取有限个或可列个数对，则称为二维离散随机变量，称
为的联合分布列。
还可以用书135页的表格形式记联合分布列。
2、联合分布列的基本性质：
（1）非负性
（2）正则性
例3.1.2从1，2，3，4中任取一数记为，再从1，…，中任取一数记为，求的联合分布列及。
分析：
求二维离散随机变量的联合分布列，关键是写出二维离散随机变量可能取的数对及其发生的概率。
解：
略。
四、联合密度函数
1、定义3.1.4如果存在二元非负函数，使得二维随机变量的分布函数可表示为
则称为二维连续随机变量，称为的联合密度函数。
注在偏导数存在的点上，有。
2、联合密度函数的基本性质
（1）非负性
（2）正则性
注可求概率具体使用左式时，积分范围是的非零区域与的交集部分，然后设法化成累次积分再计算出结果。
例3.1.3设（X，Y）的联合密度函数为
求
（1）；
（2）。
解略
五、常用多维分布
1、多项分布
进行次独立重复试验，如果每次试验有个可能结果：
且每次试验中发生的概率为记为次独立重复试验中出现的次数，。
则取值的概率，即出现次，出现次，……，出现次的概率为
其中
这个联合分布列称为项分布，又称为多项分布，记为
例3.1.4一批产品共有100件，其中一等品60件，二等品30件，三等品10件。
从这批产品中有放回地任取3件，以和分别表示取出的3件产品中一等品、二等品的件数，求二维随机变量的联合分布列。
分析略。
解略。
2、多维超几何分布
多维超几何分布的描述：
袋中有只球，其中有只号球，。
记，从中任意取出只，若记为取出的只球中号球的个数，，则
其中。
例3.1.5将例3.1.4改成不放回抽样，即从这批产品中不放回地任取3件，以和分别表示取出的3件产品中一等品、二等品的件数，求二维随机变量的联合分布列。
解略。
3、多维均匀分布
设为中的一个有界区域，其度量为，如果多维随机变量的联合密度函数为
则称服从上的多维均匀分布，记为
例3.1.6设为平面上以原点为圆心以为半径的圆，服从上的二维均匀分布，其密度函数为
试求概率
解略。
4、二元正态分布
如果二维随机变量的联合密度函数为
则称服从二维正态分布，记为其中五个参数的取值范围分别是：
以后将指出：
分别是与的均值，分别是与的方差，是与的相关系数。
例3.1.7设二维随机变量求落在区域内的概率。
解略。
注凡是与正态分布有关的计算一般需要作变换简化计算。
3.2边际分布与随机变量的独立性
一、边际分布函数
1、二维随机变量中
的边际分布
的边际分布
2、在三维随机变量的联合分布函数中，用类似的方法可得到更多的边际分布函数。
例3.2.1设二维随机变量的联合分布函数为
这个分布被称为二维指数分布，求其边际分布。
解略。
注与的边际分布都是一维指数分布，且与参数无关。
不同的对应不同的二维指数分布，但它们的两个边际分布不变，这说明边际分布不能唯一确定联合分布。
二、边际分布列
二维离散随机变量的联合分布列为的边际分布列
的边际分布列
三、边际密度函数
如果二维连续随机变量的联合密度函数为，因为
所以相应的边际密度
例3.2.3设二维随机变量的联合密度函数为
试求：
（1）边际密度函数和；
（2）及。
解略。
四、随机变量间的独立性
定义3.2.1设维随机变量的联合分布函数为，为的边际分布函数。
如果对任意个实数，有
则称相互独立。
（1）在离散随机变量场合，如果对任意个取值，有
则称相互独立。
（2）在连续随机变量场合，如果对任意个取值，有
则称相互独立。
例3.2.7设二维随机变量的联合密度函数为
问与是否相互独立？
分析为判断与是否相互独立，只需看边际密度函数之积是否等于联合密度函数。
解略。
3.3多维随机变量函数的分布
一、多维离散随机变量函数的分布
以二维为例讨论，设二维随机变量的取值为随机变量
的取值为.令，则
例3.3.2（泊松分布的可加性）设且与相互独立。
证明
证明：
略。
注证明过程用到离散场合下的卷积公式，这里卷积指“寻求两个独立随机变量和的分布运算”，对有限个独立泊松变量有
例3.3.3（二项分布的可加性）设且与相互独立。
证明
证明略。
注
（1）该性质可以推广到有限个场合
（2）特别当时，
这表明，服从二项分布的随机变量可以分解成个相互独立的0-1分布的随机变量之和。
二、最大值与最小值的分布
例3.3.4（最大值分布）设是相互独立的个随机变量，若
设在以下情况下求的分布：
（1）
（2）同分布，即
（3）为连续随机变量，且同分布，即的密度函数为
（4）
解略。
注这道题的解法体现了求最大值分布的一般思路。
例3.3.5（最小值分布）设是相互独立的个随机变量；若，试在以下情况下求的分布：
（1）
（2）同分布，即
（3）为连续随机变量，且同分布，即的密度函数为
（4）
解略。
注这道例题的解法体现了求最小值分布的一般思路。
三、连续场合的卷积公式
定理3.3.1设与是两个相互独立的连续随机变量，其密度函数分别为、，则其和的密度函数为
证明略。
本定理的结果就是连续场合下的卷积公式。
例3.3.6（正态分布的可加性）设且与相互独立。
证明
证明略
注任意n个相互独立的正态变量的非零线性组合仍是正态变量。
四、变量变换法
1、变量变换法
设的联合密度函数为，函数有连续偏导数，且存在唯一的反函数，其变换的雅可比行列式
若则的联合密度函数为
这个方法实际上就是二重积分的变量变换法，其证明可参阅数学分析教科书。
例3.3.9设与独立同分布，都服从正态分布，记
试求的联合密度函数。
是否相互独立？
解略。
2、增补变量法
增补变量法实质上是变换法的一种应用：
为了求出二维连续随机变量的函数的密度函数，增补一个新的随机变量，一般令或。
先用变换法求出的联合密度函数，再对关于v积分，从而得出关于的边际密度函数。
例3.3.10（积的公式）设与相互独立，其密度函数分别为和.则的密度函数为
证略。
例3.3.11（商的公式）设与相互独立，其密度函数分别为和，则的密度函数为
证略。
注例3.3.10和例3.3.11的结果可以直接用来解题。
3.4多维随机变量的特征数
一、多维随机变量函数的数学期望
定理3.4.1若二维随机变量的分布用联合分布列或联合密度函数表示，则的数学期望为
这里所涉及的数学期望都假设存在。
例3.4.1在长为的线段上任取两个点与，求此两点间的平均长度。
解略。
二、数学期望与方差的运算性质
性质3.4.1设是二维随机变量，则有
注。
性质3.4.2若随机变量与相互独立，则有。
注若相互独立，则有
性质3.4.3若随机变量与相互独立，则有
注若相互独立，则有
例3.4.3已知随机变量相互独立，且
求的数学期望、方差和标准差。
解略。
三、协方差
1、定义3.4.1设是二维随机变量，若存在，则称此数学期望为与的协方差，或称为与的相关（中心）矩，并记为
特别有
注当时，称与正相关，这时与同时增加或同时减少。
当时，称与负相关。
当时，称与不相关。
2、性质
性质3.4.4
性质3.4.5若随机变量与相互独立，则，反之不然。
注不相关是比独立更弱的一个新概念。
性质3.4.6对任意二维随机变量，有
注该性质可以推广到更多个随机变量场合，即对任意个随机变量，有
性质3.4.7协方差的计算与，的次序无关，即
性质3.4.8任意随机变量与常数的协方差为零，即。
性质3.4.9对任意常数有。
性质3.4.10设是任意三个随机变量，则。
例3.4.7设二维随机变量的联合密度函数为
试求。
解略。
四、相关系数
1、定义3.4.2设是二维随机变量，且则称
为与的（线性）相关系数。
注
（1）与同符号，故从的取值也可反应出与的正相关，负相关和不相关。
（2）相关系数的另一个解释是：
它是相应标准化变量的协方差。
若记与的数学期望分别为，其标准化变量为，则有
例3.4.7二维正态分布相关系数就是。
2、相关系数的性质
引理3.4.1（施瓦茨不等式）对任意二维随机变量，若与的方差都存在，且记，则有
性质3.4.11
性质3.4.12的充要条件是与间几乎处处有线性关系，即存在与，使得其中当时，有；当时有。
证明略。
注
（1）相关系数刻画了与之间的线性关系，因此也常称其为“线性相关系数”。
（2）若，称与不相关。
不相关是指与之间没有线性关系，但与之间可能有其他的关系。
譬如平方关系，对数关系等。
（3）若，则称与完全正相关；若，则称与完全负相关。
例3.4.7设二维随机变量的联合密度函数为
试求与的相关系数。
性质3.4.13在二维正态分布场合，不相关与独立是等价的。
五、随机向量的数学期望与协方差阵
1、定义3.4.3记维随机向量为若其每个分量的数学期望都存
在，则称
为维随机向量的数学期望向量，简称为的数学期望，而称
为该随机向量的方差—协方差阵，记为。
2、定理3.4.2维随机向量的协方差阵是一个对称的非
负定矩阵。
证明略。
例3.4.12（元正态分布）设维随机向量的协方差阵为
，数学期望向量为。
又记，则由密度函数
定义的分布称为元正态分布，记为。
其中表示的行列式，表示的逆阵，表示向量的转置。
3.5条件分布与条件期望
一、条件分布
1、离散随机变量的条件分布
设二维离散随机变量的联合分布列为
定义3.5.1对一切使的，称
为给定条件下的的条件分布列。
同理对一切使的，称
为给定条件下的条件分布列。
定义3.5.2给定条件下的条件分布函数为
给定条件下的条件分布函数为
例3.5.2设随机变量与相互独立，且在已知的条件下求的条件分布。
解略。
2、连续随机变量的条件分布
设二维连续随机变量的联合密度函数为，边际密度函数为和。
定义3.5.3对一切使的，给定条件下的条件分布函数和条件密度函数分别为
同理对一切使的x，给定条件下的条件分布函数和条件密度函数分别为
例3.5.5设服从上的均匀分布，试求给定条件下的条件密度函数。
解略。
3、连续场合的全概率公式和贝叶斯公式
全概率公式的密度函数形式
贝叶斯公式的密度函数形式
注由边际分布和条件分布就可以得到联合分布。
二、条件数学期望
1、定义3.5.4条件分布的数学期望（若存在）称为条件数学期望，其定义如下：
注
（1）条件数学期望具有数学期望的一切性质。
（2）条件数学期望可以看成是随机变量的函数，其本身也是一个随机变量。
2、定理3.5.1（重期望公式）设是二维随机变量，且存在，则
。
证明略。
注重期望公式的具体使用如下
（1）如果是一个离散随机变量，
（2）如果是一个连续随机变量，
例3.5.10（随机个随机变量和的数学期望）设是一列独立同分布的随机变量，随机变量只取正整数值，且与独立。
证明
第四章大数定律与中心极限定理
一、教材说明
本章内容包括特征函数及其性质，常用的几个大数定律，随机变量序列的两种收敛性的定义及其有关性质，中心极限定理。
大数定律涉及的是一种依概率收敛，中心极限定理涉及按分布收敛。
这些极限定理不仅是概率论研究的中心议题，而且在数理统计中有广泛的应用。
1、教学目的与教学要求
本章的教学目的是：
（1）使学生掌握特征函数的定义和常用分布的特征函数；
（2）使学生深刻理解和掌握大数定律及与之相关的两种收敛性概念，会熟练运用几个大数定律证明题目；
（3）使学生理解并熟练掌握独立同分布下的中心极限定理。
本章的教学要求是：
（1）理解并会求常用分布的特征函数；
（2）深刻理解并掌握大数定律，能熟练应用大数定律证明题目；
（3）理解并掌握依概率收敛和按分布收敛的定义，并会用其性质证明相应的题目；
（4）深刻理解与掌握中心极限定理，并要对之熟练应用。
2、重点与难点
本章的重点是大数定律与中心极限定理，难点是用特征函数的性质证明题目，大数定律和中心极限定理的应用。
二、教学内容
本章共分特征函数、大数定律、随机变量序列的两种收敛性，中心极限定理等4节来讲述本章的基本内容。
4.1特征函数
一、特征函数的定义
1.定义4.1.1设是一个随机变量，称，-∞注因为，所以总是存在的，即任一随机变量的特征函数总是存在的。
2.特征函数的求法
（1）当离散随机变量的分布列为Pk=P（=xk），k=1，2，…，则的特征函数为
φ（t）=，-∞（2）当连续随机变量的密度函数为p（x），则的特征函数为
φ（t）=，-∞例4.1.1常用分布的特征函数
（1）单点分布：
P（=a）=1，其特征函数为φ（t）=eita。
（2）0–1分布：
P（=x）=px（1-p）1–x，x=0，1，其特征函数为
φ（t）=peit+q，其中q=1–p。
（3）泊松分布P（λ）：
P（=k）=，k=0，1，…，其特征函数为
φ（t）===。
（4）标准正态分布N（0,1）：
因为密度函数为p（x）=，-∞所以特征函数为φ（t）==。
二、特征函数的性质
性质4.1.1|φ（t）|≤φ（0）=1。
性质4.1.2φ（-t）=，其中是φ（t）的共轭。
性质4.1.3若Y=a+b，其中a，b是常数，则。
性质4.1.4独立随机变量和的特征函数为特征函数的积，即设与Y相互独立，则。
性质4.1.5若E（l）存在，则的特征函数可l次求异，且对1≤k≤l，有
φ（k）（0）=ikE（k）。
注上式提供了一条求随机变量的各阶矩的途径，特别可用下式去求数学期望和方差。
证明略。
定理4.1.1（一致连续性）随机变量的特征函数φ（t）在（-∞，+∞）上一致连续。
定理4.1.2（非负定性）随机变量的特征函数φ（t）是非负定的。
定理4.1.4（唯一性定理）随机变量的分布函数由其特征函数唯一决定。
例4.1.3试利用特征函数的方法求伽玛分布Ga（α，λ）的数学期望和方差。
解因为Ga（α，λ）的特征函数φ（t）=，
φ‘（t）=；φ‘（0）=；φ’（t）=；φ‘’（0）=，
所以由性质4.1.5得
4.2大数定律
一、何谓大数定律（大数定律的一般提法）
定义4.2.1设为随机变量序列，若对任意的,有
（4.2.5）
则称服从大数定律。
二、切比雪夫大数定律
定理4.2.2（切比雪夫大数定律）设为一列两两不相关的随机变量序列，若每个的方差存在，且有共同的上界，即,则服从大数定律，即对任意的，式（4.2.5）成立。
利用切比雪夫不等式就可证明。
此处略。
推论（定理4.2.1：
伯努利大数定律）设为n重伯努利试验中事件A发生的次数，P为每次试验中A出现的概率，则对任意的，有
分析服从二项分布，因此可以把表示成n个相互独立同分布、都服从0–1分布的随机变量的和。
三、马尔可夫大数定律
定理4.2.3（马尔可夫大数定律）对随机变量序列，若马尔可夫条件成立，则服从大数定律，即对任意的，式（4.2.5）成立。
证明利用切比雪夫不等式就可证得。
例4.2.3设为一同分布、方差存在的随机变量序列，且仅与和相关，而与其他的不相关，试问该随机变量序列是否服从大数定律？
解可证对，马尔可夫条件成立，故由马尔可夫大数定律可得服从大数定律。
四、辛钦大数定律
定理4.2.4（辛钦大数定律）设为一独立同分布的随机变量序列，若的数学期望存在，则服从大数定律，即对任意的，式（4.2.5）成立。
4.3随机变量序列的两种收敛性
一、依概率收敛
1.定义4.3.1（依概率收敛）设为一随机变量序列，Y为一随机变量。
如果对于任意的，有
则称依概率收敛于Y，记做YnY。
注随机变量序列服从大数定律。
2.依概率收敛的四则运算
定理4.3.1设，{Yn}是两个随机变量序列，a，b是两个常数。
如果
{}a，{Yn}b，
则有
（1）
（2）（3）
二、按分布收敛、弱收敛
1.定义4.3.2设{Fn（x）}是随机变量序列的分布函数列，F（x）为的分布函数。
若对F（x）的任一连续点x，都有Fn（X）=F（x），则称{Fn（x）}弱收敛于F（x），记做Fn（X）F（x）。
也称按分布收敛于，记做。
2.依概率收敛与按分布收敛间的关系
（1）定理4.3.2。
（2）定理4.3.3若为常数，则
两个定理的证明均略。
三、判断弱收敛的方法
定理4.3.4分布函数序列{Fn（x）}弱收敛于分布函数F（X）的充要条件是{Fn（x）}的特征函数序列{φn（t）}收敛于F（x）的特征函数φ（t）。
这个定理的证明只涉及数学分析的一些结果，参阅教材后文献[1]。
例4.3.3若，证明
解用定理4.3.4。
此处略。
4.4中心极限定理
一、中心极限定理概述
研究独立随机变量和的极限分布为正态分布的命题。
二、独立同分布下的中心极限定理
定理4.4.1（林德贝格-勒维中心极限定理）设是独立同分布的随机变量序列，且记
则对任意实数y，有
证明用定理4.3.4的结果。
此处略。
三、二项分布的正态近似
（1）定理4.4.2（棣莫弗-拉普拉斯极限定理）设n重伯努利试验中，事件A在每次试验中出现的概率为p（0则对任意实数y，有
证明由林德贝格-勒维中心极限定理容易证得。
（2）近似中的修正
二项分布在和时，由中心极限定理用正态分布近似较好，因为二项分布是离散分布，而正态分布是连续分布，所以用正态分布作为二项分布的近似计算中，作些修正可以提高精度。
若均为整数，一般先作如下修正后再用正态近似
-21-
升级会员 