第六章 第一节和第二节大数定理和中心极限定理由刀豆文库小编整理,希望给你工作、学习、生活带来方便,猜你可能喜欢“第二节中心极限定理”。
第六章 大数定律和中心极限定理
研究随机变量序列的各种极限(或收敛性)的理论.我们知道,概率论是研究随机现象统计规律的学科,然而随机现象统计规律性只有在相同条件下进行大量重复的试验或观察才能显现出来,这就要用到极限去刻划.随机现象在大量重复试验中呈现明显的规律性,这只是一个信念,其确切含义和理论根据是什么?现在就来解决这些问题.极限定理是概率论中最重要的理论.它在概率论与数理统计的理论研究与应用中起着十分重要的作用.第一节 契比雪夫不等式
这里介绍一个重要的不等式--契比雪夫不等式,它是大数定律和中心极限定理的理论基础.定理 设随机变量X存在数学期望EX和方差DX,则对任意正数, 成立
P{|XEX|}DX2, 此式称为契比雪夫不等式.或等价地
P{|XEX|}1P{|XEX|}1DX.2证明(1)当X为离散型随机变量, 分布律为
P{Xx}p ,i1,2,
ii则有
P{|XEX|}
P{Xx}
i|xiEX||xiEX|(xEX)i222P{Xx}ii(xEX)iDX2P{Xx}
i2;(2)当X为连续型随机变量, 概率密度为f(x), 则有
P{|XEX|}
1|xEX|f(x)dx
2(xEX)|xEX|22f(x)dx
2(xEX)f(x)dxDX2.例
P{|XEX|aDX}
DX(aDX)21a2 ,(a0)
从上述证明方法中,还可以看出(类似可证),成立
P{|X|}(0,k1)P{|XEX|}E(|XEX|)kE|X|kk,;
k,(0,k1);等形式的不等式.(车贝谢夫,车贝晓夫,切比雪夫)例 设随机序列{Xn}和随机变量X,E|XnX如果limn|0,2则对任意有 limn0, P{|XnX|}0。
证明 因为 对任意0,成立P{|XnX|}E|XnX|22,2利用条件limE|XnX|0,nlimP{|XnX|}0。即得成立n
定理 设随机变量X的数学期望EX和方差DX均存在,且DX0, 则有 P{XEX}1.证明 由车比谢夫不等式
P{|XEX|}DX2,1n}DX()n12得0P{|XEX|0, n1,2,, P{|X又
EX|1n}0,n1,2,,1n}{|XEX|0}{|XEX|n1,1n})0P{|XEX|0}P({|XEX|n1
n1P{|XEX|1n}0, 于是P{|XEX|0}1, 即P{XEX}1.(P(A1A2)P(A1)P(A2)P(A1A2)
P(A1)P(A2), P(A1A2A3)P(A1)P(A2)P(A3),P(Ai)i1P(Ai1i).第二节 大数定律
在第一章中我们指出,随机事件的频率f(A)nf(A)nnAn,当
n时, nAn具有某种稳定性和统计概 率的定义5.它们的真正含义,在当时无法说清楚,现在就来说清楚这个问题.对于这一点, 大数定理将给于理论上的依据.下面只介绍大数定理的最基本情形.定理一(契比雪夫大数定律)设X,X,,X,是相互独立的12n随机变量序列,每一个X都有有限
i的方差,且有公共的上界,即
D(X)C, i1,2,,n, 则对任意0,成立
ilimP{|n1n1nnXii11n1nEX|}1 ,ii1
nnlimP{|nXEX|}0.ii1nii1证明 令 Yn1nnX
ii1由数学期望的性质,有
EYE(n1nnX)ii11nnEX,ii1 6 因X,X,,X,相互独立, 由方差的性质,得到
12nDYD(n1nnnX)ii11n2nDX,ii1 1n2Ci1Cn , 利用契比雪夫不等式,可得
1P{|1nnXEX|}
ii11nnii1
P{|YEY|}1nnDYn21Cn2, 在上式中,令n,即得
limP{|n1nnXii11nnEX|}1.ii1
定义 依次序列出的随机变量:X,X,,X, 简记为{Xn},简称12n随机(变量)序列{X}.n 定义 对于随机(变量)序列{X}和随机变量X(或常数a),若对任意0,有
limP{|XX|}1
nnn(或limP{|Xa|}1)nn则称随机(变量)序列{X}依概率收
n敛于X(或常数a).(等价于limP{|XX|}0)
nnX,(n)简记为XPna,(n))(或XPn 推论(辛钦大数定律)若随机变量序列X,X,,X,独立同分布,且存在有限的数学期望和方差
12n EX,DX,(i1,2,)
2ii则对任意0,有
limP{|X|}1 , n其中 X1nnX.ii1 8 证明 由数学期望和方差的性质及条件,有
EXE(X)
nii11n1nnEXii11nn,i1DXD(1n21nnnX)
ii1DXii11n2n2i1n2, 对任意0,有
1P{|X|}
P{|XEX|}
1DX21n22, 于是成立
limP{|X|}1 , n即{X}依概率收敛于常数.这个结论将在第八章中用到,是用样本均值作为总体均值的点估计的理论依据.定理二(贝努里大数定律)设n是n次独立重复试验中事件A发A生的次数,p是事件A在每次试验中发生的概率, 则对任意0,成立
limP{|nnAnp|}1.证明 引人随机变量
1,第i次试验中A发生X , 0,第i次试验中A不发生i
则n次试验中事件A发生的次数
nXXX , A12n由于是独立试验,所以X,X,,X相互独立,且都服从相同的(0—1)分布,即
12nP{X1}p,P{X0}1p,i1,2,,nii于是
EXp, i 10 DXp(1p)pp2i14(12p)214利用契比雪夫大数定律的推论,得
limP{|nnAnp|}limP{|Xp|}1
n 贝努里大数定律表明:事件A发生的频率
nAn依概率收敛于事件A发生的概率.这正是用频率作为概率的估计值的理论依据.在实际应用中,通常做多次试验,获得某事件发生的频率,作为该事件发生的概率的估计值.辛钦大数定律
定理(辛钦大数定律)设随机变量序列X,X,,X,独立同分布,且存在有限的数学期望 12n EX i,(i1,2,)则对任意0,有
limP{|X|}1 , n其中 X1nnX.ii1 这个定理的证明要用到特征函数列的收敛性质,在此证明略去。
第二节 中心极限定理独立同分布序列的中心极限定理定理1设X1,X2,…Xn,…是独立同分布的随机变量序列,且具有相同数学期望和方差E(Xi)=μ,D(Xi)=σ2(i=1,2,…)。记随机变量的分布函数......
第四章大数定律和中心极限定理教学内容:本章主要讲述契比雪夫不等式,契比雪夫大数定律,贝努里大数定律和中心极限定理等内容.教学重点:讲清大数定律的条件、结论和中心极限定理的......
读书人大数定律和中心极限定理基本概念1、概念网络图切比雪夫大数定律伯努利大数定律辛钦大数定律 大数定律中心极限定理列维-林德伯格定理棣莫弗-拉普拉斯定理 二项定理 泊松......
第五章 大数定律和中心极限定理我们知道,概率论与数理统计是研究随机现象统计规律性的数学分之。但是,只有对大量随机现象进行观测时,随机现象的统计规律性才会呈现出来。为了......
第五章大数定律和中心极限定理考试内容切贝雪夫(Chebyshev)不等式 切比雪夫大数定律 伯努利大数定律 辛钦(Khinchine)大数定律 棣莫弗-拉普拉斯(De Moivre-Laplace)定理 列维-林德伯......