第四章大数定律和中心极限定理_大数法则之盈定理详解

第四章大数定律和中心极限定理由刀豆文库小编整理，希望给你工作、学习、生活带来方便，猜你可能喜欢“大数法则之盈定理详解”。

第四章

大数定律和中心极限定理

教学内容：本章主要讲述契比雪夫不等式，契比雪夫大数定律，贝努里大数定律和中心极限定理等内容．

教学重点：讲清大数定律的条件、结论和中心极限定理的条件、结论。

教学难点：随机变量序列的两种收敛性及大数定律和中心极限定理的应用。

在本课程一开始引入概率这个概念时，我们曾经指出，频率是概率的反映，随着观察次数n的增大，频率将会逐渐稳定到概率。还曾经指出，当n很大时，频率会概率是会非常“靠近”的，某些读者可能早就有了疑问：这里说的“逐渐稳定”和非常“靠近”究竟是什么意思？与数学分析中的极限概念有关系吗？这个问题提得非常好，前面提到的“逐渐稳定”和非常“靠近”都只是一种直观的说法，它的严格的数学家意义确实需要我们进一步阐明，本章就是要讨论这一类问题。

第一节

切比雪夫不等式

一、契比雪夫不等式（Chebyshev inequality）

设随机变量X的均值E(X)及方差D(X)存在，则对于任意正数，有不等式

2222P{|XE(X)|}

或P{|XE(X)|}1 成立。

我们称该不等式为契比雪夫（Chebyshev）不等式。

证明：（我们仅对连续性的随机变量进行证明）设f(x)为X的密度函数，记E(X)，D(X) 2P{|XE(X)|}则

1f(x)dx1x2(x)2x2f(x)dx

2(x)f(x)dx22D(X)2从定理中看出，如果D(X)越小，那么随机变量X取值于开区间(E(X),E(X))中的概率就越大，这就说明方差是一个反映随机变量的概率分布对其分布中心(distribution center)E(X)的集中程度的数量指标。

利用契比雪夫不等式，我们可以在随机变量X的分布未知的情况下估算事件X E(X)的概率。【例1】设随机变量X的数学期望E(X)10，方差D(X)0.0，4估计的大小。P9.2X11解：

P9.2X11P0.8X101PX100.810.04(0.8)20.9375

因而 P9.2X11不会小于0.9375.第二节 大数定理

概率论中用来阐明大量随机现象平均结果的稳定性的一系列定理称为大数定理。定义4.1 依概率收敛

设{Xn}为随机变量序列，a为随机变量，若任给>0, 使得

nlimP{|Xna|}1

则称{Xn}依概率收敛于a.可记为

Xna

P意思是:当n时，Xn落在(a,a)内的概率越来越大。定理4.1（切比雪夫大数定律）

设相互独立的随机变量X1,X2,,Xn,分别具有均值E(X1),E(X2), ,E(Xn),及方差D(X1),D(X2),,D(Xn),，并且方差有共同的上界，即 D(Xi)≤K，i=1,2, „，则对于任意正整数，有

1limPnnnk1Xkn1nnk1PE(Xk)1

EXni1即

Xni11i1ni

证明：P{|Xni1ni1niE(Xni11ni)|}

P{|Xni1n1E(Xni11ni)|}

D(11nnXi12i)D(X 1i1i)n22 1nMn221(n)

又P{|Xni11niE(Xni1n1ni)|}1

所以limP{|nXni11niE(Xni11i)|}1

切比雪夫大数定律表明，n个相互独立的随机变量，在定理的条件下，它们的算术均值Xni11ni随n的增大，将几乎必然地密集在该平均值的数学期望

EXni11ni的附近。

2推论：设{Xk,k=1,2,...}为独立的随机变量序列，且有相同的数学期望，及方差>0，则

YnXnk11nk

P即若任给>0, 使得

nlimP{|Yn|}1

证明:由切比雪夫不等式

P{|YnE(Yn)|}1D(Yn)2.这里E(Yn)E(Xnk11nk)

D(Yn)1n2nD(Xk1k)2n22

故P{|Yn|}1n.nlimP{|Yn|}1

定理4.2 伯努里大数定律

设进行n次独立重复试验，每次试验中事件A发生的概率为p，记fn为n次试验中事件A发生的频率，则

pfnpn

证明:设

1第i次试验A发生Xi

0第i次试验A不发生则E(Xi)p,D(Xi)p(1p)

由切比雪夫大数定理

nXfni1iPnp

贝努里大数定律是切比雪夫大数定律的特例。它是1713年由贝努里提出的概率极限定理中的第一个大数定律。

上面介绍的几种大数定律,由于在它们的证明中,均以切比雪夫不等式为基础,所以都有随机变量的方差是存在的假定。但是,进一步的研究表明,在独立同分布的情况下,方差存在这个条件并非是必要的。下面的辛钦大数定律便说明了这一点。定理4.3 辛钦大数定律

若{Xk,k=1.2,...}为独立同分布随机变量序列, EXk=

YnXnk11nk

P推论:若{Xi,i=1.2,...}为独立同分布随机变量序列, E(X1k)=

Xni11nkiE(X1)

Pk注：贝努里大数定律是辛钦大数定律的特例。

辛钦大数定律的数学意义：辛钦大数定律为实际生活中经常采用的算术平均值法提供了理论依据。它断言：如果诸i是具有数学期望、相互独立、同分布的随机变量，则当n充分大时，算术平均值12nn一定以接近1的概率落在真值a的任意小的邻域内。据此，如果要测量一个物体的某指标值a，可以独立重复地测量n次，得到一组数据：x1,x2,,xn，当n充分大时，可以确信ax1x2xnn，且把

x1x2xnnn作

1为a的近似值比一次测量作为a的近似值要精确的多，因Eia，En1Di，Dn2ia；但

i11，即inni1n2ni关于a的偏差程度是一次测量的偏差程度的i11n，n越大，偏差越小。再比如要估计某地区小麦的平均亩产量，只要收割一部分有代表性的地块，计算它们的平均亩产量，这个平均亩产量就是

1nini1，在n比较大的情形下它可以作为全地区平均亩产量，即亩产量的期望a的一个近似。这种近似或“靠近”并不是我们数学分析中的极限关系，而是依概率收敛原理。

辛钦大数定律也是数理统计学中参数估计理论的基础，通过第六章的学习，我们对它会有更深入的认识。

第三节 中心极限定理

概率论中有关论证独立随机变量的和的极限分布是正态分布的一系定理,称为中心极限定理。

设{Xn}为随机变量序列，X为随机变量，其对应的分布函数分别为Fn(x), F(x).若在F(x)的连续点，有

nlimFn(x)F(x),w则称{Xn}依分布收敛于X.可记为XnX.n现令YnXk,若Yn的标准化r.v.Yn~N(0,1),k1*w

则称{Xn}满足中心极限定理.一、中心极限定理的客观背景

在实际问题中，常常需要考虑许多随机因素所产生总影响。例如：炮弹射击的落点与目标的偏差，就受着许多随机因素的影响。如瞄准时的误差，空气阻力所产生的误差，炮弹或炮身结构所引起的误差等等。对我们来说重要的是这些随机因素的总影响。

自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见。观察表明，如果一个量是由大量相互独立的随机因素的影响所造成，而每一个别因素在总影响中所起的作用不大。则这种量一般都服从或近似服从正态分布。

现在我们就来研究独立随机变量之和所特有的规律性问题。当n无限增大时，这个和的极限分布是什么呢？在什么条件下极限分布会是正态的呢？

由于无穷个随机变量之和可能趋于∞，故我们不研究n个随机变量之和本身而考虑它的标准化的随机变量

nnkXZnk1E(Xk)k1n的分布函数的极限。

D(Xk)k1nnkX考虑 Znk1E(Xk)k1n的分布函数的极限分布

D(Xk)k1可以证明，满足一定的条件，上述极限分布是标准正态分布。

二、几个常用的中心极限定理

1.独立同分布中心极限定理(Levy-Lindeberg)设{Xn}为独立同分布随机变量序列，若EXk=

根据上述定理，当n充分大时

np{Xix}(i1xnn)x12et22dt2.德莫佛-拉普拉斯中心极限定理(De Moivre-Laplace

设随机变量n(n=1, 2,...)服从参数为n,p(0

nnpnpq~N(0,1).w证明：设

1第i次试验A发生 Xi0第i次试验A不发生n则E(Xi)p,D(Xi)p(1p),n由中心极限定理,结论得证。

3.李雅普诺夫(liapunov)中心极限定理

Xi1i

设{Xn}为独立的随机变量序列，若EXk=k

nB1B2n2ni1ni12i,若存在0,使

iEXui0,n则对任意实数x,有

nnXiEXii1i1limPxlimPnnnDXii1nni1XiBni1uix x12et22dt该中心定理告诉我们,一个随机变量,如果它是由大量相互独立的随机因素共同作用的结果,而其中每个随机因素的作用相对微小,则这一随机变量将近似服从正态分布。

由于此类情形在客观世界中是相当普遍的,因而正态分布广泛存在,也确立了正态分布在概率统计的理论与实际应用中的特殊地位。

【例2】将一颗骰子连掷100次，则点数之和不少于500的概率是多少？

解:设Xk为第k次掷出的点数,k=1,2,„,100,则X1,„,X100独立同分布。

E(X1)72,D(X1)162k6i14943512

由中心极限定理

75001002Xi500}11(8.78)0

351012100P{i1 6 【例3】根据以往经验，某种电器元件的寿命服从均值为100小时的指数分布。现随机地取16只，设它们的寿命是相互独立的。求这16只元件的寿命的总和大于1920小时的概率。解:设第i只元件的寿命为Xi , i=1,2, „,16，由题给条件知，诸Xi独立，且E(Xi)=100,16D(Xi)=10000，则16只元件的寿命的总和为YXk1k，依题意，所求为P(Y>1920)。

由于E(Y)=1600,D(Y)=160000 由中心极限定理, P(Y>1920)=1-P(Y1920)1-(Y160040019201600400近似N(0,1))=1-(0.8)=1-0.7881=0.2119 【例4】(供电问题)某车间有200台车床,在生产期间由于需要检修、调换刀具、变换位置及调换工件等常需停车。设开工率为0.6,并设每台车床的工作是独立的，且在开工时需电力1千瓦。问应供应多少瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产? 解：对每台车床的观察作为一次试验，每次试验观察该台车床在某时刻是否工作，工作的概率为0.6，共进行200次试验。用X表示在某时刻工作着的车床数，依题意，X～B(200,0.6), 现在的问题是：求满足P(X≤N)≥0.999的最小的N。由德莫佛-拉普拉斯极限定理Xnpnp(1p)近似N(0,1), 于是

P(X≤N)= P(0≤X≤N)

(N12048)(12048)(N12048)

由(N12048)≥0.999，查正态分布函数表得(3.1)0.999，故

N12048≥3.1，即所求N=142。也就是说,应供应142 千瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产。

小 结

中心极限定理是概率论中最著名的结果之一，它不仅提供了计算独立随机变量之和的近似概率的简单方法，而且有助于解释为什么很多自然群体的经验频率呈现出钟形曲线这一值得注意的事实。

在后面的课程中，我们还将经常用到中心极限定理。

大数定律和中心极限定理基本概念

读书人大数定律和中心极限定理基本概念1、概念网络图切比雪夫大数定律伯努利大数定律辛钦大数定律 大数定律中心极限定理列维－林德伯格定理棣莫弗－拉普拉斯定理 二项定理 泊松......

第五章 大数定律和中心极限定理

第五章 大数定律和中心极限定理我们知道，概率论与数理统计是研究随机现象统计规律性的数学分之。但是，只有对大量随机现象进行观测时，随机现象的统计规律性才会呈现出来。为了......

第五章大数定律和中心极限定理

第五章大数定律和中心极限定理考试内容切贝雪夫（Chebyshev）不等式 切比雪夫大数定律 伯努利大数定律 辛钦（Khinchine）大数定律 棣莫弗－拉普拉斯（De Moivre－Laplace）定理 列维－林德伯......

第五章 大数定律和中心极限定理

第五章 大数定律和中心极限定理一、填空题1、设随机变量X的数学期望EX，方差DX2，则由切比雪夫不等式有PX3____________。2、设随机变量X的数学期望EX100，方差DX10，则由切比雪夫不......

ch5大数定律和中心极限定理答案

一、选择题0,事件A不发生1.设Xi(i1,2,10000),且P(A)=0.8,X1,X2,,X10000相互独立,令1,事件A发生10000Y=X,则由中心极限定理知Y近似服从的分布是（ D）ii1A.N(0,1)C.N(1600,8000)......