1. 切比雪夫不等式
假设随机变量 \(X\) 具有数学期望 \({EX}\) 及方差 \({DX}\) ,则对任意的 \(\varepsilon > 0\) ,有\[P\{ \left| {X - {EX}}\right| \geq \varepsilon \} \leq \frac{DX}{{\varepsilon }^{2}}\]或者有时候也可以写成\[P\{ \left| {X - {EX}}\right| < \varepsilon \} \geq 1 - \frac{DX}{{\varepsilon }^{2}}\]2. 大数定律
(1)切比雪夫大数定律
如果随机变量序列 \(\left\{ {X}_{n}\right\}\) 相互独立,各随机变量的期望和方差都有限,而且方差有公共上界, 即 \(D{X}_{i} \leq l,i = 1,2,\cdots\) ,其中 \(l\) 是与 \(i\) 无关的常数,则对任意的 \(\varepsilon > 0\) ,有\[\mathop{\lim }\limits_{{n \rightarrow \infty }}P\left\{ {\left| {\frac{1}{n}\mathop{\sum }\limits_{{i = 1}}^{n}{X}_{i} - \frac{1}{n}\mathop{\sum }\limits_{{i = 1}}^{n}E{X}_{i}}\right| < \varepsilon }\right\} = 1\]切比雪夫大数定律的特例: 设随机变量 \({X}_{1},{X}_{2},\cdots ,{X}_{n},\cdots\) 相互独立,且 \(E\left( {X}_{i}\right) = \mu ,D\left( {X}_{i}\right) =\) \({\sigma }^{2}\left( {i = 1,2,\cdots }\right)\) ,则对任意的 \(\varepsilon > 0\) ,总有\[\mathop{\lim }\limits_{{n \rightarrow \infty }}P\left\{ {\left| {\frac{1}{n}\mathop{\sum }\limits_{{i = 1}}^{n}{X}_{i} - \mu }\right| < \varepsilon }\right\} = 1\]该定律说明: 在定律的条件下,当 \(n\) 充分大时, \(n\) 个独立随机变量的平均数的离散程度很小
(2)伯努利大数定律
如果 \({u}_{n}\) 是 \(n\) 次重复独立试验中事件 \(A\) 发生的次数, \(p\) 是事件 \(A\) 在每次试验中发生的概率, 则对任意给定的 \(\varepsilon > 0\) ,有\[\mathop{\lim }\limits_{{n \rightarrow \infty }}P\left\{ {\left| {\frac{{u}_{n}}{n} - p}\right| < \varepsilon }\right\} = 1\]该定律说明: 在试验条件不改变的情况下, 将试验重复进行多次, 则随机事件的频率在它发生的概率附近摆动
(3)辛钦大数定律
如果 \(\left\{ {X}_{n}\right\}\) 是相互独立同分布的随机变量序列,其数学期望 \(E{X}_{i} = \mu ,i = 1,2,\cdots\) ,则对任意给定的 \(\varepsilon > 0\) ,有\[\mathop{\lim }\limits_{{n \rightarrow \infty }}P\left\{ {\left| {\frac{1}{n}\mathop{\sum }\limits_{{i = 1}}^{n}{X}_{i} - \mu }\right| < \varepsilon }\right\} = 1\]该定律说明: 对独立同分布的随机变量序列, 只要验证数学期望是否存在, 就可判定其是否服从大数定律
3. 中心极限定理
(1)列维一林德伯格定理(独立同分布的中心极限定理)
设随机变量 \({X}_{1},{X}_{2},\cdots ,{X}_{n},\cdots\) 独立同分布,且 \(E\left( {X}_{i}\right) = \mu ,D\left( {X}_{i}\right) = {\sigma }^{2} < + \infty \left( {i = 1,2,\cdots }\right)\) , 则对任意实数 \(x\) ,有\[\mathop{\lim }\limits_{{n \rightarrow \infty }}P\left\{ {\frac{\mathop{\sum }\limits_{{i = 1}}^{n}{X}_{i} - {n\mu }}{\sqrt{n}\sigma } \leq x}\right\} = {\int }_{-\infty }^{x}\frac{1}{\sqrt{2\pi }}{\mathrm{e}}^{-\frac{{t}^{2}}{2}}\mathrm{\;d}t = \Phi \left( x\right)\]
(2)李雅普诺夫定理
若随机变量序列 \(\left\{ {X}_{n}\right\}\) 相互独立,每个随机变量有期望值 \(E{X}_{n} = {\mu }_{n}\) 及方差 \(D{X}_{n} = {\sigma }_{n}^{2} < + \infty\) , \(n = 1,2,\cdots\) ,若每个 \({X}_{n}\) 对总和 \(\mathop{\sum }\limits_{{n = 1}}^{m}{X}_{n}\) 影响不大,记 \({S}_{m} = {\left( \mathop{\sum }\limits_{{n = 1}}^{m}{\sigma }_{n}^{2}\right) }^{\frac{1}{2}}\) ,则\[\mathop{\lim }\limits_{{m \rightarrow \infty }}\left\{ {\frac{1}{{S}_{m}}\mathop{\sum }\limits_{{n = 1}}^{m}\left( {{X}_{n} - {\mu }_{n}}\right) \leq x}\right\} = \frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{x}{\mathrm{e}}^{-\frac{{t}^{2}}{2}}\mathrm{\;d}t = \Phi \left( x\right)\](3)棣莫弗一拉普拉斯定理
设随机变量 \({Y}_{1},{Y}_{2},\cdots\) 服从参数为 \(n,p\) 的二项分布,则对于任何实数 \(x\) ,有\[\mathop{\lim }\limits_{{n \rightarrow \infty }}P\left\{ {\frac{{Y}_{n} - {np}}{\sqrt{npq}} \leq x}\right\} = {\int }_{-\infty }^{x}\frac{1}{\sqrt{2\pi }}{\mathrm{e}}^{-\frac{{t}^{2}}{2}}\mathrm{\;d}t = \Phi \left( x\right)\]其中 \(q = 1 - p\)
世界不过是身外之物
