大数定理（LLN）习题集 · 题目篇
大数定理（LLN）习题集 · 题目篇
覆盖弱大数定理 (WLLN)、强大数定理 (SLLN)、典型证明技巧、反例与应用共 14 题。
建议先独立完成，再查看《答案与解析篇》。
1. 概念与判断题（共 4 题）
1.1 基本表述
给出弱大数定理的经典表述（i.i.d. 情形），要求写出极限形式、所需条件及结论。
1.2 弱 vs 强
指出弱大数定理与强大数定理的差别：
a) 结论的极限类型；
b) 通常需要的条件对比；
c) 哪一个推出哪一个？
1.3 是否满足 LLN？
下列序列 ({X_n}) 是否满足 (\overline{X}_n \to \mu)？逐一说明理由（取 (\mu=E[X_1]) 若存在）。
a) (X_n) 独立且 (P(X_n=1)=P(X_n=-1)=1/2)；
b) (X_n=\frac{1}{n}) 确定性常数；
c) (X_n) 独立且 (P(X_n=n)=1/n,;P(X_n=0)=1-1/n)；
d) (X_n = (-1)^n)。
1.4 术语快问快答
填空：
a) Kolmogorov三系数和定理给出了 SLLN 的一个充分条件：。
b) Borel–Cantelli 引理常被用来证明（弱 / 强） 大数定理。
2. 证明与推导题（共 4 题）
2.1 Chebyshev 证明
设 (X_1,X_2,\dots) 独立同分布，(E[X_1]=\mu,; \operatorname{Var}(X_1)=\sigma^2<\infty)。
利用切比雪夫不等式证明弱大数定理：
[
\overline{X}n = \frac{1}{n}\sum{k=1}^{n}X_k \xrightarrow{P} \mu.
]
2.2 Kolmogorov 强大数
给出 Kolmogorov 三系数和定理的陈述，并用它证明：
若 ({X_k}) 独立、(E[X_k]=0)、且 (\sum_{k=1}{\infty}\frac{\operatorname{Var}(X_k)}{k2}<\infty)，则
[
\frac{1}{n}\sum_{k=1}^{n}X_k \xrightarrow{a.s.} 0.
]
2.3 伯努利试验
令 (X_i\sim\operatorname{Bernoulli}§) 独立。用 Hoeffding 不等式给出
[
P!\bigl(|\overline{X}_n-p|>\varepsilon\bigr)
]
的指数级上界，并说明它如何强化 WLLN。
2.4 样本方差的一致性
设 (X_i\stackrel{i.i.d.}{\sim}(\mu,\sigma^2))。证明样本方差
[
S_n2=\frac{1}{n-1}\sum_{i=1}{n}(X_i-\overline{X}_n)^2
]
依概率（或概然）收敛于 (\sigma^2)。
3. 反例与极端情形（共 3 题）
3.1 均值不存在
设 (X) 服从柯西分布 (C(0,1))。
a) 写出 PDF；
b) 说明 (E[X]) 不存在；
c) 证明样本均值 (\overline{X}_n) 不收敛（提示：分布不变性）。
3.2 相关性破坏 LLN
构造一组相关随机变量 ({Y_n})，使得每个 (Y_n) 都服从 (\mathrm{Bern}(1/2))，但
[
\overline{Y}_n \not\to 1/2 \quad\text{(概率意义或几乎必然意义)}。
]
3.3 非独立但仍服从 LLN
举例说明：存在强相关序列依旧满足 SLLN，并作简要证明或引用定理。
4. 应用与计算（共 3 题）
4.1 蒙特卡罗 π 估计
设在单位正方形随机撒点 ((U_i,V_i))，令
[
Z_i=\mathbf 1{U_i2+V_i2\le1}.
]
a) 写出 (E[Z_i])；
b) 给出基于 (\overline{Z}_n) 的 π 的估计式；
c) 使用 LLN 说明估计的收敛性并讨论收敛速度。
4.2 对数和极限
设 (X_i\stackrel{\text{i.i.d.}}{\sim}\mathrm{Exp}(1))。证明
[
\lim_{n\to\infty}\frac{1}{n}\log\Bigl(\prod_{i=1}^{n}X_i\Bigr)
= E[\log X_1]\quad\text{(a.s.)}.
]
4.3 编程仿真
描述如何用 Python / R / MATLAB 证明强大数：
取 (X_i\sim\mathrm{Unif}(0,1))，画出 (n=1,\dots,10^5) 时 (\overline{X}_n) 轨迹图，直观展示收敛到 0.5 的过程。
全部完成后，请阅读《答案与解析篇》核对。