📐 考研数学高分笔记 概率论与数理统计 54页全量精转

考研数学高分笔记 · 概率论与数理统计全讲精通

本数字化讲义基于学霸手写原稿(54 页完整笔记)全量视觉重构。涵盖 7 大核心章节、50+ 核心公式与定理推导、38 道金牌例题详细解答与考研避坑要点。全部公式采用原生 KaTeX 矢量排版,集成 6 大高精度交互式 SVG 矢量图解。

第 1 章 随机事件与概率

1.1 随机试验、样本空间与随机事件

随机试验 $E$ 必须满足三大特征:可重复性、可能结果事先完全明确、单次试验结果事先不可预知。

  • 样本点 $\omega$:随机试验的每一个可能的结果;
  • 样本空间 $\Omega$:全部样本点组成的集合 $\Omega = \{\omega\}$;
  • 基本事件:仅由单个样本点构成的单点子集 $\{\omega\}$;
  • 必然事件:全集 $\Omega$,概率恒为 1;不可能事件:空集 $\emptyset$,概率恒为 0。

1.2 事件的关系与集合运算

Ω (全集) A B AB 和事件 A ∪ B (阴影覆盖全部区域) Ω (全集) A B 互斥/互不相容: AB = ∅
运算关系数学记号概率语义解释
包含关系$A \subset B$$A$ 发生必然导致 $B$ 发生
和事件(并)$A \cup B$ 或 $A+B$$A$ 与 $B$ 至少有一个发生
积事件(交)$AB$ 或 $A \cap B$$A$ 与 $B$ 同时发生
差事件$A - B = A\overline{B}$$A$ 发生而 $B$ 不发生
互斥(互不相容)$AB = \emptyset$$A, B$ 不可能同时发生
相互对立(逆事件)$A \cup B = \Omega$ 且 $AB = \emptyset$有且仅有一个发生,记作 $B = \overline{A}$
高分避坑口诀:对立必互斥,互斥未必对立!事件运算中差运算无交换律与结合律。反演律牢记:“长杠变短杠,开口变方向”: $$\overline{A \cup B} = \overline{A} \cap \overline{B}, \qquad \overline{AB} = \overline{A} \cup \overline{B}$$

1.3 古典概型与几何概型

古典概型计算公式:$P(A) = \frac{m}{n} = \frac{\text{事件 } A \text{ 包含的样本点数}}{\text{样本空间样本点总数}}$。

💡 【经典例题:抽球中间号码】

袋中有 10 个球,分别标有数字 1 到 10。从中任取 3 个球,问中间号码恰好为 5 的概率是多少?

【解析】 从 10 个球任取 3 个,总取法为 $C_{10}^3 = 120$ 种。中间号码为 5,意味着另外两球中:一个比 5 小(从 1, 2, 3, 4 中选 1 个,共 $C_4^1$ 种),一个比 5 大(从 6, 7, 8, 9, 10 中选 1 个,共 $C_5^1$ 种)。

$$P = \frac{C_4^1 \times C_1^1 \times C_5^1}{C_{10}^3} = \frac{4 \times 1 \times 5}{120} = \frac{20}{120} = \frac{1}{6}$$

几何概型:样本空间为有限测度区域,落在 $A$ 内的概率与测度成正比:$P(A) = \frac{\mu(A)}{\mu(\Omega)}$。

x (分) y (分) 0 60 60 |x - y| ≤ 20 会面概率 P = 2000/3600 = 5/9

经典约会问题:两人相约 7:00 ~ 8:00 见面,先到者等候 20 分钟即离去。求两人能会面的概率。

解:设两人到达时间为 $x, y \in [0, 60]$,会面充要条件为 $|x - y| \le 20$。由左侧坐标图可知:

$$S_\Omega = 60 \times 60 = 3600, \quad S_{\text{未会面}} = 2 \times \left[\frac{1}{2} \times 40^2\right] = 1600$$ $$P = \frac{3600 - 1600}{3600} = \frac{2000}{3600} = \frac{5}{9}$$

1.4 概率的五大性质与容斥原理

$$P(A - B) = P(A) - P(AB) \qquad (\text{若 } B \subset A \text{ 则 } P(A-B) = P(A) - P(B))$$ $$P(A \cup B) = P(A) + P(B) - P(AB)$$ $$P(A \cup B \cup C) = P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)$$

1.5 条件概率与乘法公式

在 $P(B) > 0$ 时,定义条件概率:$P(A \mid B) = \frac{P(AB)}{P(B)}$。乘法公式:$P(AB) = P(B)P(A \mid B) = P(A)P(B \mid A)$。

1.6 事件的独立性与伯努利模型

$A, B$ 独立等价于 $P(AB) = P(A)P(B)$。独立时 $P(A \cup B) = 1 - P(\overline{A})P(\overline{B})$。

$n$ 重伯努利试验:单次试验中 $A$ 发生概率为 $p$,独立重复 $n$ 次,发生 $k$ 次的概率满足二项分布:

$$P_n(k) = C_n^k p^k (1-p)^{n-k}, \quad k = 0, 1, \dots, n$$

1.7 全概率公式与贝叶斯公式

设 $A_1, A_2, \dots, A_n$ 构成完备事件组(划分):

$$\text{全概率公式 (由因导果): } P(B) = \sum_{i=1}^n P(A_i) P(B \mid A_i)$$ $$\text{贝叶斯公式 (由果索因): } P(A_i \mid B) = \frac{P(A_i) P(B \mid A_i)}{\sum_{j=1}^n P(A_j) P(B \mid A_j)}$$
💡 【实战例题:工厂次品溯源】

某商店购入甲、乙、丙三厂灯泡,份额分别为 25%, 35%, 40%,各厂次品率分别为 5%, 4%, 2%。若买到一只次品灯泡,问它最可能由哪个厂家生产?

【解答】 设 $B$ 为买到次品灯泡,$A_1, A_2, A_3$ 分别为甲乙丙厂。总次品率由全概率公式得:

$$P(B) = 0.25 \times 0.05 + 0.35 \times 0.04 + 0.40 \times 0.02 = 0.0125 + 0.0140 + 0.0080 = 0.0345$$

由贝叶斯公式算得各厂后验概率:

$$P(A_1 \mid B) = \frac{0.0125}{0.0345} \approx 36.23\%, \quad P(A_2 \mid B) = \frac{0.0140}{0.0345} \approx 40.58\%, \quad P(A_3 \mid B) = \frac{0.0080}{0.0345} \approx 23.19\%$$

结论: 买到次品时,最可能由乙厂生产(高达 40.58%)!

第 2 章 一维随机变量及其分布

2.1 随机变量与示性变量

随机变量 $X: \Omega \to \mathbb{R}$ 是样本空间的实值函数。示性函数 $I_A(\omega) = \begin{cases} 1, & \omega \in A \\ 0, & \omega \notin A \end{cases}$ 是最基础的 0-1 变量。

2.2 常见离散型分布

分布名称参数与记号概率分布律期望 $E(X)$方差 $D(X)$
0-1 分布 (两点分布)$X \sim B(1, p)$$P(X=x) = p^x (1-p)^{1-x}, \; x\in\{0,1\}$$p$$p(1-p)$
二项分布$X \sim B(n, p)$$P(X=k) = C_n^k p^k (1-p)^{n-k}, \; k=0,\dots,n$$np$$np(1-p)$
几何分布$X \sim G(p)$$P(X=k) = p(1-p)^{k-1}, \; k=1,2,\dots$$\frac{1}{p}$$\frac{1-p}{p^2}$
泊松分布$X \sim P(\lambda)$$P(X=k) = \frac{\lambda^k}{k!} e^{-\lambda}, \; k=0,1,\dots$$\lambda$$\lambda$
泊松定理(稀有事件定理): 当 $n \ge 100, p \le 0.01$ 时,二项分布可由泊松分布高精度近似,参数取 $\lambda = np$。

2.3 分布函数的定义与充要三大性质

定义:$F(x) = P(X \le x)$。满足充要条件:

  1. 单调非降性:$x_1 < x_2 \implies F(x_1) \le F(x_2)$;
  2. 有界性:$0 \le F(x) \le 1$,$\lim_{x \to -\infty} F(x) = 0, \; \lim_{x \to +\infty} F(x) = 1$;
  3. 右连续性:$F(x+0) = F(x)$。
单点概率跃度公式: $P(X = x_0) = F(x_0) - F(x_0 - 0)$。若 $F(x)$ 在 $x_0$ 处连续,则 $P(X = x_0) = 0$。利用 Heaviside 阶跃函数 $U(x)$,离散型分布函数可表示为 $F(x) = \sum p_i U(x - x_i)$。

2.4 常见四大连续型概率密度

x f(x) 0 1 2 1 三角分布密度曲线 (面积=1, E(X)=1)

三角分布经典例题(手写原稿 P17):

概率密度:$f(x) = \begin{cases} x, & 0 \le x < 1 \\ 2-x, & 1 \le x < 2 \\ 0, & \text{其他} \end{cases}$

分布函数 $F(x) = \begin{cases} 0, & x < 0 \\ \frac{1}{2}x^2, & 0 \le x < 1 \\ -\frac{1}{2}x^2 + 2x - 1, & 1 \le x < 2 \\ 1, & x \ge 2 \end{cases}$,且 $P(0.5 \le X \le 1.5) = F(1.5) - F(0.5) = \frac{3}{4}$。

分布名称概率密度 $f(x)$区间/条件期望 $E(X)$方差 $D(X)$
均匀分布 $U[a, b]$$\frac{1}{b-a}$$a \le x \le b$$\frac{a+b}{2}$$\frac{(b-a)^2}{12}$
指数分布 $\text{Exp}(\lambda)$$\lambda e^{-\lambda x}$$x > 0$$\frac{1}{\lambda}$$\frac{1}{\lambda^2}$
正态分布 $N(\mu, \sigma^2)$$\frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$$-\infty < x < +\infty$$\mu$$\sigma^2$
$\Gamma$ 分布 $\Gamma(\alpha, \lambda)$$\frac{\lambda^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\lambda x}$$x > 0$$\frac{\alpha}{\lambda}$$\frac{\alpha}{\lambda^2}$

2.5 正态分布的钟形曲线与标准化

x μ (对称中心) μ - σ μ + σ 正态分布密度曲线 f(x)

正态分布四大几何性质:

  • 对称轴为 $x = \mu$,对称性:$f(\mu + x) = f(\mu - x)$;
  • 最大值在 $x = \mu$ 处,值为 $\frac{1}{\sqrt{2\pi}\sigma}$;拐点为 $x = \mu \pm \sigma$;
  • 分布函数对称关系:$F(\mu - x) + F(\mu + x) = 1, \quad F(\mu) = 0.5$;
  • 标准化变换:若 $X \sim N(\mu, \sigma^2)$,则 $Z = \frac{X-\mu}{\sigma} \sim N(0, 1)$。

第 3 章 二维随机变量及其分布

3.1 联合分布函数与性质

联合分布函数 $F(x, y) = P(X \le x, Y \le y)$,满足分别单调非降、分别右连续,且满足矩形不等式:

$$P(x_1 < X \le x_2, y_1 < Y \le y_2) = F(x_2, y_2) - F(x_1, y_2) - F(x_2, y_1) + F(x_1, y_1) \ge 0$$

3.2 二维离散型分布律

💡 【手写原稿经典例题:3 球不放回抽取】

袋中有 3 球,标号 1, 2, 2。不放回抽两球,以 $X, Y$ 记第 1、2 次号码。联合分布律为:

$$P(X=1, Y=2) = \frac{1}{3}, \quad P(X=2, Y=1) = \frac{1}{3}, \quad P(X=2, Y=2) = \frac{1}{3}, \quad P(X=1, Y=1) = 0$$

3.3 边缘分布与条件分布

$$\text{连续型边缘密度: } f_X(x) = \int_{-\infty}^{+\infty} f(x, y) dy, \qquad f_Y(y) = \int_{-\infty}^{+\infty} f(x, y) dx$$ $$\text{条件概率密度: } f_{Y \mid X}(y \mid x) = \frac{f(x, y)}{f_X(x)}, \qquad f_{X \mid Y}(x \mid y) = \frac{f(x, y)}{f_Y(y)}$$
💡 【手写原稿例题(P26):连续型条件概率计算】

已知 $(X, Y)$ 密度 $f(x, y) = \begin{cases} \frac{21}{4} x^2 y, & x^2 < y < 1 \\ 0, & \text{其他} \end{cases}$。求条件概率 $P(Y > \frac{1}{3} \mid X = -\frac{1}{3})$。

【解】 先求边缘密度:$f_X(x) = \int_{x^2}^1 \frac{21}{4}x^2 y dy = \frac{21}{8} x^2 (1 - x^4)$ ($-1 < x < 1$)。

条件密度为:$f_{Y|X}(y|x) = \frac{f(x, y)}{f_X(x)} = \frac{2y}{1 - x^4}$ ($x^2 < y < 1$)。

$$P\left(Y > \frac{1}{3} \;\middle|\; X = -\frac{1}{3}\right) = \int_{1/3}^1 \frac{2y}{1 - (-1/3)^4} dy = \frac{1 - 1/9}{1 - 1/81} = \frac{8/9}{80/81} = \frac{9}{10}$$

3.4 随机变量的独立性

因子分解充要定理: 连续型变量 $X, Y$ 相互独立 $\iff$ 联合概率密度可分离变量 $f(x, y) = g(x) h(y)$,且支撑集非零区域为直积区域(矩形区域)。若区域边界存在 $y = g(x)$ 的联动限制,则必定不独立!

3.5 二维随机变量函数的分布

极坐标变换法:若 $X, Y \sim N(0, \sigma^2)$ 独立,则模长 $Z = \sqrt{X^2+Y^2}$ 服从瑞利分布:$f_Z(z) = \frac{z}{\sigma^2} e^{-\frac{z^2}{2\sigma^2}} \; (z > 0)$。

3.6 和与差的卷积公式精解(手写原稿 P30~P31 两页重点)

💡 【两页全解析:独立和 $X+Y$ 与差 $X-Y$ 卷积密度】

设 $X, Y$ 相互独立,$f_X(x) = 1 \; (0 \le x \le 1)$,$f_Y(y) = e^{-y} \; (y > 0)$。求 $Z_1 = X+Y$ 和 $Z_2 = X-Y$ 的概率密度。

1. 求 $Z_1 = X+Y$: 非零区域为 $0 \le x \le 1$ 且 $x < z_1$。

  • 当 $z_1 < 0$ 时:$f_{Z_1}(z) = 0$;
  • 当 $0 \le z_1 < 1$ 时:$f_{Z_1}(z) = \int_0^{z_1} e^{-(z-x)} dx = 1 - e^{-z_1}$;
  • 当 $z_1 \ge 1$ 时:$f_{Z_1}(z) = \int_0^1 e^{-(z-x)} dx = (e - 1)e^{-z_1}$。

2. 求 $Z_2 = X-Y$: 非零区域为 $0 \le x \le 1$ 且 $x > z_2$。

  • 当 $z_2 \ge 1$ 时:$f_{Z_2}(z) = 0$;
  • 当 $z_2 \le 0$ 时:$f_{Z_2}(z) = \int_0^1 e^{-(x-z)} dx = e^z(1 - \frac{1}{e})$;
  • 当 $0 < z_2 < 1$ 时:$f_{Z_2}(z) = \int_{z_2}^1 e^{-(x-z)} dx = 1 - e^{z-1}$。

第 4 章 随机变量的数字特征

4.1 数学期望与柯西反例

数学期望要求级数或积分绝对收敛。

★警示反例:柯西分布无期望! $f(x) = \frac{1}{\pi(1+x^2)}$。其积分 $\int_0^\infty \frac{x}{\pi(1+x^2)} dx = +\infty$ 发散,故柯西分布数学期望不存在。

期望关键性质:

  • 线性叠加恒成立:$E(aX + bY) = aE(X) + bE(Y)$(不依赖独立性);
  • 乘积性质:$X, Y$ 独立时 $E(XY) = E(X)E(Y)$(逆命题不成立);
  • 除法严禁随便除:$E\left(\frac{Y}{X}\right) \neq \frac{E(Y)}{E(X)}$!

4.2 方差的定义与六大分布速查

$$D(X) = E\{[X - E(X)]^2\} = E(X^2) - [E(X)]^2$$ $$D(aX + b) = a^2 D(X), \qquad D(X \pm Y) = D(X) + D(Y) \pm 2\,\text{Cov}(X, Y)$$ $$\text{若 } X, Y \text{ 独立: } D(X \pm Y) = D(X) + D(Y) \quad (\text{注意中间恒为加号!})$$

4.3 协方差与相关系数

$$\text{Cov}(X, Y) = E(XY) - E(X)E(Y), \qquad \rho_{XY} = \frac{\text{Cov}(X, Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$$

柯西-许瓦兹不等式: $[E(UV)]^2 \le E(U^2)E(V^2)$,由此严格保证 $|\rho_{XY}| \le 1$。且 $|\rho_{XY}| = 1 \iff P(Y = aX + b) = 1$(完全线性相关)。

4.4 独立与不相关的深度辨析

五大等价命题: $\text{Cov}(X, Y) = 0 \iff \rho_{XY} = 0 \iff X, Y \text{ 不相关} \iff E(XY) = E(X)E(Y) \iff D(X+Y) = D(X)+D(Y)$。
逻辑脉络: 独立 $\implies$ 不相关。反之不成立!唯一特权:二维正态变量,不相关与独立严格等价!
💡 【经典反例:圆盘均匀分布(不相关但不独立)】

设 $(X, Y)$ 在单位圆域 $x^2+y^2 \le 1$ 上均匀分布 $f(x, y) = \frac{1}{\pi}$。证明 $X, Y$ 不相关但不独立。

【证】

  1. 由积分区域关于坐标轴的奇偶对称性:$E(X) = \iint x \frac{1}{\pi} dx dy = 0, \; E(Y) = 0, \; E(XY) = \iint xy \frac{1}{\pi} dx dy = 0$。
  2. 故 $\text{Cov}(X, Y) = E(XY) - EX \cdot EY = 0 \implies X, Y$ 不相关。
  3. 但边缘概率密度为 $f_X(x) = \int_{-\sqrt{1-x^2}}^{\sqrt{1-x^2}} \frac{1}{\pi} dy = \frac{2}{\pi}\sqrt{1-x^2}$ ($-1 \le x \le 1$),明显 $f_X(x) f_Y(y) \neq \frac{1}{\pi}$,故 $X, Y$ 并不独立!

4.5 矩与协方差矩阵

二维正态分布的协方差矩阵:

$$C = \begin{bmatrix} \text{Cov}(X_1, X_1) & \text{Cov}(X_1, X_2) \\ \text{Cov}(X_2, X_1) & \text{Cov}(X_2, X_2) \end{bmatrix} = \begin{bmatrix} \sigma_1^2 & \rho\sigma_1\sigma_2 \\ \rho\sigma_1\sigma_2 & \sigma_2^2 \end{bmatrix}$$

第 5 章 大数定律与中心极限定理

5.1 切比雪夫不等式

$$P(|X - \mu| \ge \varepsilon) \le \frac{\sigma^2}{\varepsilon^2}, \qquad P(|X - \mu| < \varepsilon) \ge 1 - \frac{\sigma^2}{\varepsilon^2}$$

5.2 三大大数定律全景对比

大数定律名称前提条件核心数学结论应用场景与物理意义
切比雪夫大数定律相互独立,方差一致有界 $D(X_i) \le C$$\frac{1}{n}\sum X_i \xrightarrow{P} \frac{1}{n}\sum E(X_i)$测量误差抵消,多次测量算术平均更精准
辛钦大数定律独立同分布 (i.i.d.),期望存在 $E(X_i)=\mu$$\overline{X} = \frac{1}{n}\sum X_i \xrightarrow{P} \mu$考研最核心定律,参数矩估计的理论基石
伯努利大数定律$n$ 重伯努利试验,单次成功率 $p$$\frac{\mu_n}{n} \xrightarrow{P} p$频率稳定性,概率统计定义的严谨公理支撑

5.3 中心极限定理 (CLT)

独立同分布列维-林德伯格定理: 无论总体服从何种分布,只要方差存在,大量样本和的标准化变量均渐近服从标准正态分布:

$$Z_n = \frac{\sum_{i=1}^n X_i - n\mu}{\sqrt{n}\sigma} \xrightarrow{d} N(0, 1), \qquad P(Z_n \le x) \approx \Phi(x)$$

棣莫弗-拉普拉斯定理(二项分布的正态近似): 当 $n$ 充分大时,$B(n, p) \approx N(np, np(1-p))$。

5.4 防空火炮击落三法对照大例题

💡 【综合压轴例题:500 发防空炮弹打飞机】

每发炮弹命中率均为 0.01。连续发射 500 发,求:(1) 恰好命中 5 发的概率;(2) 至少命中 2 发的概率。

计算方法(1) 恰中 5 发概率 $P(X=5)$(2) 至少命中 2 发概率 $P(X \ge 2)$方法评价与误差来源
1. 二项分布精确算$C_{500}^5 (0.01)^5 (0.99)^{495} \approx \mathbf{0.17635}$$1 - (0.99)^{500} - 500(0.01)(0.99)^{499} \approx \mathbf{0.96024}$真值基准,计算量极大
2. 泊松分布近似算$\frac{5^5}{5!} e^{-5} \approx \mathbf{0.17547}$$1 - e^{-5}(1 + 5) \approx \mathbf{0.95957}$稀有事件极佳近似,误差 < 0.1%
3. 正态中心极限定理$\frac{1}{\sqrt{npq}} \varphi(0) \approx \mathbf{0.17930}$$1 - \Phi\left(\frac{1 - 5}{\sqrt{4.95}}\right) \approx \mathbf{0.96327}$适合大样本快速估算

第 6 章 数理统计的基本概念与抽样分布

6.1 总体、样本与统计量严格判定

简单随机样本: $X_1, X_2, \dots, X_n$ 独立同服从总体 $X$ 的分布(i.i.d.)。

统计量判定黄金铁律: 统计量是样本的函数,其表达式中绝对不能包含任何总体分布中的未知参数!

五大常用统计量及核心性质:

$$\text{样本均值: } \overline{X} = \frac{1}{n} \sum_{i=1}^n X_i, \qquad E(\overline{X}) = \mu, \quad D(\overline{X}) = \frac{\sigma^2}{n}$$ $$\text{样本方差: } S^2 = \frac{1}{n-1} \sum_{i=1}^n (X_i - \overline{X})^2, \qquad E(S^2) = \sigma^2 \quad (\text{分母为 } n-1 \text{ 才能保证无偏性!})$$

6.2 顺序统计量与极值分布

设 $X_{(1)} = \min\{X_1, \dots, X_n\}, \; X_{(n)} = \max\{X_1, \dots, X_n\}$,分布函数推导为:

$$F_{X_{(n)}}(x) = P(X_1 \le x, \dots, X_n \le x) = [F(x)]^n$$ $$F_{X_{(1)}}(x) = 1 - P(X_1 > x, \dots, X_n > x) = 1 - [1 - F(x)]^n$$

6.3 正态总体的三大抽样分布

χ²(n) 偏态分布 t(n) 对称钟形 上 α 分位点 面积=α 三大抽样分布特征与上 α 分位点定义

三大抽样分布构造形式:

  • $\chi^2(n)$ 分布: $n$ 个独立标准正态变量平方和 $\sum X_i^2 \sim \chi^2(n)$;期望为 $n$,方差为 $2n$;
  • $t(n)$ 分布: $T = \frac{X}{\sqrt{Y/n}} \sim t(n)$ ($X \sim N(0, 1), Y \sim \chi^2(n)$ 独立);
  • $F(n_1, n_2)$ 分布: $F = \frac{X/n_1}{Y/n_2}$ ($X \sim \chi^2(n_1), Y \sim \chi^2(n_2)$ 独立);
  • $t$ 与 $F$ 转换定理: 若 $T \sim t(n)$,则 $T^2 \sim F(1, n)$。

6.4 F 分布上 α 分位数倒数互易定理严密证明(手写原稿 P49 绿框原题)

💡 【高分定理证明:F 分位数倒数互易公式】
$$F_{1-\alpha}(n_1, n_2) = \frac{1}{F_\alpha(n_2, n_1)}$$

【手写原稿四步严格推导证明】

  1. 由上分位点定义:$1 - \alpha = P\{F \ge F_{1-\alpha}(n_1, n_2)\}$;
  2. 取倒数事件等价:$P\{F \ge F_{1-\alpha}(n_1, n_2)\} = P\left(\frac{1}{F} \le \frac{1}{F_{1-\alpha}(n_1, n_2)}\right) = 1 - P\left(\frac{1}{F} \ge \frac{1}{F_{1-\alpha}(n_1, n_2)}\right)$;
  3. 移项整理可得:$P\left(\frac{1}{F} \ge \frac{1}{F_{1-\alpha}(n_1, n_2)}\right) = \alpha$;
  4. 由于 $\frac{1}{F} \sim F(n_2, n_1)$,按照上 $\alpha$ 分位数定义,该临界值必然为 $F_\alpha(n_2, n_1)$,即: $$\frac{1}{F_{1-\alpha}(n_1, n_2)} = F_\alpha(n_2, n_1) \implies F_{1-\alpha}(n_1, n_2) = \frac{1}{F_\alpha(n_2, n_1)}$$

证毕!

6.5 正态总体四大抽样分布金牌定理

$$\text{定理 1: } \overline{X} \sim N\left(\mu, \frac{\sigma^2}{n}\right), \qquad \frac{\overline{X} - \mu}{\sigma / \sqrt{n}} \sim N(0, 1)$$ $$\text{定理 2 (核心独立性): } \overline{X} \text{ 与 } S^2 \text{ 相互独立! 且 } \frac{(n-1)S^2}{\sigma^2} = \sum_{i=1}^n \frac{(X_i - \overline{X})^2}{\sigma^2} \sim \chi^2(n-1)$$ $$\text{定理 3 (t 检验基础): } T = \frac{\overline{X} - \mu}{S / \sqrt{n}} \sim t(n-1)$$ $$\text{定理 4 (方差比 F 检验): } \frac{S_1^2 / \sigma_1^2}{S_2^2 / \sigma_2^2} \sim F(n_1 - 1, n_2 - 1)$$

第 7 章 参数估计

7.1 矩估计法 (Method of Moments)

原理: 辛钦大数定律,以样本矩替换总体矩。令 $\mu_k(\theta) = \frac{1}{n} \sum X_i^k$ 解方程。

高分对比: 矩估计求总体方差时为 $\hat{\sigma}^2_{ME} = \frac{1}{n} \sum_{i=1}^n (X_i - \overline{X})^2$,其分母为 $n$(不是样本方差 $S^2$ 的 $n-1$)。
💡 【手写原稿 P51:均匀分布 $U(\theta_1, \theta_2)$ 双参数矩估计】

总体 $X \sim U(\theta_1, \theta_2)$,求参数 $\theta_1, \theta_2$ 的矩估计量。

$$\hat{\theta}_1 = \overline{X} - \sqrt{\frac{3}{n}\sum_{i=1}^n (X_i - \overline{X})^2}, \qquad \hat{\theta}_2 = \overline{X} + \sqrt{\frac{3}{n}\sum_{i=1}^n (X_i - \overline{X})^2}$$

7.2 极大似然估计法 (MLE)

极大似然四步走口诀:

  1. 写出样本似然函数:$L(\theta) = \prod_{i=1}^n f(x_i; \theta)$ 或 $\prod P(X = x_i)$;
  2. 两边取自然对数:$\ln L(\theta) = \sum_{i=1}^n \ln f(x_i; \theta)$;
  3. 对未知参数求偏导并置零:$\frac{\partial \ln L}{\partial \theta} = 0$;
  4. 求解对数似然方程组得到 $\hat{\theta}_{MLE}$。
💡 【实战例题:正态总体极大似然估计】

设 $X_1, \dots, X_n$ 来自正态总体 $N(\mu, \sigma^2)$,$\mu, \sigma^2$ 均未知,求极大似然估计量。

$$L(\mu, \sigma^2) = (2\pi\sigma^2)^{-\frac{n}{2}} \exp\left\{ -\frac{1}{2\sigma^2} \sum_{i=1}^n (X_i - \mu)^2 \right\}$$ $$\ln L = -\frac{n}{2} \ln(2\pi) - \frac{n}{2} \ln(\sigma^2) - \frac{1}{2\sigma^2} \sum_{i=1}^n (X_i - \mu)^2$$ $$\frac{\partial \ln L}{\partial \mu} = \frac{1}{\sigma^2} \sum_{i=1}^n (X_i - \mu) = 0 \implies \hat{\mu}_{MLE} = \overline{X}$$ $$\frac{\partial \ln L}{\partial \sigma^2} = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2} \sum_{i=1}^n (X_i - \mu)^2 = 0 \implies \hat{\sigma}^2_{MLE} = \frac{1}{n} \sum_{i=1}^n (X_i - \overline{X})^2$$

7.3 估计量的评选标准:无偏性

定义:若 $E(\hat{\theta}) = \theta$,则称 $\hat{\theta}$ 是 $\theta$ 的无偏估计量。

  • $\overline{X}$ 是 $\mu$ 的无偏估计:$E(\overline{X}) = \mu$;
  • $S^2$ 是 $\sigma^2$ 的无偏估计:$E(S^2) = \sigma^2$;
  • 矩估计和 MLE 估计中的 $\hat{\sigma}^2 = \frac{1}{n}\sum (X_i - \overline{X})^2$ 不是无偏估计,因为 $E(\hat{\sigma}^2) = \frac{n-1}{n}\sigma^2 \neq \sigma^2$(它是渐近无偏估计)。
💡 【手写原稿压轴(第 54 页全页):线性组合的无偏性严格充要证明】

设 $X_1, \dots, X_n$ 独立同服从期望为 $\mu$ 的总体。证明 $\hat{\mu} = \sum_{i=1}^n a_i X_i$ 是 $\mu$ 的无偏估计量 $\iff \sum_{i=1}^n a_i = 1$。

【手写原稿证明】 取数学期望:

$$E(\hat{\mu}) = E\left(\sum_{i=1}^n a_i X_i\right) = \sum_{i=1}^n a_i E(X_i) = \sum_{i=1}^n a_i \mu = \mu \left(\sum_{i=1}^n a_i\right)$$

若要对于任意实数 $\mu$ 恒有 $E(\hat{\mu}) = \mu$,两边消去 $\mu$ 必有且仅有 $\sum_{i=1}^n a_i = 1$。证毕!