第 1 章 随机事件与概率
1.1 随机试验、样本空间与随机事件
随机试验 $E$ 必须满足三大特征:可重复性、可能结果事先完全明确、单次试验结果事先不可预知。
- 样本点 $\omega$:随机试验的每一个可能的结果;
- 样本空间 $\Omega$:全部样本点组成的集合 $\Omega = \{\omega\}$;
- 基本事件:仅由单个样本点构成的单点子集 $\{\omega\}$;
- 必然事件:全集 $\Omega$,概率恒为 1;不可能事件:空集 $\emptyset$,概率恒为 0。
1.2 事件的关系与集合运算
| 运算关系 | 数学记号 | 概率语义解释 |
|---|---|---|
| 包含关系 | $A \subset B$ | $A$ 发生必然导致 $B$ 发生 |
| 和事件(并) | $A \cup B$ 或 $A+B$ | $A$ 与 $B$ 至少有一个发生 |
| 积事件(交) | $AB$ 或 $A \cap B$ | $A$ 与 $B$ 同时发生 |
| 差事件 | $A - B = A\overline{B}$ | $A$ 发生而 $B$ 不发生 |
| 互斥(互不相容) | $AB = \emptyset$ | $A, B$ 不可能同时发生 |
| 相互对立(逆事件) | $A \cup B = \Omega$ 且 $AB = \emptyset$ | 有且仅有一个发生,记作 $B = \overline{A}$ |
1.3 古典概型与几何概型
古典概型计算公式:$P(A) = \frac{m}{n} = \frac{\text{事件 } A \text{ 包含的样本点数}}{\text{样本空间样本点总数}}$。
袋中有 10 个球,分别标有数字 1 到 10。从中任取 3 个球,问中间号码恰好为 5 的概率是多少?
【解析】 从 10 个球任取 3 个,总取法为 $C_{10}^3 = 120$ 种。中间号码为 5,意味着另外两球中:一个比 5 小(从 1, 2, 3, 4 中选 1 个,共 $C_4^1$ 种),一个比 5 大(从 6, 7, 8, 9, 10 中选 1 个,共 $C_5^1$ 种)。
几何概型:样本空间为有限测度区域,落在 $A$ 内的概率与测度成正比:$P(A) = \frac{\mu(A)}{\mu(\Omega)}$。
经典约会问题:两人相约 7:00 ~ 8:00 见面,先到者等候 20 分钟即离去。求两人能会面的概率。
解:设两人到达时间为 $x, y \in [0, 60]$,会面充要条件为 $|x - y| \le 20$。由左侧坐标图可知:
1.4 概率的五大性质与容斥原理
1.5 条件概率与乘法公式
在 $P(B) > 0$ 时,定义条件概率:$P(A \mid B) = \frac{P(AB)}{P(B)}$。乘法公式:$P(AB) = P(B)P(A \mid B) = P(A)P(B \mid A)$。
1.6 事件的独立性与伯努利模型
$A, B$ 独立等价于 $P(AB) = P(A)P(B)$。独立时 $P(A \cup B) = 1 - P(\overline{A})P(\overline{B})$。
$n$ 重伯努利试验:单次试验中 $A$ 发生概率为 $p$,独立重复 $n$ 次,发生 $k$ 次的概率满足二项分布:
1.7 全概率公式与贝叶斯公式
设 $A_1, A_2, \dots, A_n$ 构成完备事件组(划分):
某商店购入甲、乙、丙三厂灯泡,份额分别为 25%, 35%, 40%,各厂次品率分别为 5%, 4%, 2%。若买到一只次品灯泡,问它最可能由哪个厂家生产?
【解答】 设 $B$ 为买到次品灯泡,$A_1, A_2, A_3$ 分别为甲乙丙厂。总次品率由全概率公式得:
$$P(B) = 0.25 \times 0.05 + 0.35 \times 0.04 + 0.40 \times 0.02 = 0.0125 + 0.0140 + 0.0080 = 0.0345$$由贝叶斯公式算得各厂后验概率:
$$P(A_1 \mid B) = \frac{0.0125}{0.0345} \approx 36.23\%, \quad P(A_2 \mid B) = \frac{0.0140}{0.0345} \approx 40.58\%, \quad P(A_3 \mid B) = \frac{0.0080}{0.0345} \approx 23.19\%$$结论: 买到次品时,最可能由乙厂生产(高达 40.58%)!
第 2 章 一维随机变量及其分布
2.1 随机变量与示性变量
随机变量 $X: \Omega \to \mathbb{R}$ 是样本空间的实值函数。示性函数 $I_A(\omega) = \begin{cases} 1, & \omega \in A \\ 0, & \omega \notin A \end{cases}$ 是最基础的 0-1 变量。
2.2 常见离散型分布
| 分布名称 | 参数与记号 | 概率分布律 | 期望 $E(X)$ | 方差 $D(X)$ |
|---|---|---|---|---|
| 0-1 分布 (两点分布) | $X \sim B(1, p)$ | $P(X=x) = p^x (1-p)^{1-x}, \; x\in\{0,1\}$ | $p$ | $p(1-p)$ |
| 二项分布 | $X \sim B(n, p)$ | $P(X=k) = C_n^k p^k (1-p)^{n-k}, \; k=0,\dots,n$ | $np$ | $np(1-p)$ |
| 几何分布 | $X \sim G(p)$ | $P(X=k) = p(1-p)^{k-1}, \; k=1,2,\dots$ | $\frac{1}{p}$ | $\frac{1-p}{p^2}$ |
| 泊松分布 | $X \sim P(\lambda)$ | $P(X=k) = \frac{\lambda^k}{k!} e^{-\lambda}, \; k=0,1,\dots$ | $\lambda$ | $\lambda$ |
2.3 分布函数的定义与充要三大性质
定义:$F(x) = P(X \le x)$。满足充要条件:
- 单调非降性:$x_1 < x_2 \implies F(x_1) \le F(x_2)$;
- 有界性:$0 \le F(x) \le 1$,$\lim_{x \to -\infty} F(x) = 0, \; \lim_{x \to +\infty} F(x) = 1$;
- 右连续性:$F(x+0) = F(x)$。
2.4 常见四大连续型概率密度
三角分布经典例题(手写原稿 P17):
概率密度:$f(x) = \begin{cases} x, & 0 \le x < 1 \\ 2-x, & 1 \le x < 2 \\ 0, & \text{其他} \end{cases}$
分布函数 $F(x) = \begin{cases} 0, & x < 0 \\ \frac{1}{2}x^2, & 0 \le x < 1 \\ -\frac{1}{2}x^2 + 2x - 1, & 1 \le x < 2 \\ 1, & x \ge 2 \end{cases}$,且 $P(0.5 \le X \le 1.5) = F(1.5) - F(0.5) = \frac{3}{4}$。
| 分布名称 | 概率密度 $f(x)$ | 区间/条件 | 期望 $E(X)$ | 方差 $D(X)$ |
|---|---|---|---|---|
| 均匀分布 $U[a, b]$ | $\frac{1}{b-a}$ | $a \le x \le b$ | $\frac{a+b}{2}$ | $\frac{(b-a)^2}{12}$ |
| 指数分布 $\text{Exp}(\lambda)$ | $\lambda e^{-\lambda x}$ | $x > 0$ | $\frac{1}{\lambda}$ | $\frac{1}{\lambda^2}$ |
| 正态分布 $N(\mu, \sigma^2)$ | $\frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$ | $-\infty < x < +\infty$ | $\mu$ | $\sigma^2$ |
| $\Gamma$ 分布 $\Gamma(\alpha, \lambda)$ | $\frac{\lambda^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\lambda x}$ | $x > 0$ | $\frac{\alpha}{\lambda}$ | $\frac{\alpha}{\lambda^2}$ |
2.5 正态分布的钟形曲线与标准化
正态分布四大几何性质:
- 对称轴为 $x = \mu$,对称性:$f(\mu + x) = f(\mu - x)$;
- 最大值在 $x = \mu$ 处,值为 $\frac{1}{\sqrt{2\pi}\sigma}$;拐点为 $x = \mu \pm \sigma$;
- 分布函数对称关系:$F(\mu - x) + F(\mu + x) = 1, \quad F(\mu) = 0.5$;
- 标准化变换:若 $X \sim N(\mu, \sigma^2)$,则 $Z = \frac{X-\mu}{\sigma} \sim N(0, 1)$。
第 3 章 二维随机变量及其分布
3.1 联合分布函数与性质
联合分布函数 $F(x, y) = P(X \le x, Y \le y)$,满足分别单调非降、分别右连续,且满足矩形不等式:
3.2 二维离散型分布律
袋中有 3 球,标号 1, 2, 2。不放回抽两球,以 $X, Y$ 记第 1、2 次号码。联合分布律为:
3.3 边缘分布与条件分布
已知 $(X, Y)$ 密度 $f(x, y) = \begin{cases} \frac{21}{4} x^2 y, & x^2 < y < 1 \\ 0, & \text{其他} \end{cases}$。求条件概率 $P(Y > \frac{1}{3} \mid X = -\frac{1}{3})$。
【解】 先求边缘密度:$f_X(x) = \int_{x^2}^1 \frac{21}{4}x^2 y dy = \frac{21}{8} x^2 (1 - x^4)$ ($-1 < x < 1$)。
条件密度为:$f_{Y|X}(y|x) = \frac{f(x, y)}{f_X(x)} = \frac{2y}{1 - x^4}$ ($x^2 < y < 1$)。
3.4 随机变量的独立性
3.5 二维随机变量函数的分布
极坐标变换法:若 $X, Y \sim N(0, \sigma^2)$ 独立,则模长 $Z = \sqrt{X^2+Y^2}$ 服从瑞利分布:$f_Z(z) = \frac{z}{\sigma^2} e^{-\frac{z^2}{2\sigma^2}} \; (z > 0)$。
3.6 和与差的卷积公式精解(手写原稿 P30~P31 两页重点)
设 $X, Y$ 相互独立,$f_X(x) = 1 \; (0 \le x \le 1)$,$f_Y(y) = e^{-y} \; (y > 0)$。求 $Z_1 = X+Y$ 和 $Z_2 = X-Y$ 的概率密度。
1. 求 $Z_1 = X+Y$: 非零区域为 $0 \le x \le 1$ 且 $x < z_1$。
- 当 $z_1 < 0$ 时:$f_{Z_1}(z) = 0$;
- 当 $0 \le z_1 < 1$ 时:$f_{Z_1}(z) = \int_0^{z_1} e^{-(z-x)} dx = 1 - e^{-z_1}$;
- 当 $z_1 \ge 1$ 时:$f_{Z_1}(z) = \int_0^1 e^{-(z-x)} dx = (e - 1)e^{-z_1}$。
2. 求 $Z_2 = X-Y$: 非零区域为 $0 \le x \le 1$ 且 $x > z_2$。
- 当 $z_2 \ge 1$ 时:$f_{Z_2}(z) = 0$;
- 当 $z_2 \le 0$ 时:$f_{Z_2}(z) = \int_0^1 e^{-(x-z)} dx = e^z(1 - \frac{1}{e})$;
- 当 $0 < z_2 < 1$ 时:$f_{Z_2}(z) = \int_{z_2}^1 e^{-(x-z)} dx = 1 - e^{z-1}$。
第 4 章 随机变量的数字特征
4.1 数学期望与柯西反例
数学期望要求级数或积分绝对收敛。
期望关键性质:
- 线性叠加恒成立:$E(aX + bY) = aE(X) + bE(Y)$(不依赖独立性);
- 乘积性质:$X, Y$ 独立时 $E(XY) = E(X)E(Y)$(逆命题不成立);
- 除法严禁随便除:$E\left(\frac{Y}{X}\right) \neq \frac{E(Y)}{E(X)}$!
4.2 方差的定义与六大分布速查
4.3 协方差与相关系数
柯西-许瓦兹不等式: $[E(UV)]^2 \le E(U^2)E(V^2)$,由此严格保证 $|\rho_{XY}| \le 1$。且 $|\rho_{XY}| = 1 \iff P(Y = aX + b) = 1$(完全线性相关)。
4.4 独立与不相关的深度辨析
逻辑脉络: 独立 $\implies$ 不相关。反之不成立!唯一特权:二维正态变量,不相关与独立严格等价!
设 $(X, Y)$ 在单位圆域 $x^2+y^2 \le 1$ 上均匀分布 $f(x, y) = \frac{1}{\pi}$。证明 $X, Y$ 不相关但不独立。
【证】
- 由积分区域关于坐标轴的奇偶对称性:$E(X) = \iint x \frac{1}{\pi} dx dy = 0, \; E(Y) = 0, \; E(XY) = \iint xy \frac{1}{\pi} dx dy = 0$。
- 故 $\text{Cov}(X, Y) = E(XY) - EX \cdot EY = 0 \implies X, Y$ 不相关。
- 但边缘概率密度为 $f_X(x) = \int_{-\sqrt{1-x^2}}^{\sqrt{1-x^2}} \frac{1}{\pi} dy = \frac{2}{\pi}\sqrt{1-x^2}$ ($-1 \le x \le 1$),明显 $f_X(x) f_Y(y) \neq \frac{1}{\pi}$,故 $X, Y$ 并不独立!
4.5 矩与协方差矩阵
二维正态分布的协方差矩阵:
第 5 章 大数定律与中心极限定理
5.1 切比雪夫不等式
5.2 三大大数定律全景对比
| 大数定律名称 | 前提条件 | 核心数学结论 | 应用场景与物理意义 |
|---|---|---|---|
| 切比雪夫大数定律 | 相互独立,方差一致有界 $D(X_i) \le C$ | $\frac{1}{n}\sum X_i \xrightarrow{P} \frac{1}{n}\sum E(X_i)$ | 测量误差抵消,多次测量算术平均更精准 |
| 辛钦大数定律 | 独立同分布 (i.i.d.),期望存在 $E(X_i)=\mu$ | $\overline{X} = \frac{1}{n}\sum X_i \xrightarrow{P} \mu$ | 考研最核心定律,参数矩估计的理论基石 |
| 伯努利大数定律 | $n$ 重伯努利试验,单次成功率 $p$ | $\frac{\mu_n}{n} \xrightarrow{P} p$ | 频率稳定性,概率统计定义的严谨公理支撑 |
5.3 中心极限定理 (CLT)
独立同分布列维-林德伯格定理: 无论总体服从何种分布,只要方差存在,大量样本和的标准化变量均渐近服从标准正态分布:
棣莫弗-拉普拉斯定理(二项分布的正态近似): 当 $n$ 充分大时,$B(n, p) \approx N(np, np(1-p))$。
5.4 防空火炮击落三法对照大例题
每发炮弹命中率均为 0.01。连续发射 500 发,求:(1) 恰好命中 5 发的概率;(2) 至少命中 2 发的概率。
| 计算方法 | (1) 恰中 5 发概率 $P(X=5)$ | (2) 至少命中 2 发概率 $P(X \ge 2)$ | 方法评价与误差来源 |
|---|---|---|---|
| 1. 二项分布精确算 | $C_{500}^5 (0.01)^5 (0.99)^{495} \approx \mathbf{0.17635}$ | $1 - (0.99)^{500} - 500(0.01)(0.99)^{499} \approx \mathbf{0.96024}$ | 真值基准,计算量极大 |
| 2. 泊松分布近似算 | $\frac{5^5}{5!} e^{-5} \approx \mathbf{0.17547}$ | $1 - e^{-5}(1 + 5) \approx \mathbf{0.95957}$ | 稀有事件极佳近似,误差 < 0.1% |
| 3. 正态中心极限定理 | $\frac{1}{\sqrt{npq}} \varphi(0) \approx \mathbf{0.17930}$ | $1 - \Phi\left(\frac{1 - 5}{\sqrt{4.95}}\right) \approx \mathbf{0.96327}$ | 适合大样本快速估算 |
第 6 章 数理统计的基本概念与抽样分布
6.1 总体、样本与统计量严格判定
简单随机样本: $X_1, X_2, \dots, X_n$ 独立同服从总体 $X$ 的分布(i.i.d.)。
五大常用统计量及核心性质:
6.2 顺序统计量与极值分布
设 $X_{(1)} = \min\{X_1, \dots, X_n\}, \; X_{(n)} = \max\{X_1, \dots, X_n\}$,分布函数推导为:
6.3 正态总体的三大抽样分布
三大抽样分布构造形式:
- $\chi^2(n)$ 分布: $n$ 个独立标准正态变量平方和 $\sum X_i^2 \sim \chi^2(n)$;期望为 $n$,方差为 $2n$;
- $t(n)$ 分布: $T = \frac{X}{\sqrt{Y/n}} \sim t(n)$ ($X \sim N(0, 1), Y \sim \chi^2(n)$ 独立);
- $F(n_1, n_2)$ 分布: $F = \frac{X/n_1}{Y/n_2}$ ($X \sim \chi^2(n_1), Y \sim \chi^2(n_2)$ 独立);
- $t$ 与 $F$ 转换定理: 若 $T \sim t(n)$,则 $T^2 \sim F(1, n)$。
6.4 F 分布上 α 分位数倒数互易定理严密证明(手写原稿 P49 绿框原题)
【手写原稿四步严格推导证明】
- 由上分位点定义:$1 - \alpha = P\{F \ge F_{1-\alpha}(n_1, n_2)\}$;
- 取倒数事件等价:$P\{F \ge F_{1-\alpha}(n_1, n_2)\} = P\left(\frac{1}{F} \le \frac{1}{F_{1-\alpha}(n_1, n_2)}\right) = 1 - P\left(\frac{1}{F} \ge \frac{1}{F_{1-\alpha}(n_1, n_2)}\right)$;
- 移项整理可得:$P\left(\frac{1}{F} \ge \frac{1}{F_{1-\alpha}(n_1, n_2)}\right) = \alpha$;
- 由于 $\frac{1}{F} \sim F(n_2, n_1)$,按照上 $\alpha$ 分位数定义,该临界值必然为 $F_\alpha(n_2, n_1)$,即: $$\frac{1}{F_{1-\alpha}(n_1, n_2)} = F_\alpha(n_2, n_1) \implies F_{1-\alpha}(n_1, n_2) = \frac{1}{F_\alpha(n_2, n_1)}$$
证毕!
6.5 正态总体四大抽样分布金牌定理
第 7 章 参数估计
7.1 矩估计法 (Method of Moments)
原理: 辛钦大数定律,以样本矩替换总体矩。令 $\mu_k(\theta) = \frac{1}{n} \sum X_i^k$ 解方程。
总体 $X \sim U(\theta_1, \theta_2)$,求参数 $\theta_1, \theta_2$ 的矩估计量。
7.2 极大似然估计法 (MLE)
极大似然四步走口诀:
- 写出样本似然函数:$L(\theta) = \prod_{i=1}^n f(x_i; \theta)$ 或 $\prod P(X = x_i)$;
- 两边取自然对数:$\ln L(\theta) = \sum_{i=1}^n \ln f(x_i; \theta)$;
- 对未知参数求偏导并置零:$\frac{\partial \ln L}{\partial \theta} = 0$;
- 求解对数似然方程组得到 $\hat{\theta}_{MLE}$。
设 $X_1, \dots, X_n$ 来自正态总体 $N(\mu, \sigma^2)$,$\mu, \sigma^2$ 均未知,求极大似然估计量。
7.3 估计量的评选标准:无偏性
定义:若 $E(\hat{\theta}) = \theta$,则称 $\hat{\theta}$ 是 $\theta$ 的无偏估计量。
- $\overline{X}$ 是 $\mu$ 的无偏估计:$E(\overline{X}) = \mu$;
- $S^2$ 是 $\sigma^2$ 的无偏估计:$E(S^2) = \sigma^2$;
- 矩估计和 MLE 估计中的 $\hat{\sigma}^2 = \frac{1}{n}\sum (X_i - \overline{X})^2$ 不是无偏估计,因为 $E(\hat{\sigma}^2) = \frac{n-1}{n}\sigma^2 \neq \sigma^2$(它是渐近无偏估计)。
设 $X_1, \dots, X_n$ 独立同服从期望为 $\mu$ 的总体。证明 $\hat{\mu} = \sum_{i=1}^n a_i X_i$ 是 $\mu$ 的无偏估计量 $\iff \sum_{i=1}^n a_i = 1$。
【手写原稿证明】 取数学期望:
若要对于任意实数 $\mu$ 恒有 $E(\hat{\mu}) = \mu$,两边消去 $\mu$ 必有且仅有 $\sum_{i=1}^n a_i = 1$。证毕!