本文最后更新于：2023年2月28日下午

1. 三种分布

为了通过样本统计量（ $\overline x, p, s^2$ ）推断总体参数（ $\mu,\pi,\sigma ^2$ ），并判断推断的可靠性，引入抽样分布。注意，总体分布、样本分布是随机变量的频数分布；抽样分布是统计量的频数分布。

总体分布

总体分布 (population distribution)：总体中各元素观察值的频数分布。

样本分布

样本分布 (sample distribution)：总体中抽取的某容量为 $n$ 的样本中各元素观察值的频数分布。

抽样分布

抽样分布 (sampling distribution)：重复抽取容量为 $n$ 的样本并计算样本某一统计量，该统计量所有可能取值的频数分布。

如在重复选取容量为 $n$ 的样本时,由样本方差的所有可能取值形成的相对频数分布,称为样本方差的抽样分布。

一个例子区分三种分布：

设一个总体共有 $4$ 个元素，元素的取值分别为: $x_1=1,x_2=2,x_3=3,x_4=4$ 。从总体中采取重复抽样方法抽取容量为 $n=2$ 的随机样本，写出样本均值 $\overline x$ 的抽样分布。

总体分布
样本分布（共 $16$ 个容量为 $2$ 的样本）
抽样分布（ $16$ 个容量为 $2$ 的样本均值的分布即为样本均值的抽样分布）

2. 样本统计量的抽样分布

为了抽象出针对不同事物的不同量纲的抽样分布间存在的规律，我们总结出了不同样本统计量的抽样分布趋于的分布形状。

样本均值的抽样分布

正态分布

中心极限定理 (central limit theorem)：

若总体分布非正态分布，随着样本容量 $n$ 的增大，单个总体参数推断时样本均值的抽样分布趋于正态分布。

若总体分布为正态分布，则无论样本容量大小，样本均值的抽样分布均为正态分布。

即从满足 $X \sim N(\mu, \sigma ^2)$ 的总体中抽取容量为 $n$ 的随机样本时，样本均值 $\overline x$ 的抽样分布近似于 $X \sim N(\mu,\frac{\sigma ^2}{n})$ 。

t分布

$t$ 分布 (t-distribution)： $X \sim t(n)$

服从正态分布的总体，样本均值 $\overline x$ 的抽样分布服从正态分布（中心极限定理）。其样本均值经标准化后服从自由度为 $n-1$ 的 $t$ 分布。因此单个总体参数推断时样本均值的抽样分布满足：

$X \sim N(\mu,\sigma^2) \\ \frac{\overline x - \mu}{\frac{s}{\sqrt n}} \sim t(n-1)$

$t$ 分布的性质

随着自由度的增大， $t$ 分布趋近于正态分布

样本方差的抽样分布

卡方分布

卡方分布 (Chi-Square Distribution)： $X \sim \chi^2(n)$

$n$ 个独立的标准正态分布变量的平方和服从自由度为 $n$ 的卡方分布。

$X_1,X_2,...,X_n \sim N(0,1) \\ (X_1^2 + X_2^2 +... + X_n^2) \sim \chi^2(n)$

单个总体参数推断时样本方差的抽样分布满足：

$X \sim N(\mu,\sigma2) \\ \frac{(n-1)s^2}{\sigma^2} \sim \chi^2(n-1)$

卡方分布的性质

卡方分布的期望为 $E(\chi^2)=n$ ，方差为 $D(\chi^2)=2n$
卡方分布具有可加性，若 $U \sim \chi^2(n_1)$ ， $V \sim \chi^2(n_2)$ ，则随机变量 $U+V$ 服从 $U+V \sim \chi^2(n_1+n_2)$ 。
卡方分布的形状取决于自由度 $n$ （样本容量）的大小，随着自由度的增大趋于对称。

两个样本方差比的抽样分布

F分布

$F$ 分布 (t-distribution)： $X \sim F(n_1,n_2)$

$U$ 是服从自由度为 $n_1$ 的 $\chi^2$ 分布的随机变量， $U \sim \chi^2(n_1)$ ；

$V$ 是服从自由度为 $n_2$ 的 $\chi^2$ 分布的随机变量， $V \sim \chi^2(n_2)$ 。
则其服从自由度为 $n_1,n_2$ 的 $F$ 分布：

$F = \frac{\frac{U}{n_1}}{\frac{V}{n_2}} \sim F(n_1,n_2)$

两个总体参数推断时样本方差比的抽样分布满足：

3. 点/区间估计

统计推断 (statisticl inference)是通过样本推断总体的统计方法，包括参数估计（由样本统计量估计总体统计量）和假设检验（对总体参数作出假设并判断假设是否成立）。

总体均值的区间估计

graph LR;
0[均值] --- 1[大样本] ---> a[正态分布];
0 --- 2[小样本] --- 已知方差的正态总体 ---> a;
2 --- 未知方差的正态总体 ---> t分布

正态分布的区间估计

条件：

大样本或已知总体方差且总体正态分布的小样本

步骤：

计算样本估计量

2. 计算置信区间（置信上下限为 $z_{\frac{\alpha}{2}} \frac{\sigma}{n}$ ）

其中， $n$ 为样本容量；标准正态分布的 $z$ 分位数可查表得到； $\sigma$ 为总体的标准差，在大样本中可用样本的标准差 $s$ 替代。

标准正态分布查表

标准正态分布表

查概率
案例1：若有 $X \sim N(1.70,0.04)$ ，求 $P(X \le 1.75)$
1. 标准化得 $\frac{1.75-1.70}{0.04} = 1.25$ ，因此正态分布的概率问题可以转化为标准正态分布 $X \sim N(0,1)$ 中求 $P(X \le 1.25)$ 。
2. 标准正态分布表纵轴为变量 $x$ 得整数及一位小数部分，横轴为其二位小数部分，横纵轴对应索引值为 $P(X \le x)$ 。
  
  因此 $P(X \le 1.25)$ 为 $(+0.05,1.2)$ 处的值。
查 $z$ 分位数
案例2：求 $Z_{0.025}$
1. $Z_{0.025}$ 代表标准正态分布曲线中右侧面积为 $0.025$ 时 $z$ 的值，求 $Z_{0.025}$ 即求 $P(X \geq x)=0.025$ 时的 $x$ 。
2. 因此 $P(X \le Z_{0.025})= 1-0.025=0.975$ 。
  
  由值找坐标得 $(+0.06,1.9)$ ，因此 $Z_{0.025}$ 的值为 $1.96$ 。