0x02 分布

分布种类

抽样分布

在总体$X$的分布类型已知时, 对任一自然数$n$, 都能显式地推导出统计量$T=T(X_1,X_2,\cdots,X_n)$分布的数学表达式, 把这种统计量分布称为精确的抽样分布.

精确的抽样分布大多是在总体为正态分布的情况下得到的, 对于样本量较小的统计推断问题非常有用.

统计三大分布, 就是在总体为正态分布的情况下, 得到的抽样分布:

• $\chi^2$分布

• $t$分布

• $F$分布

渐进分布

借助极限工具, 寻求在样本量$n$无限增大时, 统计量$T=T(X_1,X_2,\cdots,X_n)$的极限分布, 这种极限分布作为抽样分布的一种近似, 称为渐进分布.

这在精确的抽样分布难以求得时有着很大的作用.

例如中心极限定理中, 统计量样本均值$\bar{X}$的分布就是一种渐进分布, 在统计学中有着重要的地位.

随机模拟获得的近视分布

很多问题的抽样分布和渐进分布都是难以求得的, 使用计算机进行随机模拟来获得某种统计量的近似分布.

由正态分布导出的重要分布

$\chi2$分布

随机变量$X_1,X_2,\cdots,X_n$相互对立, 且$X_i(i=1,2,\cdots,n)$服从标准正态分布$N(0,1)$, 则它们的平方和$\sum\limits_{i=1}^{n}X_i^2$服从自由度为$n$的$\chi^2$分布.

自由度可以解释为独立变量的格式, 或二次型的秩.

$\chi^2$分布有如下的性质:

• 数学期望: $E(\chi^2)=n$

• 方差: $D(\chi^2)=2n$

• 可加性: 若$\chi^2_1\sim\chi^2(n_1)$ $\chi^2_2\sim\chi^2(n_2)$, 且两者独立, 则有$\chi^2_1+\chi^2_2=\chi^2(n_1+n_2)$

• 当自由度增加到足够大时, $\chi^2$分布的概率密度函数曲线趋于对称, 且当$n$趋于无穷时, $\chi^2$分布的极限分布是正态分布.

$\chi^2$分布于正态分布

$\chi^2(n)$的$p$分位数$\chi^2_p(n)$可以查卡方分布表获得. $p$分位数$\chi^2_p(n)$指的是, 累计密度达到百分比$p$时对应的$\chi^2_p(n)$, 而这是一个坐标值$x$.

当自由度很大时($n>45$), $\sqrt{2\chi^2(n)}$近视服从于$N(\sqrt{2n-1},1)$, $\chi^2_p(n)\approx{\frac{1}{2}(\mu_p+\sqrt{2n-1})^2}$, 其中$\mu_p$即为$z_p$, 即正态分布的$p$分位数, 因此卡方分布的分位数可以转换为计算正态分布的分位数获得.

$t$分布

$t$分布也称为学生氏分布.

设随机变量$X\sim N(0,1)$, $Y\sim \chi^2(n)$, 且两者独立, 则构筑一个新的随机变量$t=\frac{X}{\sqrt{T/n}}$, 其分布称为$t$分布, 记为$t(n)$, 其中$n$为自由度. $t$分布的概率密度函数是偶函数.

有如下的性质:

• 当$n\ge{2}$时, $E(t)=0$

• 当$n\ge{3}$时, $D(t)=\frac{n}{n-2}$

• $t$分布的概率密度函数与标准正态分布相比, 曲线非常相似, 都是单峰偶函数, 只是$t$的概率密度函数在两侧的尾部要比标准正态分布的两侧尾部粗一些, 且$t$分布的方差大一些

• 随着自由度$n$的增加, $t$分布的概率密度函数越来越接近标准正态分布的密度概率函数. 实际应用中, 当$n\ge{30}$时, 两者就会非常的接近.

• 自由度为1的$t$分布称为柯西分布

• $t$分布对于中小样本有着重要的作用

$t$分布的应用

• 单个随机变量

  设$X_1,X_2,\cdots,X_n$是来自正态分布$N(\mu,\sigma^2)$的一个样本, $\bar{X}=\frac{1}{n}\sum\limits_{i=1}^{n}X_i$, $S^2=\frac{1}{n-1}\sum\limits_{i=1}^{n}(X_i-\bar{X})^2$, 则:

  $\frac{\sqrt{n}(\bar{X}-\mu)}{S}\sim t(n-1)$

  即由统计量$\bar{X}$和$S$构造的上面的随机变量, 服从于自由度为$n-1$的$t$分布. 自由度为$n-1$是因为$\bar{X}$是固定的, 少了一个自由度.

  推导如下:

  $\bar{X}\sim N(\mu, \frac{\sigma^2}{n})$, 根据$t$分布的定义, 将其转为标准正态分布即$\frac{\sqrt{n}(\bar{X}-\mu)}{\sigma}\sim N(0,1)$, 对$S$也进行标准化, 得到$\frac{S^2}{\sigma}\sim N(0,1)$, 因此按照$t$分布的构造公式, 就能得到上面的结果.

• 两个随机变量

  $X$和$Y$相互独立, $X\sim N(\mu_1,\sigma^2)$, $Y\sim N(\mu_2,\sigma^2)$, $X_1,X_2,\cdots,X_n$是来自$X$的一个样本, $Y_1,Y_2,\cdots,Y_m$是来自$Y$的一个样本, 记:

  $\bar{X}=\frac{1}{n}\sum\limits_{i=1}^{n}X_i$

  $\bar{Y}=\frac{1}{m}\sum\limits_{i=1}^{m}Y_i$

  $S^2_x=\frac{1}{n-1}\sum\limits_{i=1}^{n}(X_i-\bar{X})^2$

  $S^2_y=\frac{1}{m-1}\sum\limits_{i=1}^{m}(Y_i-\bar{Y})^2$

  $S^2_{xy}=\frac{(n-1)S^2_x+(m-1)S^2_y}{n+m-2}$

  则有$\sqrt{\frac{mn}{m+n}}\frac{(\bar{X}-\bar{Y})-(\mu_1-\mu_2)}{S^2_{xy}}\sim t(n+m-2)$

$F$分布

$F$分布主要应用在:

• 方差分析

• 回归方程的显著性校验

设随机变量$Y$与$Z$相互独立, 且$Y$和$Z$分别服从自由度为$m$和$n$的$\chi^2$分布, 构造随机变量$X=\frac{Y/m}{Z/n}=\frac{nY}{mZ}$, 称$X$服从第一自由度为$m$, 第二自由度为$n$的$F$分布, 记为$X\sim F(m,n)$.

有以下性质:

• $E(X)=\frac{n}{n-2},\quad n\gt2$

• $D(X)=\frac{2n^2(m+n-2)}{m(n-2)(n-4)},\quad n\gt4$

• $F$分布的$p$分位数$F_p(v_1,v_2)$可查$F$分布表获得, 且$F_p(v_1,v_2)=\frac{1}{F_{1-p}(v_2,v_1)}$

• $F$分布和$t$分布的关系: 随机变量$X$服从$t(n)$分布, 则$X^2$服从$F(1,n)$的$F$分布, 这在回归分析的回归系数显著性检验中有用