mobile wallpaper 1mobile wallpaper 2mobile wallpaper 3mobile wallpaper 4mobile wallpaper 5mobile wallpaper 6
Profile Image of the Author
黎明
公告
欢迎来到黎明的小站。本站用于堆叠平时的技术痕迹，记录一些值得留存的想法。
标签
1971 字
5 分钟
数理统计基本概念
2026-06-23 11:14:04
概率论
概率论
/
数理统计
/
简单随机样本
/
统计量
/
抽样分布

本文主要梳理数理统计中的基本概念。数理统计是一门利用样本数据推断总体概率分布规律的学科，它是参数估计和假设检验的核心基石。

1. 总体与个体#

  • 总体：数理统计研究对象的全体，通常用一个随机变量 XX 来表示其概率分布。
  • 个体：组成总体的每一个研究对象。

例如：

  • 研究某批零件的使用寿命，这批零件的寿命全体构成总体，单件零件的寿命为个体；
  • 研究某学校学生的身高，该校所有学生的身高数据构成总体。

2. 样本与样本容量#

从总体中随机抽取一部分个体，将其测量得到的数据组合称为样本。

设随机抽取了 nn 个个体，其对应的测量结果为：

X1,X2,…,XnX_1, X_2, \dots, X_n

这组随机变量即为样本，其中个体的个数 nn 称为样本容量。

3. 简单随机样本#

若抽取的样本 X1,X2,…,XnX_1, X_2, \dots, X_n 满足以下两个核心条件，则称为简单随机样本：

  1. 同分布性：每个 XiX_i 与总体 XX 具有完全相同的概率分布；
  2. 独立性：各随机变量之间相互独立。

即样本变量之间是独立同分布的，常记作：

X1,X2,…,Xn∼i.i.d.FX_1, X_2, \dots, X_n \overset{i.i.d.}{\sim} F

其中 FF 为总体的概率分布函数。

4. 样本观测值#

  • 随机样本 X1,X2,…,XnX_1, X_2, \dots, X_n 在抽样之前是随机变量；
  • 抽样实施之后，我们获得了具体的一组实数值 x1,x2,…,xnx_1, x_2, \dots, x_n，这组数值称为样本观测值。

例如，随机测量了 5 位学生的身高，获得数据：[168, 172, 165, 180, 175]，这就是一组具体的样本观测值。在公式推导中，大写字母 XiX_i 代表随机变量，小写字母 xix_i 代表具体的观测值。

5. 统计量#

若一个关于样本的函数不包含任何未知的总体参数，则称该函数为统计量。

设 T=T(X1,X2,…,Xn)T = T(X_1, X_2, \dots, X_n) 是关于样本的函数。若 TT 中不含有任何未知参数，则 TT 是一个统计量。统计量本身也是一个随机变量，其在抽样后代入观测值可计算出一个具体的实数值。

常见的统计量包括：样本均值、样本方差、样本标准差、样本最大/最小值以及样本中位数等。

6. 样本均值#

样本均值定义为：

X‾=1n∑i=1nXi\boxed{\overline{X} = \frac{1}{n}\sum_{i=1}^{n}X_i}

其具体的观测值对应为：

x‾=1n∑i=1nxi\overline{x} = \frac{1}{n}\sum_{i=1}^{n}x_i

样本均值常用于作为总体均值 μ=E(X)\mu = E(X) 的估计。它满足以下两个重要数学性质：

E(X‾)=μE(\overline{X}) = \muD(X‾)=σ2nD(\overline{X}) = \frac{\sigma^2}{n}

这说明样本容量 nn 越大，样本均值偏离总体均值的波动程度就越小。

7. 样本方差#

样本方差定义为：

S2=1n−1∑i=1n(Xi−X‾)2\boxed{S^2 = \frac{1}{n-1}\sum_{i=1}^{n}(X_i - \overline{X})^2}

其观测值对应为：

s2=1n−1∑i=1n(xi−x‾)2s^2 = \frac{1}{n-1}\sum_{i=1}^{n}(x_i - \overline{x})^2

需要特别注意，其计算公式中的分母是 n−1n-1，而不是 nn。这是因为在计算样本方差时使用样本均值 X‾\overline{X} 代替了未知的总体均值 μ\mu，这导致样本数据中损失了一个自由度。如此设定能保证样本方差的期望等于总体方差：

E(S2)=σ2E(S^2) = \sigma^2

即保证了样本方差是总体方差的无偏估计量。

8. 样本标准差#

样本标准差定义为样本方差的算术平方根：

S=S2=1n−1∑i=1n(Xi−X‾)2\boxed{S = \sqrt{S^2} = \sqrt{\frac{1}{n-1}\sum_{i=1}^{n}(X_i - \overline{X})^2}}

它常用于度量样本数据点围绕样本均值的离散分布程度。

9. 样本矩#

类似于总体矩的概念，我们可以利用样本数据构造对应的样本矩：

  • 样本 kk 阶原点矩：
Ak=1n∑i=1nXik\boxed{A_k = \frac{1}{n}\sum_{i=1}^{n}X_i^k}
  • 样本 kk 阶中心矩：
Bk=1n∑i=1n(Xi−X‾)k\boxed{B_k = \frac{1}{n}\sum_{i=1}^{n}(X_i - \overline{X})^k}

由定义可知，一阶原点矩即为样本均值 A1=X‾A_1 = \overline{X}。二阶中心矩 B2B_2 与样本方差的关系为：

S2=nn−1B2S^2 = \frac{n}{n-1}B_2

10. 次序统计量#

将样本观测值 X1,X2,…,XnX_1, X_2, \dots, X_n 按从小到大的顺序进行排列，得到：

X(1)≤X(2)≤⋯≤X(n)X_{(1)} \le X_{(2)} \le \cdots \le X_{(n)}

则称随机变量 X(1),X(2),…,X(n)X_{(1)}, X_{(2)}, \dots, X_{(n)} 为该样本的次序统计量。

  • 样本最小值：X(1)=min⁡(X1,…,Xn)X_{(1)} = \min(X_1, \dots, X_n)
  • 样本最大值：X(n)=max⁡(X1,…,Xn)X_{(n)} = \max(X_1, \dots, X_n)

利用最大与最小值，我们可以定义样本的极差 RR：

R=X(n)−X(1)\boxed{R = X_{(n)} - X_{(1)}}

11. 抽样分布#

由于统计量是关于样本随机变量 of the sample 的函数，其本身也是一个随机变量，因而也具有相应的概率分布。统计量的概率分布称为抽样分布。

例如，当总体服从正态分布 X∼N(μ,σ2)X \sim N(\mu, \sigma^2) 时，样本均值这一统计量的抽样分布为：

X‾∼N(μ,σ2n)\overline{X} \sim N\left(\mu, \frac{\sigma^2}{n}\right)

12. 数理统计中的三大典型抽样分布#

这三大抽样分布均由标准正态分布衍生而来，是数理统计推断的核心基石：

12.1 卡方分布（χ2\chi^2 分布）#

设 Z1,Z2,…,ZnZ_1, Z_2, \dots, Z_n 相互独立，且均服从标准正态分布 Zi∼N(0,1)Z_i \sim N(0, 1)。则它们的平方和：

χ2=Z12+Z22+⋯+Zn2\boxed{\chi^2 = Z_1^2 + Z_2^2 + \cdots + Z_n^2}

服从自由度为 nn 的卡方分布，记作 χ2∼χ2(n)\chi^2 \sim \chi^2(n)。

12.2 学生分布（tt 分布）#

设随机变量 Z∼N(0,1)Z \sim N(0, 1)，随机变量 U∼χ2(n)U \sim \chi^2(n)，且 ZZ 与 UU 相互独立。则其比值：

T=ZU/n\boxed{T = \frac{Z}{\sqrt{U/n}}}

服从自由度为 nn 的 tt 分布，记作 T∼t(n)T \sim t(n)。随着自由度 nn 的增大，tt 分布曲线会逐渐逼近标准正态分布曲线。

12.3 FF 分布#

设随机变量 U∼χ2(m)U \sim \chi^2(m)，随机变量 V∼χ2(n)V \sim \chi^2(n)，且 UU 与 VV 相互独立。则其比值：

F=U/mV/n\boxed{F = \frac{U/m}{V/n}}

服从自由度为 (m,n)(m, n) 的 FF 分布，记作 F∼F(m,n)F \sim F(m, n)。

13. 单个正态总体下的常用统计量结论#

设样本 X1,X2,…,XnX_1, X_2, \dots, X_n 来自正态总体 N(μ,σ2)N(\mu, \sigma^2)，则有以下五个极为重要的统计量性质：

  1. 均值抽样分布：
X‾∼N(μ,σ2n)\boxed{\overline{X} \sim N\left(\mu, \frac{\sigma^2}{n}\right)}
  1. 标准化均值（σ2\sigma^2 已知）：
X‾−μσ/n∼N(0,1)\boxed{\frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \sim N(0, 1)}
  1. 样本方差的卡方性质：
(n−1)S2σ2∼χ2(n−1)\boxed{\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)}
  1. 样本方差替代后的 tt 分布性质（σ2\sigma^2 未知）：
X‾−μS/n∼t(n−1)\boxed{\frac{\overline{X} - \mu}{S/\sqrt{n}} \sim t(n-1)}
  1. 独立性定理：
X‾ 与 S2 相互独立\boxed{\overline{X} \text{ 与 } S^2 \text{ 相互独立}}

(注意：此独立性质仅在总体为正态分布时成立)

14. 未知参数与参数估计#

  • 参数：总体概率分布中包含的特征常数（如正态分布中的 μ\mu 和 σ2\sigma^2）。
  • 参数估计：在参数未知的情况下，利用样本计算得到的统计量作为未知参数的近似推断。

参数估计包括点估计（用一个确定的数值代表参数）与区间估计（构造一个以高概率包含参数的范围区间）。

15. 估计量的三大评价标准#

  1. 无偏性：估计量的期望值等于参数真实值，即 E(θ^)=θE(\hat{\theta}) = \theta；
  2. 有效性：在所有无偏估计量中，方差越小（估计波动越稳定）的估计量越有效；
  3. 相合性：当样本容量 n→∞n \to \infty 时，估计量依概率收敛于未知参数的真实值 θ\theta。

16. 假设检验基本思想#

假设检验是通过样本数据对关于总体的某种假设命题进行决策的过程：

  1. 提出假设：建立原假设 H0H_0（代表无差异、厂家说法成立）与备择假设 H1H_1；
  2. 设定显著性水平 α\alpha：规定犯第一类错误（即原假设真实却将其拒绝）的最大概率限度；
  3. 确定决策域：利用抽样分布设定拒绝域，若样本计算值落入拒绝域，则拒绝原假设 H0H_0。

17. 本章核心公式速查表#

核心结论名称对应数学公式表达式
样本均值定义式X‾=1n∑i=1nXi\overline{X} = \dfrac{1}{n}\sum\limits_{i=1}^n X_i
样本方差定义式S2=1n−1∑i=1n(Xi−X‾)2S^2 = \dfrac{1}{n-1}\sum\limits_{i=1}^n (X_i - \overline{X})^2
均值统计量期望与方差E(X‾)=μ,D(X‾)=σ2nE(\overline{X}) = \mu, \quad D(\overline{X}) = \frac{\sigma^2}{n}
样本方差无偏期望E(S2)=σ2E(S^2) = \sigma^2
方差的卡方统计量构造(n−1)S2σ2∼χ2(n−1)\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)
方差未知时的均值 tt 统计量X‾−μS/n∼t(n−1)\frac{\overline{X} - \mu}{S/\sqrt{n}} \sim t(n-1)
FF 分布统计量构造F=U/mV/nF = \frac{U/m}{V/n}

18. 本章学习主线#

关于数理统计基本概念的学习逻辑，可以通过以下链路进行贯通掌握：

总体分布  ⟹  样本抽样  ⟹  构造统计量  ⟹  推导抽样分布  ⟹  开展参数估计与假设检验\boxed{\text{总体分布} \implies \text{样本抽样} \implies \text{构造统计量} \implies \text{推导抽样分布} \implies \text{开展参数估计与假设检验}}

19. 框框老师#

Image Image

分享

如果这篇文章对你有帮助，欢迎分享给更多人！

数理统计基本概念
https://www.bilibili.com/video/BV168411Z7pf?p=8
作者
黎明
发布于
2026-06-23 11:14:04
许可协议
MIT

部分信息可能已经过时

大数定律与中心极限定理
随机变量的数字特征
相关文章 智能推荐
1
参数估计
概率论 系统梳理数理统计中的参数估计，包括矩估计法与最大似然估计法两大点估计方法、估计量的无偏性与有效性评价标准，以及正态总体均值与方差的区间估计理论。
2
常见概率分布
概率论 系统整理概率论与数理统计中的各类常见概率分布，包括两点分布、二项分布、几何分布、超几何分布与泊松分布五大离散型分布，均匀分布、指数分布与正态分布三大连续型分布，以及卡方、t、F三大抽样分布。
3
假设检验
概率论 系统梳理数理统计中的假设检验，包括假设检验的基本思想、原假设与备择假设、双侧与单侧检验、两类错误，以及单个与两个正态总体的均值和方差检验、成对样本检验与P值法。
4
大数定律与中心极限定理
概率论 系统梳理概率论与数理统计中的大数定律与中心极限定理，包括独立同分布中心极限定理、棣莫弗-拉普拉斯定理及连续性校正等内容。
5
随机事件及其概率
概率论 系统梳理随机事件、样本空间、概率公式与常见题型，帮助建立概率论的基础概念框架。
随机文章 随机推荐
1
随机变量的数字特征
概率论 2026-06-22
2
博客国内外双节点部署与全链路架构解耦
运维记录 2026-05-19
3
数据结构：栈和队列的互相转化
Algorithm 2026-05-13
4
假设检验
概率论 2026-06-24
5
随机事件及其概率
概率论 2026-06-18
豫ICP备2026007336号 萌ICP备20266900号
© 2026 黎明. All Rights Reserved. / RSS / Atom / Sitemap
Powered by Astro & Mizuki  Version 9.0

目录