参数估计 - 黎明の小站

黎明

公告

欢迎来到黎明的小站。本站用于堆叠平时的技术痕迹，记录一些值得留存的想法。

标签

0-1 背包 Algorithm Backup Cloudflare R2 CSS DFS Dijkstra DNS Ford-Fulkerson GitHub Actions HTML Komari Monitor Kruskal Nginx Ops PicGo Prim P值 Restic UI Web Design 三角函数中心极限定理二分搜索二叉树二维随机变量二进制优先队列伯努利概型位运算假设检验最优装载最大流最小生成树最短路径分布函数分支限界分治法加工顺序问题动态规划区间估计区间调度协方差参数估计双指针反三角函数古典概型哈夫曼编码回溯法回溯算法图床图论堆排序增广路大数定律学习路线导数并查集归并排序快速幂快速排序抽样分布拒绝域探针数值随机化算法数字特征数学期望数据压缩数据结构数理统计数组方差旅行商问题显著性水平条件分布条件概率标号法栈概率分布概率统计概率论正态近似点估计独立性相关系数矩阵离散型分布积分简单随机样本素数环统计量网络流置信区间联合分布蒙特卡罗算法贪心算法边缘分布连续型分布链表队列随机事件随机变量随机算法随机采样高等数学

黎明

公告

欢迎来到黎明的小站。本站用于堆叠平时的技术痕迹，记录一些值得留存的想法。

关于我

标签

0-1 背包 Algorithm Backup Cloudflare R2 CSS DFS Dijkstra DNS Ford-Fulkerson GitHub Actions HTML Komari Monitor Kruskal Nginx Ops PicGo Prim P值 Restic UI Web Design 三角函数中心极限定理二分搜索二叉树二维随机变量二进制优先队列伯努利概型位运算假设检验最优装载最大流最小生成树最短路径分布函数分支限界分治法加工顺序问题动态规划区间估计区间调度协方差参数估计双指针反三角函数古典概型哈夫曼编码回溯法回溯算法图床图论堆排序增广路大数定律学习路线导数并查集归并排序快速幂快速排序抽样分布拒绝域探针数值随机化算法数字特征数学期望数据压缩数据结构数理统计数组方差旅行商问题显著性水平条件分布条件概率标号法栈概率分布概率统计概率论正态近似点估计独立性相关系数矩阵离散型分布积分简单随机样本素数环统计量网络流置信区间联合分布蒙特卡罗算法贪心算法边缘分布连续型分布链表队列随机事件随机变量随机算法随机采样高等数学

黎明

公告

欢迎来到黎明的小站。本站用于堆叠平时的技术痕迹，记录一些值得留存的想法。

关于我

标签

0-1 背包 Algorithm Backup Cloudflare R2 CSS DFS Dijkstra DNS Ford-Fulkerson GitHub Actions HTML Komari Monitor Kruskal Nginx Ops PicGo Prim P值 Restic UI Web Design 三角函数中心极限定理二分搜索二叉树二维随机变量二进制优先队列伯努利概型位运算假设检验最优装载最大流最小生成树最短路径分布函数分支限界分治法加工顺序问题动态规划区间估计区间调度协方差参数估计双指针反三角函数古典概型哈夫曼编码回溯法回溯算法图床图论堆排序增广路大数定律学习路线导数并查集归并排序快速幂快速排序抽样分布拒绝域探针数值随机化算法数字特征数学期望数据压缩数据结构数理统计数组方差旅行商问题显著性水平条件分布条件概率标号法栈概率分布概率统计概率论正态近似点估计独立性相关系数矩阵离散型分布积分简单随机样本素数环统计量网络流置信区间联合分布蒙特卡罗算法贪心算法边缘分布连续型分布链表队列随机事件随机变量随机算法随机采样高等数学

站点统计

文章

44

分类

6

标签

105

总字数

124,816

运行天数

0 天

最后活动

0 天前

4300 字

11 分钟

参数估计

2026-06-24 01:50:00

概率论

/

数理统计

/

参数估计

/

点估计

/

区间估计

/

置信区间

本文主要梳理数理统计中的参数估计。这一章属于数理统计的核心内容，其研究目标可以概括为：

\boxed{\text{用收集到的样本数据去估计总体中未知的参数}}

例如，我们已知总体服从正态分布：

X \sim N(\mu, \sigma^2)

但其中均值参数 $\mu$ 和方差参数 $\sigma^2$ 是未知的。我们通过在总体中进行随机抽样，获得一组样本数据：

X_1, X_2, \dots, X_n

随后通过对这些样本数据进行计算，推断和估计未知参数 $\mu$ 与 $\sigma^2$ 的取值。这就是参数估计。

1. 参数估计的两大分类#

根据估计结果的形式，参数估计可以分为两大类：

\boxed{\text{点估计}} \quad \text{与} \quad \boxed{\text{区间估计}}

估计类型	核心含义	典型简例
点估计	用一个具体的数值来估计未知参数	用样本均值 $\overline{X}$ 估计总体均值 $\mu$
区间估计	用一个包含未知参数的随机区间进行估计	估计总体均值满足 $\mu \in (a, b)$

简单总结：

\boxed{\text{点估计给出一个值，区间估计给出一个取值范围}}

2. 点估计的定义#

设总体的概率分布中含有未知参数 $\theta$ 。我们构造一个样本的函数（即统计量）：

\hat{\theta} = \hat{\theta}(X_1, X_2, \dots, X_n)

用这个统计量作为 $\theta$ 的代表去进行推断。

估计量：统计量 $\hat{\theta}(X_1, X_2, \dots, X_n)$ 称为未知参数 $\theta$ 的估计量，它是随机变量。
估计值：抽样后代入具体观测值所得到的实数值 $\hat{\theta}(x_1, x_2, \dots, x_n)$ 称为未知参数 $\theta$ 的估计值，它是一个确定常数。

例如，样本均值：

\overline{X} = \frac{1}{n}\sum_{i=1}^n X_i

是总体均值 $\mu$ 的一个估计量。

当我们抽样后得到具体的数字，计算出来的算术平均数：

\overline{x} = \frac{1}{n}\sum_{i=1}^n x_i

则是总体均值 $\mu$ 的一个估计值。

3. 常用点估计方法#

在参数估计中，最常用的两种点估计构造方法是：

\boxed{\text{矩估计法}} \quad \text{与} \quad \boxed{\text{最大似然估计法}}

4. 矩估计法#

4.1 核心思想#

矩估计法的基本立足点为：

\boxed{\text{用样本矩去替代对应的总体矩}}

我们用样本原点矩直接替换总体原点矩：

总体的一阶原点矩（即期望）为： $E(X)$ ；
样本的一阶原点矩（即均值）为： $\overline{X}$ 。

求解单未知参数时，常令二者相等：

E(X) = \overline{X}

然后解出未知参数的表达式即可。

如果总体包含两个未知参数，则需使用两个矩：

总体的一阶与二阶原点矩分别为： $E(X)$ 和 $E(X^2)$ ；
样本的一阶与二阶原点矩分别为： $\dfrac{1}{n}\sum\limits_{i=1}^n X_i$ 和 $\dfrac{1}{n}\sum\limits_{i=1}^n X_i^2$ 。

4.2 单个参数的矩估计示例#

设总体服从泊松分布：

X \sim P(\lambda)

已知泊松分布的数学期望为：

E(X) = \lambda

样本均值为 $\overline{X}$ 。令总体一阶矩等于样本一阶矩，即：

\lambda = \overline{X}

从而解得参数 $\lambda$ 的矩估计量为：

\boxed{\hat{\lambda} = \overline{X}}

4.3 两个参数的矩估计示例#

设总体服从正态分布，其中两个参数 $\mu$ 和 $\sigma^2$ 均未知：

X \sim N(\mu, \sigma^2)

总体的前二阶原点矩为：

E(X) = \mu

E(X^2) = D(X) + [E(X)]^2 = \sigma^2 + \mu^2

样本的前二阶原点矩为：

A_1 = \frac{1}{n}\sum_{i=1}^n X_i = \overline{X}

A_2 = \frac{1}{n}\sum_{i=1}^n X_i^2

令总体原点矩等于样本原点矩建立方程组：

\mu = \overline{X}

\sigma^2 + \mu^2 = \frac{1}{n}\sum_{i=1}^n X_i^2

解该方程组，得出估计量：

\hat{\mu} = \overline{X}

\hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n X_i^2 - \overline{X}^2 = \frac{1}{n}\sum_{i=1}^n (X_i - \overline{X})^2

因此，正态总体方差参数的矩估计量为：

\boxed{\hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n (X_i - \overline{X})^2}

需要特别注意的是，矩估计中方差项的分母是 $n$ ，而不是无偏样本方差中的 $n-1$ 。

5. 最大似然估计法#

5.1 核心思想#

最大似然估计法的基本立足点为：

\boxed{\text{寻找能使当前已发生样本观测值概率达到最大值的参数作为估计值}}

例如抛一枚硬币 10 次，若实验结果为出现了 8 次正面朝上。我们直觉上会判定该硬币正面朝上的概率更接近 $p=0.8$ ，而不是普通的 $p=0.5$ 。这是因为在 $p=0.8$ 的设定下，发生“8次正面朝上”这一实验结果的概率最大。这就是最大似然的核心思想。

5.2 似然函数#

设获得的独立同分布样本观测值为 $x_1, x_2, \dots, x_n$ ，未知参数为 $\theta$ 。

离散型总体：若总体分布律为 $P(X = x) = p(x; \theta)$ ，则样本联合概率为：

L(\theta) = \prod_{i=1}^n p(x_i; \theta)

连续型总体：若总体概率密度函数为 $f(x; \theta)$ ，则似然函数定义为：

L(\theta) = \prod_{i=1}^n f(x_i; \theta)

最大似然估计的目标就是求解使似然函数 $L(\theta)$ 取得最大值的未知参数：

\boxed{\hat{\theta} = \arg\max_\theta L(\theta)}

5.3 对数似然的引入#

由于似然函数 $L(\theta)$ 通常是多个乘积项的乘式，直接求导数寻找极值点计算量极大。

而对数函数是单调递增的，所以 $L(\theta)$ 的极值点与对数似然函数 $\ln L(\theta)$ 的极值点完全重合：

\ln L(\theta) = \sum_{i=1}^n \ln f(x_i; \theta)

取对数后，原本的乘积式转换成了求和式，便于求导数计算。

最大似然估计的通用计算步骤为：

写出似然函数表达式 $L(\theta)$ ；
取对数得到对数似然函数 $\ln L(\theta)$ ；
对对数似然函数关于参数求导数（或偏导数）；
令导数为 0 建立一阶极值方程；
解方程求得最大似然估计量。

6. 最大似然估计例题一：伯努利分布#

设总体服从两点分布，其中 $p$ 为未知参数：

P(X = 1) = p, \quad P(X = 0) = 1 - p

抽取随机样本为 $X_1, X_2, \dots, X_n$ 。求参数 $p$ 的最大似然估计量。

【解析】

每一个样本 $X_i$ 的概率质量可以统一表示为 $P(X = X_i) = p^{X_i}(1-p)^{1-X_i}$ 。

写出似然函数：

L(p) = \prod_{i=1}^n p^{X_i}(1-p)^{1-X_i} = p^{\sum X_i}(1-p)^{n - \sum X_i}

取对数得到对数似然函数：

\ln L(p) = \left(\sum_{i=1}^n X_i\right) \ln p + \left(n - \sum_{i=1}^n X_i\right) \ln(1 - p)

对参数 $p$ 求导：

\frac{d}{dp}\ln L(p) = \frac{\sum X_i}{p} - \frac{n - \sum X_i}{1 - p}

令导数等于 0，建立极值方程：

\frac{\sum X_i}{p} = \frac{n - \sum X_i}{1 - p} \implies (1 - p)\sum X_i = p\left(n - \sum X_i\right)

解该方程得出 $p$ 的最大似然估计量：

\boxed{\hat{p} = \frac{1}{n}\sum_{i=1}^n X_i = \overline{X}}

它恰好等于样本中发生事件的比例。

7. 最大似然估计例题二：正态分布#

设总体服从正态分布，其中均值 $\mu$ 与方差 $\sigma^2$ 均未知：

X \sim N(\mu, \sigma^2)

样本观测值为 $X_1, X_2, \dots, X_n$ 。

正态分布密度函数为：

f(x; \mu, \sigma^2) = \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x - \mu)^2}{2\sigma^2}}

写出似然函数：

L(\mu, \sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(X_i - \mu)^2}{2\sigma^2}} = (2\pi\sigma^2)^{-\frac{n}{2}} e^{-\frac{1}{2\sigma^2}\sum (X_i - \mu)^2}

取对数：

\ln L(\mu, \sigma^2) = -\frac{n}{2}\ln(2\pi) - \frac{n}{2}\ln(\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^n (X_i - \mu)^2

分别对 $\mu$ 和 $\sigma^2$ 求偏导数并令其等于 0：

\frac{\partial \ln L}{\partial \mu} = \frac{1}{\sigma^2}\sum_{i=1}^n (X_i - \mu) = 0 \implies \hat{\mu} = \overline{X}

\frac{\partial \ln L}{\partial (\sigma^2)} = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2}\sum_{i=1}^n (X_i - \mu)^2 = 0 \implies \hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n (X_i - \hat{\mu})^2

代入求出的均值估计量，得到最大似然估计结果：

\boxed{\hat{\mu} = \overline{X}}

\boxed{\hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n (X_i - \overline{X})^2}

需要指出的是，最大似然估计推导出的方差分母是 $n$ ，而不是 $n-1$ 。

因为无偏样本方差定义为：

S^2 = \frac{1}{n-1}\sum_{i=1}^n (X_i - \overline{X})^2

这说明：

\boxed{\text{正态总体方差的最大似然估计量不是无偏估计量}}

8. 矩估计与最大似然估计的对比#

估计方法	核心思想	方法特点
矩估计	用样本均值、样本平方均值等直接替代总体的对应矩	计算相对简单直接，不需要明确知晓总体具体的概率分布类型
最大似然估计	寻找使已发生观测结果的联合发生概率达到最大值的参数	依赖于总体概率密度的具体形式，推导出的估计量通常具备更为优良的数理统计性质

简明记忆：

\boxed{\text{矩估计关注统计特征对齐，最大似然估计关注最合理解释样本数据}}

9. 估计量的评价标准#

对于同一个未知参数，采用不同的估计方法可能会构造出不同的估计量。我们需要通过以下三个标准来评价估计量的好坏：

\boxed{\text{无偏性} \quad \text{与} \quad \text{有效性} \quad \text{与} \quad \text{相合性}}

9.1 无偏性#

若估计量 $\hat{\theta}$ 的数学期望等于未知参数的真实值，则称其为无偏估计量：

\boxed{E(\hat{\theta}) = \theta}

这意味着在大量的重复抽样估算中，该估计量在平均水平上没有系统性偏差。

样本均值 $\overline{X}$ 是总体均值 $\mu$ 的无偏估计量，因为 $E(\overline{X}) = \mu$ 。
无偏样本方差 $S^2$ 是总体方差 $\sigma^2$ 的无偏估计量，因为满足 $E(S^2) = \sigma^2$ 。
而前面求出的矩估计与最大似然估计中的方差估计量 $\hat{\sigma}^2$ 的期望为：

E(\hat{\sigma}^2) = \frac{n-1}{n}\sigma^2 \ne \sigma^2

因此 $\hat{\sigma}^2$ 是有偏估计。

9.2 有效性#

如果两个估计量 $\hat{\theta}_1$ 和 $\hat{\theta}_2$ 都是参数 $\theta$ 的无偏估计量，我们通过比较它们的方差来评估其精确度：

若满足：

D(\hat{\theta}_1) < D(\hat{\theta}_2)

则称估计量 $\hat{\theta}_1$ 比 $\hat{\theta}_2$ 更有效。

简明记忆：

\boxed{\text{在同样无偏的前提下，谁的方差小波动小，谁就更有效}}

9.3 相合性#

若当样本容量 $n \to \infty$ 时，估计量 $\hat{\theta}$ 依概率收敛于未知参数的真实值 $\theta$ ，则称其为相合估计量（也叫一致估计量）：

\hat{\theta} \xrightarrow{P} \theta

直观理解是：样本量越大，估算值就越接近真实参数。根据辛钦大数定律，样本均值 $\overline{X}$ 是总体均值 $\mu$ 的相合估计量。

10. 区间估计的基本概念#

点估计仅给出一个具体数值，但在实际中，单点估值刚好等于真实参数的概率几乎为 0。

为了说明估计的精确度与可靠性，我们需要构造一个以高概率包含真实参数的区间，这就是区间估计。

10.1 置信区间与置信水平#

如果对于给定的显著性水平 $\alpha$ （ $0 < \alpha < 1$ ），能够构造两个统计量 $\theta_1$ 和 $\theta_2$ ，使得总体未知参数 $\theta$ 满足：

P(\theta_1 < \theta < \theta_2) = 1 - \alpha

则称随机区间 $(\theta_1, \theta_2)$ 是未知参数 $\theta$ 的置信度为 $1 - \alpha$ 的置信区间。

这里的 $1 - \alpha$ 称为置信水平（置信度），常见的取值有 0.95 或 0.99；
统计量 $\theta_1$ 与 $\theta_2$ 分别称为置信区间的置信下限与置信上限。

10.2 置信区间的正确理解#

例如，我们通过估算得出均值参数置信区间为 $\mu \in (98.5, 101.2)$ ，其置信水平为 $95\%$ 。

需要特别指出，不能解释为“参数 $\mu$ 有 $95\%$ 的概率落在此区间内”。因为在数理统计中，未知参数 $\mu$ 是一个固定的常数，它并不具有随机性；而我们求出来的区间端点 $(\theta_1, \theta_2)$ 才是包含样本数据的随机变量。

正确的解释是：如果按照同样的方法重复抽样 100 次，可以构造出 100 个不同的置信区间，其中大约有 95 个区间能够包含真正的未知参数。

简明规律：

\boxed{\text{在样本量一定时，置信水平越高，置信区间跨度越宽}}

11. 单个正态总体均值 $\mu$ 的区间估计#

这是参数估计章节中最核心的计算部分。

情况一：总体方差 $\sigma^2$ 已知#

设总体服从 $X \sim N(\mu, \sigma^2)$ ，其中方差 $\sigma^2$ 已知。

根据样本均值性质有 $\overline{X} \sim N\left(\mu, \dfrac{\sigma^2}{n}\right)$ ，进行标准化处理：

\frac{\overline{X} - \mu}{\sigma / \sqrt{n}} \sim N(0, 1)

因此，在置信水平为 $1-\alpha$ 下，总体均值 $\mu$ 的置信区间公式为：

\boxed{\left( \overline{X} - z_{\alpha/2} \frac{\sigma}{\sqrt{n}}, \quad \overline{X} + z_{\alpha/2} \frac{\sigma}{\sqrt{n}} \right)}

其中 $z_{\alpha/2}$ 是标准正态分布的双侧分位数。对于 $95\%$ 的置信水平，对应 $z_{0.025} = 1.96$ 。

情况二：总体方差 $\sigma^2$ 未知#

设总体服从 $X \sim N(\mu, \sigma^2)$ ，其中方差 $\sigma^2$ 未知。

因为方差未知，我们使用无偏样本标准差 $S$ 替换未知的总体标准差 $\sigma$ ，此时标准化后的变量不再服从正态分布，而是服从学生分布（即 $t$ 分布）：

\frac{\overline{X} - \mu}{S / \sqrt{n}} \sim t(n-1)

因此，在置信水平为 $1-\alpha$ 下，总体均值 $\mu$ 的置信区间公式为：

\boxed{\left( \overline{X} - t_{\alpha/2}(n-1) \frac{S}{\sqrt{n}}, \quad \overline{X} + t_{\alpha/2}(n-1) \frac{S}{\sqrt{n}} \right)}

其中 $t_{\alpha/2}(n-1)$ 是自由度为 $n-1$ 的 $t$ 分布的双侧分位数。

区间估计工具选择判断#

对于正态总体均值的区间估计，选择检验分布的依据为：

总体方差状态	适用分布类型
总体方差 $\sigma^2$ 已知	标准正态分布 $Z$ 分布
总体方差 $\sigma^2$ 未知	$t$ 分布

简明记忆：

\boxed{\text{方差已知用 } Z \text{，方差未知用 } t}

12. 单个正态总体方差 $\sigma^2$ 的区间估计#

设总体服从正态分布 $X \sim N(\mu, \sigma^2)$ ，其参数均未知。

根据数理统计的基本定理，样本方差满足卡方分布性质：

\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)

因此，在置信度为 $1-\alpha$ 下，总体方差 $\sigma^2$ 的置信区间公式为：

\boxed{\left( \frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}, \quad \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)} \right)}

注意：由于卡方分布概率密度并不对称，此区间是不对称的，且分母上较小的值 $\chi^2_{1-\alpha/2}(n-1)$ 作为分母排在右侧上限位置。

若需要求标准差 $\sigma$ 的置信区间，对区间两端点开平方根即可：

\boxed{\left( \sqrt{\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}}, \quad \sqrt{\frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}} \right)}

13. 单个总体比例 $p$ 的区间估计#

设总体某特征出现的概率（如次品率、合格率）为 $p$ 。进行了 $n$ 次独立重复试验，样本比例为 $\hat{p} = \dfrac{X}{n}$ 。

当样本量 $n$ 较大时，根据中心极限定理，样本比例近似服从正态分布：

\hat{p} \approx N\left(p, \frac{p(1-p)}{n}\right)

我们在计算方差时使用样本比例 $\hat{p}$ 代替未知参数 $p$ ，得出其近似的 $1-\alpha$ 置信区间公式：

\boxed{\left( \hat{p} - z_{\alpha/2} \sqrt{\frac{\hat{p}(1-\hat{p})}{n}}, \quad \hat{p} + z_{\alpha/2} \sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \right)}

14. 两个独立正态总体均值差 $\mu_1 - \mu_2$ 的区间估计#

设有两个独立的总体 $X \sim N(\mu_1, \sigma_1^2)$ 和 $Y \sim N(\mu_2, \sigma_2^2)$ 。样本均值分别为 $\overline{X}$ 和 $\overline{Y}$ 。

情况一：两个总体方差已知#

当总体方差 $\sigma_1^2$ 和 $\sigma_2^2$ 均已知时，均值差的 $1-\alpha$ 置信区间公式为：

\boxed{\left( (\overline{X} - \overline{Y}) - z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}}, \quad (\overline{X} - \overline{Y}) + z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}} \right)}

情况二：两个总体方差未知但相等#

若两总体方差未知，但根据经验可以确定它们相等，即 $\sigma_1^2 = \sigma_2^2 = \sigma^2$ 。

我们首先计算两个样本的联合样本方差（即合并样本方差） $S_w^2$ ：

S_w^2 = \frac{(n_1 - 1)S_1^2 + (n_2 - 1)S_2^2}{n_1 + n_2 - 2}

在此条件下，均值差的置信区间采用 $t$ 分布：

\boxed{\left( (\overline{X} - \overline{Y}) - t_{\alpha/2}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}, \quad (\overline{X} - \overline{Y}) + t_{\alpha/2}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1} + \frac{1}{n_2}} \right)}

15. 两个独立正态总体方差比 $\dfrac{\sigma_1^2}{\sigma_2^2}$ 的区间估计#

对于方差比值的估计，需要构造服从 $F$ 分布的统计量：

\frac{S_1^2 / \sigma_1^2}{S_2^2 / \sigma_2^2} \sim F(n_1 - 1, n_2 - 1)

由此推导出总体方差比值 $\dfrac{\sigma_1^2}{\sigma_2^2}$ 的 $1-\alpha$ 置信区间为：

\boxed{\left( \frac{S_1^2}{S_2^2} \frac{1}{F_{\alpha/2}(n_1-1, n_2-1)}, \quad \frac{S_1^2}{S_2^2} \frac{1}{F_{1-\alpha/2}(n_1-1, n_2-1)} \right)}

利用临界值倒数关系 $F_{1-\alpha/2}(d_1, d_2) = \dfrac{1}{F_{\alpha/2}(d_2, d_1)}$ ，上式也可以改写。

16. 参数估计常见考查题型#

题型一：求参数的矩估计量#

解题步骤：

算期望：写出总体原点矩表达式，如 $E(X)$ 、 $E(X^2)$ ；
算样本矩：写出样本对应的一阶或二阶均值式子，如 $\overline{X}$ 、 $\dfrac{1}{n}\sum X_i^2$ ；
对齐：令总体矩恒等于对应的样本矩；
解方程：解出未知参数的显式表达式。

题型二：求参数的最大似然估计量#

解题步骤：

乘积建立似然函数：根据离散分布律或连续密度函数求积式，列出 $L(\theta)$ ；
取对数：求得对数似然 $\ln L(\theta)$ ；
求导数：对对数似然求未知参数的一阶导数（或偏导数方程组）；
令导数为 0：建立极值点方程；
解未知数：解得估计量表达式。

题型三：检验估计量的无偏性#

解题步骤：

求出所构造估计量 $\hat{\theta}$ 的数学期望 $E(\hat{\theta})$ ；
判定其结果是否完全等于参数的真实值 $\theta$ 。若恒等则为无偏估计，否则为有偏估计。

题型四：判断置信区间的适用公式#

解题步骤：审清题目中是“均值区间”还是“方差区间”；针对均值区间，看清总体标准差 $\sigma$ 在题干中是否已知，根据“已知用 $Z$ ，未知用 $t$ ”的规律选择对应公式。

17. 易错点总结#

易错点一：混淆估计量与估计值#

估计量（如 $\hat{\theta}(X_1, \dots, X_n)$ ）是一个关于样本随机变量的函数，其本身是具有分布特性的随机变量。而估计值（如 $\hat{\theta}(x_1, \dots, x_n)$ ）是将具体的数值代入后计算得出的具体数值。

易错点二：正态总体方差估计的常数分母混淆#

需要理清：样本方差 $S^2$ 的分母是 $n-1$ ，它是总体方差的无偏估计；而通过矩估计与最大似然估计求出来的正态方差估计量，其分母是 $n$ ，它是有偏估计。

易错点三：区间估计中置信水平与区间宽度的关系#

在样本容量不变的情况下，如果想要提高置信水平（例如从 95% 提升到 99%），置信区间的跨度必然会变宽，因为更高的可靠度要求更大的覆盖范围。

易错点四：区间估计中对未知参数随机落入的错误表述#

置信区间是一个随机区间，其边界是随机变量。而未知参数是一个未知的恒定常数。所以应当表述为“区间包含该参数的概率为置信水平”，而不是“参数落入区间的概率”。

18. 本章核心公式表#

知识点内容	核心公式与计算式
矩估计法	总体原点矩等于对应的样本原点矩（ $E(X^k) = A_k$ ）
似然函数 (连续型)	$L(\theta) = \prod\limits_{i=1}^n f(x_i; \theta)$
对数似然求极值	$\dfrac{d}{d\theta}\ln L(\theta) = 0$
无偏性定义	$E(\hat{\theta}) = \theta$
有效性比较	在无偏的前提下，方差较小者更有效（ $D(\hat{\theta}_1) < D(\hat{\theta}_2)$ ）
均值置信区间 ( $\sigma$ 已知)	$\left( \overline{X} - z_{\alpha/2}\dfrac{\sigma}{\sqrt{n}}, \quad \overline{X} + z_{\alpha/2}\dfrac{\sigma}{\sqrt{n}} \right)$
均值置信区间 ( $\sigma$ 未知)	$\left( \overline{X} - t_{\alpha/2}(n-1)\dfrac{S}{\sqrt{n}}, \quad \overline{X} + t_{\alpha/2}(n-1)\dfrac{S}{\sqrt{n}} \right)$
方差置信区间 ( $\sigma^2$ 未知)	$\left( \dfrac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}, \quad \dfrac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)} \right)$
总体比例置信区间	$\left( \hat{p} - z_{\alpha/2}\sqrt{\dfrac{\hat{p}(1-\hat{p})}{n}}, \quad \hat{p} + z_{\alpha/2}\sqrt{\dfrac{\hat{p}(1-\hat{p})}{n}} \right)$

19. 一句话掌握参数估计#

参数估计的完整推导链条为：

\boxed{\text{构造点估计量} \rightarrow \text{利用三大性质评价} \rightarrow \text{利用枢轴量法建立置信区间}}

做题时的分析路径为：

确定估计模式：如果要求单一估值则用点估计，如果要求范围则用区间估计；
点估计求解：矩估计令一二阶原点矩对齐解方程；最大似然估计求导对数似然式并令导数为 0；
区间估计求解：根据正态分布均值估计的条件判断，方差已知套用标准正态分位数，方差未知套用 $t$ 分位数；方差估计套用卡方分位数。

20. 框框老师#

如果这篇文章对你有帮助，欢迎分享给更多人！

参数估计

https://www.bilibili.com/video/BV168411Z7pf?p=9

作者

黎明

发布于

2026-06-24 01:50:00

许可协议

MIT

部分信息可能已经过时

假设检验

大数定律与中心极限定理

わたしの部屋

1. 参数估计的两大分类#

2. 点估计的定义#

3. 常用点估计方法#

4. 矩估计法#

4.1 核心思想#

4.2 单个参数的矩估计示例#

4.3 两个参数的矩估计示例#

5. 最大似然估计法#

5.1 核心思想#

5.2 似然函数#

5.3 对数似然的引入#

6. 最大似然估计例题一：伯努利分布#

7. 最大似然估计例题二：正态分布#

8. 矩估计与最大似然估计的对比#

9. 估计量的评价标准#

9.1 无偏性#

9.2 有效性#

9.3 相合性#

10. 区间估计的基本概念#

10.1 置信区间与置信水平#

10.2 置信区间的正确理解#

11. 单个正态总体均值 μ\muμ 的区间估计#

情况一：总体方差 σ2\sigma^2σ2 已知#

情况二：总体方差 σ2\sigma^2σ2 未知#

区间估计工具选择判断#

12. 单个正态总体方差 σ2\sigma^2σ2 的区间估计#

13. 单个总体比例 ppp 的区间估计#

14. 两个独立正态总体均值差 μ1−μ2\mu_1 - \mu_2μ1​−μ2​ 的区间估计#

情况一：两个总体方差已知#

情况二：两个总体方差未知但相等#

15. 两个独立正态总体方差比 σ12σ22\dfrac{\sigma_1^2}{\sigma_2^2}σ22​σ12​​ 的区间估计#

16. 参数估计常见考查题型#

题型一：求参数的矩估计量#

题型二：求参数的最大似然估计量#

题型三：检验估计量的无偏性#

题型四：判断置信区间的适用公式#

17. 易错点总结#

易错点一：混淆估计量与估计值#

易错点二：正态总体方差估计的常数分母混淆#

易错点三：区间估计中置信水平与区间宽度的关系#

易错点四：区间估计中对未知参数随机落入的错误表述#

18. 本章核心公式表#

19. 一句话掌握参数估计#

20. 框框老师#

目录

11. 单个正态总体均值 $\mu$ 的区间估计#

情况一：总体方差 $\sigma^2$ 已知#

情况二：总体方差 $\sigma^2$ 未知#

12. 单个正态总体方差 $\sigma^2$ 的区间估计#

13. 单个总体比例 $p$ 的区间估计#

14. 两个独立正态总体均值差 $\mu_1 - \mu_2$ 的区间估计#

15. 两个独立正态总体方差比 $\dfrac{\sigma_1^2}{\sigma_2^2}$ 的区间估计#