考研学习
补充知识概率论与数理统计

概率论与数理统计知识链

概率论与数理统计补充讲义:概率论与数理统计知识链

Last updated on

可以把概率论与数理统计里的一大堆概念,看成一条非常清晰的链:

现实中的随机现象 → 随机试验 → 样本空间 → 随机事件 → 概率 → 随机变量 → 分布 → 总体 → 抽样 → 样本 → 统计量 → 抽样分布 → 用样本推断总体

一旦这条链理顺,很多名词就不会混了。


一、概率论到底在研究什么?

概率论研究的是:

当一个现象的单次结果不能确定,但长期来看又有规律时,如何用数学描述这种“不确定性”。

比如:

  • 抛硬币,不知道下一次是正面还是反面;
  • 明天下不下雨,不确定;
  • 随机抽一个学生,不知道他的身高;
  • 一个元件什么时候坏,不确定;
  • 股票明天涨跌,不确定。

这些都是随机现象。

概率论并不是说“完全不知道”,而是:

虽然单次结果不确定,但我们可以研究各种结果出现的可能性,以及这些可能性遵循什么规律。


二、随机试验是什么?

1. 随机试验

一个过程如果满足:

  1. 可以在相同条件下重复进行;
  2. 所有可能结果事先可以知道;
  3. 每次到底出现哪个结果不能提前确定;

就叫随机试验。

例如抛一次骰子:

可能结果是

但抛之前不知道是哪一个。

所以“抛一次骰子”就是一个随机试验。


三、样本点、样本空间是什么?

1. 样本点

一次随机试验的一个具体结果,叫样本点。

例如掷骰子:

表示“这次掷出了 3”。

这里的 就是一个样本点。

通常用

表示一个样本点。


2. 样本空间

所有可能样本点组成的集合,叫做样本空间。

记作

例如掷骰子:

抛两次硬币:

其中:

  • :两次都是正面;
  • :第一次正面、第二次反面;
  • :第一次反面、第二次正面;
  • :两次都是反面。

四、随机事件是什么?

这是概率论最重要的概念之一。

1. 事件本质上是“样本空间的一个子集”

假设掷骰子:

定义事件:

:掷出的点数是偶数。

那么:

所以:

随机事件,就是我们关心的一类结果。

一个具体结果是“样本点”,一堆符合某个条件的样本点组成“事件”。


2. 样本点和事件的区别

例如掷骰子:

“掷出了 4”是一个具体结果,也可以看作最简单的事件:

“掷出了偶数”则是:

所以:

  • 样本点:一次具体结果;
  • 事件:一类结果。

五、必然事件、不可能事件

整个样本空间:

叫做必然事件。

因为不论实验结果是什么,都一定属于 。

例如掷骰子:

“点数在 1 到 6 之间”

一定发生。

而空集:

叫做不可能事件。

比如:

“掷骰子掷出 7”。


六、事件之间有哪些关系?

其实就是集合关系。

设

那么:


1. 交事件

表示:

和 同时发生。

这里:

也就是:

既是偶数,又大于 3。


2. 并事件

表示:

或 至少发生一个。


3. 对立事件

事件 不发生,叫 的对立事件:

或者写成:

并且:


4. 互斥事件

如果:

那么 叫互斥事件。

意思是:

两件事不能同时发生。

例如:

  • :骰子掷出奇数;
  • :骰子掷出偶数。

两者不能同时发生。

注意:

互斥 ≠ 独立。

这是概率论特别容易混淆的地方,后面会讲。


七、概率是什么?

概率就是:

用一个 到 之间的数字,描述某个事件发生的可能性大小。

写成:

满足:

其中:

表示几乎不会发生;

表示必然发生。

例如公平骰子:


八、条件概率是什么?

这是另一个非常关键的概念。

假设我们已经知道事件 发生了,那么再问事件 发生的概率,这叫:

读作:

在 已经发生的条件下, 发生的概率。

公式:

前提:


直观理解

原来我们在整个样本空间 里考虑。

一旦知道 发生了:

新的“世界”就缩小到了 。

然后我们只看:

占 的比例。

所以条件概率的本质是:

已知一些信息后,重新计算概率。


九、独立是什么?

两个事件 如果满足:

就称它们相互独立。

直观上:

是否发生,不影响 发生的概率。

等价地:

也就是说:

知道 已经发生,并没有给我们关于 的额外信息。

例如连续抛两次公平硬币:

  • :第一次正面;
  • :第二次正面。

则通常独立。


十、随机变量是什么?

这是整个概率论的核心转折点。

很多人第一次看到“随机变量”会以为:

“就是一个随机变化的变量。”

这并不准确。

严格来说:

随机变量是一个函数,它把随机试验的结果映射成一个数。

即:


十一、为什么需要随机变量?

例如抛两次硬币:

我们真正关心的可能不是具体顺序,而是:

出现了几个正面?

定义随机变量:

于是:

原来复杂的结果:

被转换成了数字:

所以随机变量最重要的意义是:

把随机现象数字化。

有了数字,就可以:

  • 求平均;
  • 求方差;
  • 画分布;
  • 做积分;
  • 建立模型;
  • 做统计推断。

十二、随机变量为什么叫“变量”?

因为不同试验结果对应不同数值。

例如:

那么 可能取:

但是,在一次具体实验发生之前,并不知道它最终取多少。

所以叫“随机变量”。

严格来说:

随机的是实验结果,随机变量本身是一个确定的映射规则。


十三、离散随机变量和连续随机变量

1. 离散型随机变量

如果随机变量可能取有限个或者可数多个值:

就叫离散型随机变量。

比如:

  • 骰子点数;
  • 一天收到多少条短信;
  • 一个班有多少人及格;
  • 抛 10 次硬币出现几个正面。

例如:


2. 连续型随机变量

如果随机变量可以在一个区间内连续取值,则叫连续型随机变量。

比如:

  • 身高;
  • 体重;
  • 温度;
  • 寿命;
  • 等待时间。

例如:


十四、概率分布是什么?

知道随机变量“可能取哪些值”还不够。

还要知道:

每个值有多大可能出现。

这个规律就叫概率分布。

所以:

随机变量告诉你“把结果变成什么数”,分布告诉你“这些数出现的规律”。


十五、离散型随机变量的分布律

例如公平骰子:

那么:

一直到:

这就是 的概率分布。

一般记:

满足:

以及:


十六、连续随机变量的概率密度是什么?

连续变量不能像离散变量那样讨论:

因为通常:

例如身高恰好等于:

这个精确数值出现的概率是 0。

所以连续型随机变量研究的是:

通过概率密度函数:

来计算:

所以:

概率密度不是某一点的概率,而是“单位长度附近概率有多密集”。


十七、分布函数是什么?

不管离散还是连续,都可以统一用分布函数:

意思是:

随机变量 不超过 的概率。

例如:

可以理解为:

把 从左向右移动,累计到 为止已经积累了多少概率。

因此 也叫累积分布函数。


十八、数学期望是什么?

数学期望:

可以理解成随机变量的:

长期平均值、概率意义下的中心位置。

离散情形:

连续情形:


例子

公平骰子:

所以:

注意:

一次掷骰子永远不会出现 。

所以期望不是:

“最可能出现的值”。

而是:

大量重复实验后的平均水平。


十九、方差是什么?

只知道平均值不够。

比如两个随机变量平均值都等于 10:

A:

B:

它们波动程度完全不同。

于是定义方差:

它衡量:

随机变量离自己均值有多分散。

另一个常用公式:


二十、标准差是什么?

因为方差进行了平方,所以量纲变了。

因此取平方根:

叫做标准差。

它和原随机变量单位相同。

例如身高单位是 cm:

  • 方差单位是 ;
  • 标准差单位重新变成 cm。

二十一、多维随机变量是什么?

有时候一个对象不只关心一个特征。

例如随机抽一个人:

那么:

就是二维随机变量。

研究的是:

身高和体重如何联合变化。

于是产生:

  • 联合分布;
  • 边缘分布;
  • 条件分布;
  • 协方差;
  • 相关系数。

二十二、协方差是什么?

协方差描述:

两个随机变量是否倾向于一起变化。

定义:

也可写:

如果:

通常表示:

大时, 也倾向于大。

如果:

通常表示:

一个大时,另一个倾向于小。


二十三、相关系数是什么?

协方差受单位影响,所以进行标准化:

满足:

它主要衡量:

线性相关程度。

注意:

一般不意味着独立。

而如果 独立,则在期望存在的情况下:


二十四、从概率论进入数理统计

前面主要是在讲概率论:

假设一个随机模型已经知道,研究它会产生什么结果。

例如已知:

然后研究:

  • 概率;
  • 期望;
  • 方差;
  • 分布。

但现实中往往恰好相反:

我们不知道总体分布和参数,只拿到了一些数据。

这就进入了数理统计。


二十五、总体是什么?

“总体”是统计学里的核心概念。

总体不是简单指“所有人”。

更准确地说:

总体是我们所研究对象的全部可能观测值所形成的集合,或者说背后那个随机变量及其分布。


举例

想研究:

某大学所有学生的身高。

那么可以把:

看作总体随机变量。

其分布:

就是我们研究的总体分布。

所以在数理统计中:

总体本质上通常是一个随机变量或概率分布。

这一点非常重要。


二十六、个体是什么?

总体里的每一个研究对象叫个体。

例如研究全国大学生身高:

  • 总体:全国大学生身高总体;
  • 个体:某一个大学生。

但还需要区分:

人是“研究对象”,身高才是我们实际观察的数据。

例如某个人:

是一个个体;

他的身高:

是这个个体对应的一个观测值。


二十七、总体和个体如何深刻理解?

假设我们关心:

全国成年男性身高。

可以想象有一个巨大的“盒子”。

里面装着所有可能的身高:

整体规律就是总体分布。

随机从里面抽一个:

得到一个身高,例如:

所以:

  • 总体:背后的整体规律;
  • 个体:总体中的一个对象;
  • 个体值:这个对象在研究指标上的取值。

二十八、样本是什么?

总体通常太大,我们不可能调查所有人。

比如中国有非常多大学生,不可能全部测量。

于是从总体中抽取一部分个体。

这些观测结果叫样本。

例如随机抽 100 人:

这称为一个容量为 100 的样本。

一般写:

其中:

叫样本容量。


二十九、为什么 还是随机变量?

这是统计里很关键的地方。

在你真正抽样之前:

你不知道第一个人身高多少,也不知道第二个人多少。

所以:

都是随机变量。

抽样结束后,假设观察到:

等等。

这时:

叫做样本观测值。

因此要区分:

和


三十、简单随机样本是什么?

考研里经常出现:

设 是来自总体 的简单随机样本。

是什么意思?

就是:

满足两个条件。

第一,彼此独立:

相互独立。

第二,同分布:

而且它们和总体 具有相同分布。

简称:

独立同分布

即:


三十一、为什么要求独立同分布?

因为我们希望每次抽样都像:

从同一个总体公平地重新抽一次。

例如研究某大学学生身高:

第一个学生:

第二个学生:

如果都是随机独立抽取,那么每一个都应遵循同样的总体身高分布。

这样样本才能代表总体。


三十二、参数是什么?

假设总体分布属于某个已知类型:

但是我们不知道:

和:

那么这些未知常数叫做总体参数。

比如:

  • 总体均值:
  • 总体方差:

统计学一个非常重要的任务就是:

根据样本估计这些未知参数。


三十三、统计量是什么?

这是统计学的核心之一。

定义:

完全由样本构成,并且不含未知参数的函数,叫统计量。

例如:

叫做样本均值。

因为它完全由:

构成。

又例如样本方差:

也是统计量。


三十四、总体均值和样本均值的区别

总体均值:

它是总体的属性。

通常是一个固定但未知的数。

样本均值:

则是一个随机变量。

因为样本是随机抽出来的。

抽不同的人:

会不同。

例如第一次抽 100 人:

第二次重新抽 100 人:

所以:

总体均值是固定的;样本均值是随机的。


三十五、总体方差和样本方差区别

总体方差:

是总体真正的离散程度。

样本方差:

则利用样本估计总体方差。

可以粗略理解成:

即:

用样本统计量去估计总体参数。


三十六、抽样分布是什么?

这是你特别提到的一个概念,也是很多人真正开始学统计时最容易懵的地方。

先想象:

从总体中随机抽 个人,求平均身高:

第一次:

重新抽 个人:

再重新抽:

……

你会发现:

每次样本均值都不一样。

因此:

本身就是随机变量。

既然是随机变量,它自然也有自己的概率分布。

这个分布就叫:

统计量的抽样分布。


三十七、什么叫“抽样分布”?

准确来说:

统计量由于随机抽样而形成的概率分布,叫该统计量的抽样分布。

例如:

有一个分布。

也有一个分布。

于是可以问:

或者:

这就是抽样分布研究的问题。


三十八、为什么抽样分布如此重要?

因为整个统计推断就是靠它。

例如你不知道:

但你知道样本均值:

围绕 如何波动。

如果:

独立同分布,而且:

那么:

而:

所以随着:

样本均值波动越来越小。

这就是为什么:

样本量越大,估计通常越稳定。


三十九、总体分布、样本分布、抽样分布千万别混

这三个特别容易混。

总体分布

研究:

例如:

描述的是:

单个个体的数据如何分布。


样本

抽出了:

得到:

这是具体的一组数据。


抽样分布

把统计量:

看成随机变量。

研究:

的概率分布。

比如:

那么研究的是:

在“重复抽样”时怎么变化。


四十、一个例子彻底理解总体、样本、统计量、抽样分布

假设某工厂生产灯泡。

灯泡寿命服从:


总体

表示:

随机选一个灯泡,它的寿命。

所以:

表示总体平均寿命。


个体

某一个具体灯泡。

例如第 50281 个灯泡。

它的寿命可能是:


样本

随机抽 25 个灯泡:


样本均值

这是统计量。


抽样分布

由于总体正态,因此:

即:

意思是:

如果不断重复“抽 25 个灯泡并计算平均寿命”这个过程,那么得到的无数个样本均值,会近似形成一个均值 1000、标准差 20 的正态分布。

这就是抽样分布。


四十一、三大经典抽样分布是什么?

考研统计里最重要的是:

  1. 分布;
  2. 分布;
  3. 分布。

它们之所以出现,本质上都是:

某些统计量的概率分布。


1. 卡方分布

如果:

那么:

服从自由度为 的卡方分布:


2. 分布

如果:

且独立,则:

服从:


3. 分布

如果:

且相互独立,则:

服从:


四十二、估计量是什么?

统计量如果专门被用来估计一个未知参数,就叫估计量。

例如用:

估计:

那么:

其中:

读作“ 帽”,表示 的估计量。


四十三、估计值是什么?

估计量是随机变量:

抽样后得到:

那么:

叫估计值。

所以:

  • 估计量:抽样前,是随机变量;
  • 估计值:抽样后,是具体数。

类似于:

  • :随机变量;
  • :具体观测值。

四十四、点估计是什么?

只给参数一个具体估计数,叫点估计。

例如:

意思是:

我估计总体平均值约为 175。

常见方法:

  • 矩估计;
  • 最大似然估计。

四十五、区间估计是什么?

现实里你一般不会相信:

恰好完全正确。

所以更合理的是:

大概落在某个区间里。

例如:

这就是区间估计。

通常会构造:

这称为置信区间。


四十六、假设检验是什么?

除了估计,我们还会问:

某个说法到底能不能相信?

例如厂商声称:

即灯泡平均寿命为 1000 小时。

我们抽样发现:

那么要判断:

930 是正常抽样波动,还是说明厂商说的 1000 根本不可信?

于是提出原假设:

然后利用统计量及其抽样分布判断:

当前样本结果是不是“太极端”。

这就是假设检验。


四十七、大数定律是什么?

大数定律大致告诉我们:

当独立重复试验很多次时,样本平均值趋于总体期望。

也就是:

当 很大时:

这就是为什么:

可以通过大量样本认识总体。


四十八、中心极限定理是什么?

中心极限定理更神奇。

在很广泛的条件下,即使总体本身不是正态分布,只要样本量足够大:

近似服从:

也就是说:

很多个独立随机因素加起来或取平均之后,会自然出现正态分布。

这就是为什么正态分布在统计学中无处不在。


四十九、频率和概率有什么区别?

概率

是理论上的长期规律。

频率

假设做 次试验,其中事件 出现 次,则频率:

大数定律告诉我们:

所以:

概率是理论值,频率是实验观测值。


五十、参数和统计量有什么区别?

这是统计中极重要的一对概念。

参数

描述总体:

通常:

固定但未知。

统计量

由样本构成:

通常:

已知公式,但抽样前取值是随机的。

所以:

这是数理统计最值得牢记的一句话之一。


五十一、总体、样本、个体、样本值关系

可以画成:

现实研究对象
        ↓
     总体
        ↓ 随机抽样
个体1 个体2 …… 个体n
 ↓     ↓          ↓
X₁    X₂   ……    Xₙ
        ↓ 实际测量
x₁    x₂   ……    xₙ
        ↓
构造统计量
        ↓
X̄、S² 等
        ↓
估计总体参数
        ↓
μ、σ² 等

五十二、随机变量和总体到底是什么关系?

这是一个很深但非常重要的问题。

例如:

研究全国大学生的身高。

可以定义:

于是:

的概率分布就描述整个总体。

所以教材常说:

“设总体 的分布为……”

这里直接用 表示总体。

因此在数学统计中:

而不是把总体理解成“很多真实的人堆在一起”。


五十三、随机事件与随机变量有什么关系?

事件是“条件”,随机变量是“数值映射”。

例如:

事件:

掷出偶数。

可以写成:

或者:

再比如:

所以随机变量出现以后:

大量事件都可以写成关于 的条件。


五十四、分布和随机变量有什么区别?

随机变量是:

也就是一个映射。

分布描述:

的取值遵循什么概率规律。

所以两个完全不同的随机变量也可能具有相同分布。

例如:

不能因此说:

只能说:

它们分布相同。


五十五、一张表把最核心概念统一起来

概念本质例子
随机试验有不确定结果的实验抛硬币
样本点一个具体实验结果
样本空间所有可能结果
随机事件样本空间的子集至少一个正面
概率事件发生可能性的大小
随机变量把实验结果映射为数字的函数正面次数
分布随机变量取值的概率规律二项分布
期望长期平均水平
方差波动程度
总体研究对象背后的随机规律所有人身高分布
个体总体中的一个研究对象某一学生
样本从总体抽出的若干观测100 名学生
样本容量样本个数
参数描述总体的未知常数
统计量只由样本构成的函数
抽样分布统计量自身的概率分布 的分布
估计量用来估参数的统计量
点估计用一个数估参数
区间估计用区间估参数
假设检验用样本判断总体假设检验

五十六、最重要的一条逻辑链

最后把整个概率统计压缩为一个模型。

假设现实里存在一个我们不了解的总体:

其中:

是未知参数。

我们从总体随机抽样:

并且通常假设:

得到实际数据:

然后构造统计量:

研究 的抽样分布。

最后根据 来:

或者:

因此整个数理统计的核心思想其实就是:

而概率论给数理统计提供了数学基础:

这两者某种意义上正好是正问题与反问题。

如果你接下来学考研概率论,我建议把这些概念继续串成三条主线来理解:“随机变量—分布—期望方差”、“总体—样本—统计量—抽样分布”、“抽样分布—参数估计—假设检验”。这三条线一通,概率统计后面绝大多数公式都会变得非常自然。

On this page

一、概率论到底在研究什么?二、随机试验是什么?1. 随机试验三、样本点、样本空间是什么?1. 样本点2. 样本空间四、随机事件是什么?1. 事件本质上是“样本空间的一个子集”2. 样本点和事件的区别五、必然事件、不可能事件六、事件之间有哪些关系?1. 交事件2. 并事件3. 对立事件4. 互斥事件七、概率是什么?八、条件概率是什么?直观理解九、独立是什么?十、随机变量是什么?十一、为什么需要随机变量?十二、随机变量为什么叫“变量”?十三、离散随机变量和连续随机变量1. 离散型随机变量2. 连续型随机变量十四、概率分布是什么?十五、离散型随机变量的分布律十六、连续随机变量的概率密度是什么?十七、分布函数是什么?十八、数学期望是什么?例子十九、方差是什么?二十、标准差是什么?二十一、多维随机变量是什么?二十二、协方差是什么?二十三、相关系数是什么?二十四、从概率论进入数理统计二十五、总体是什么?举例二十六、个体是什么?二十七、总体和个体如何深刻理解?二十八、样本是什么?二十九、为什么 还是随机变量?三十、简单随机样本是什么?三十一、为什么要求独立同分布?三十二、参数是什么?三十三、统计量是什么?三十四、总体均值和样本均值的区别三十五、总体方差和样本方差区别三十六、抽样分布是什么?三十七、什么叫“抽样分布”?三十八、为什么抽样分布如此重要?三十九、总体分布、样本分布、抽样分布千万别混总体分布样本抽样分布四十、一个例子彻底理解总体、样本、统计量、抽样分布总体个体样本样本均值抽样分布四十一、三大经典抽样分布是什么?1. 卡方分布2. 分布3. 分布四十二、估计量是什么?四十三、估计值是什么?四十四、点估计是什么?四十五、区间估计是什么?四十六、假设检验是什么?四十七、大数定律是什么?四十八、中心极限定理是什么?四十九、频率和概率有什么区别?概率频率五十、参数和统计量有什么区别?参数统计量五十一、总体、样本、个体、样本值关系五十二、随机变量和总体到底是什么关系?五十三、随机事件与随机变量有什么关系?五十四、分布和随机变量有什么区别?五十五、一张表把最核心概念统一起来五十六、最重要的一条逻辑链