概率论与数理统计知识链
概率论与数理统计补充讲义:概率论与数理统计知识链
Last updated on
可以把概率论与数理统计里的一大堆概念,看成一条非常清晰的链:
现实中的随机现象 → 随机试验 → 样本空间 → 随机事件 → 概率 → 随机变量 → 分布 → 总体 → 抽样 → 样本 → 统计量 → 抽样分布 → 用样本推断总体
一旦这条链理顺,很多名词就不会混了。
一、概率论到底在研究什么?
概率论研究的是:
当一个现象的单次结果不能确定,但长期来看又有规律时,如何用数学描述这种“不确定性”。
比如:
- 抛硬币,不知道下一次是正面还是反面;
- 明天下不下雨,不确定;
- 随机抽一个学生,不知道他的身高;
- 一个元件什么时候坏,不确定;
- 股票明天涨跌,不确定。
这些都是随机现象。
概率论并不是说“完全不知道”,而是:
虽然单次结果不确定,但我们可以研究各种结果出现的可能性,以及这些可能性遵循什么规律。
二、随机试验是什么?
1. 随机试验
一个过程如果满足:
- 可以在相同条件下重复进行;
- 所有可能结果事先可以知道;
- 每次到底出现哪个结果不能提前确定;
就叫随机试验。
例如抛一次骰子:
可能结果是
但抛之前不知道是哪一个。
所以“抛一次骰子”就是一个随机试验。
三、样本点、样本空间是什么?
1. 样本点
一次随机试验的一个具体结果,叫样本点。
例如掷骰子:
表示“这次掷出了 3”。
这里的 就是一个样本点。
通常用
表示一个样本点。
2. 样本空间
所有可能样本点组成的集合,叫做样本空间。
记作
例如掷骰子:
抛两次硬币:
其中:
- :两次都是正面;
- :第一次正面、第二次反面;
- :第一次反面、第二次正面;
- :两次都是反面。
四、随机事件是什么?
这是概率论最重要的概念之一。
1. 事件本质上是“样本空间的一个子集”
假设掷骰子:
定义事件:
:掷出的点数是偶数。
那么:
所以:
随机事件,就是我们关心的一类结果。
一个具体结果是“样本点”,一堆符合某个条件的样本点组成“事件”。
2. 样本点和事件的区别
例如掷骰子:
“掷出了 4”是一个具体结果,也可以看作最简单的事件:
“掷出了偶数”则是:
所以:
- 样本点:一次具体结果;
- 事件:一类结果。
五、必然事件、不可能事件
整个样本空间:
叫做必然事件。
因为不论实验结果是什么,都一定属于 。
例如掷骰子:
“点数在 1 到 6 之间”
一定发生。
而空集:
叫做不可能事件。
比如:
“掷骰子掷出 7”。
六、事件之间有哪些关系?
其实就是集合关系。
设
那么:
1. 交事件
表示:
和 同时发生。
这里:
也就是:
既是偶数,又大于 3。
2. 并事件
表示:
或 至少发生一个。
3. 对立事件
事件 不发生,叫 的对立事件:
或者写成:
并且:
4. 互斥事件
如果:
那么 叫互斥事件。
意思是:
两件事不能同时发生。
例如:
- :骰子掷出奇数;
- :骰子掷出偶数。
两者不能同时发生。
注意:
互斥 ≠ 独立。
这是概率论特别容易混淆的地方,后面会讲。
七、概率是什么?
概率就是:
用一个 到 之间的数字,描述某个事件发生的可能性大小。
写成:
满足:
其中:
表示几乎不会发生;
表示必然发生。
例如公平骰子:
八、条件概率是什么?
这是另一个非常关键的概念。
假设我们已经知道事件 发生了,那么再问事件 发生的概率,这叫:
读作:
在 已经发生的条件下, 发生的概率。
公式:
前提:
直观理解
原来我们在整个样本空间 里考虑。
一旦知道 发生了:
新的“世界”就缩小到了 。
然后我们只看:
占 的比例。
所以条件概率的本质是:
已知一些信息后,重新计算概率。
九、独立是什么?
两个事件 如果满足:
就称它们相互独立。
直观上:
是否发生,不影响 发生的概率。
等价地:
也就是说:
知道 已经发生,并没有给我们关于 的额外信息。
例如连续抛两次公平硬币:
- :第一次正面;
- :第二次正面。
则通常独立。
十、随机变量是什么?
这是整个概率论的核心转折点。
很多人第一次看到“随机变量”会以为:
“就是一个随机变化的变量。”
这并不准确。
严格来说:
随机变量是一个函数,它把随机试验的结果映射成一个数。
即:
十一、为什么需要随机变量?
例如抛两次硬币:
我们真正关心的可能不是具体顺序,而是:
出现了几个正面?
定义随机变量:
于是:
原来复杂的结果:
被转换成了数字:
所以随机变量最重要的意义是:
把随机现象数字化。
有了数字,就可以:
- 求平均;
- 求方差;
- 画分布;
- 做积分;
- 建立模型;
- 做统计推断。
十二、随机变量为什么叫“变量”?
因为不同试验结果对应不同数值。
例如:
那么 可能取:
但是,在一次具体实验发生之前,并不知道它最终取多少。
所以叫“随机变量”。
严格来说:
随机的是实验结果,随机变量本身是一个确定的映射规则。
十三、离散随机变量和连续随机变量
1. 离散型随机变量
如果随机变量可能取有限个或者可数多个值:
就叫离散型随机变量。
比如:
- 骰子点数;
- 一天收到多少条短信;
- 一个班有多少人及格;
- 抛 10 次硬币出现几个正面。
例如:
2. 连续型随机变量
如果随机变量可以在一个区间内连续取值,则叫连续型随机变量。
比如:
- 身高;
- 体重;
- 温度;
- 寿命;
- 等待时间。
例如:
十四、概率分布是什么?
知道随机变量“可能取哪些值”还不够。
还要知道:
每个值有多大可能出现。
这个规律就叫概率分布。
所以:
随机变量告诉你“把结果变成什么数”,分布告诉你“这些数出现的规律”。
十五、离散型随机变量的分布律
例如公平骰子:
那么:
一直到:
这就是 的概率分布。
一般记:
满足:
以及:
十六、连续随机变量的概率密度是什么?
连续变量不能像离散变量那样讨论:
因为通常:
例如身高恰好等于:
这个精确数值出现的概率是 0。
所以连续型随机变量研究的是:
通过概率密度函数:
来计算:
所以:
概率密度不是某一点的概率,而是“单位长度附近概率有多密集”。
十七、分布函数是什么?
不管离散还是连续,都可以统一用分布函数:
意思是:
随机变量 不超过 的概率。
例如:
可以理解为:
把 从左向右移动,累计到 为止已经积累了多少概率。
因此 也叫累积分布函数。
十八、数学期望是什么?
数学期望:
可以理解成随机变量的:
长期平均值、概率意义下的中心位置。
离散情形:
连续情形:
例子
公平骰子:
所以:
注意:
一次掷骰子永远不会出现 。
所以期望不是:
“最可能出现的值”。
而是:
大量重复实验后的平均水平。
十九、方差是什么?
只知道平均值不够。
比如两个随机变量平均值都等于 10:
A:
B:
它们波动程度完全不同。
于是定义方差:
它衡量:
随机变量离自己均值有多分散。
另一个常用公式:
二十、标准差是什么?
因为方差进行了平方,所以量纲变了。
因此取平方根:
叫做标准差。
它和原随机变量单位相同。
例如身高单位是 cm:
- 方差单位是 ;
- 标准差单位重新变成 cm。
二十一、多维随机变量是什么?
有时候一个对象不只关心一个特征。
例如随机抽一个人:
那么:
就是二维随机变量。
研究的是:
身高和体重如何联合变化。
于是产生:
- 联合分布;
- 边缘分布;
- 条件分布;
- 协方差;
- 相关系数。
二十二、协方差是什么?
协方差描述:
两个随机变量是否倾向于一起变化。
定义:
也可写:
如果:
通常表示:
大时, 也倾向于大。
如果:
通常表示:
一个大时,另一个倾向于小。
二十三、相关系数是什么?
协方差受单位影响,所以进行标准化:
满足:
它主要衡量:
线性相关程度。
注意:
一般不意味着独立。
而如果 独立,则在期望存在的情况下:
二十四、从概率论进入数理统计
前面主要是在讲概率论:
假设一个随机模型已经知道,研究它会产生什么结果。
例如已知:
然后研究:
- 概率;
- 期望;
- 方差;
- 分布。
但现实中往往恰好相反:
我们不知道总体分布和参数,只拿到了一些数据。
这就进入了数理统计。
二十五、总体是什么?
“总体”是统计学里的核心概念。
总体不是简单指“所有人”。
更准确地说:
总体是我们所研究对象的全部可能观测值所形成的集合,或者说背后那个随机变量及其分布。
举例
想研究:
某大学所有学生的身高。
那么可以把:
看作总体随机变量。
其分布:
就是我们研究的总体分布。
所以在数理统计中:
总体本质上通常是一个随机变量或概率分布。
这一点非常重要。
二十六、个体是什么?
总体里的每一个研究对象叫个体。
例如研究全国大学生身高:
- 总体:全国大学生身高总体;
- 个体:某一个大学生。
但还需要区分:
人是“研究对象”,身高才是我们实际观察的数据。
例如某个人:
是一个个体;
他的身高:
是这个个体对应的一个观测值。
二十七、总体和个体如何深刻理解?
假设我们关心:
全国成年男性身高。
可以想象有一个巨大的“盒子”。
里面装着所有可能的身高:
整体规律就是总体分布。
随机从里面抽一个:
得到一个身高,例如:
所以:
- 总体:背后的整体规律;
- 个体:总体中的一个对象;
- 个体值:这个对象在研究指标上的取值。
二十八、样本是什么?
总体通常太大,我们不可能调查所有人。
比如中国有非常多大学生,不可能全部测量。
于是从总体中抽取一部分个体。
这些观测结果叫样本。
例如随机抽 100 人:
这称为一个容量为 100 的样本。
一般写:
其中:
叫样本容量。
二十九、为什么 还是随机变量?
这是统计里很关键的地方。
在你真正抽样之前:
你不知道第一个人身高多少,也不知道第二个人多少。
所以:
都是随机变量。
抽样结束后,假设观察到:
等等。
这时:
叫做样本观测值。
因此要区分:
和
三十、简单随机样本是什么?
考研里经常出现:
设 是来自总体 的简单随机样本。
是什么意思?
就是:
满足两个条件。
第一,彼此独立:
相互独立。
第二,同分布:
而且它们和总体 具有相同分布。
简称:
独立同分布
即:
三十一、为什么要求独立同分布?
因为我们希望每次抽样都像:
从同一个总体公平地重新抽一次。
例如研究某大学学生身高:
第一个学生:
第二个学生:
如果都是随机独立抽取,那么每一个都应遵循同样的总体身高分布。
这样样本才能代表总体。
三十二、参数是什么?
假设总体分布属于某个已知类型:
但是我们不知道:
和:
那么这些未知常数叫做总体参数。
比如:
- 总体均值:
- 总体方差:
统计学一个非常重要的任务就是:
根据样本估计这些未知参数。
三十三、统计量是什么?
这是统计学的核心之一。
定义:
完全由样本构成,并且不含未知参数的函数,叫统计量。
例如:
叫做样本均值。
因为它完全由:
构成。
又例如样本方差:
也是统计量。
三十四、总体均值和样本均值的区别
总体均值:
它是总体的属性。
通常是一个固定但未知的数。
样本均值:
则是一个随机变量。
因为样本是随机抽出来的。
抽不同的人:
会不同。
例如第一次抽 100 人:
第二次重新抽 100 人:
所以:
总体均值是固定的;样本均值是随机的。
三十五、总体方差和样本方差区别
总体方差:
是总体真正的离散程度。
样本方差:
则利用样本估计总体方差。
可以粗略理解成:
即:
用样本统计量去估计总体参数。
三十六、抽样分布是什么?
这是你特别提到的一个概念,也是很多人真正开始学统计时最容易懵的地方。
先想象:
从总体中随机抽 个人,求平均身高:
第一次:
重新抽 个人:
再重新抽:
……
你会发现:
每次样本均值都不一样。
因此:
本身就是随机变量。
既然是随机变量,它自然也有自己的概率分布。
这个分布就叫:
统计量的抽样分布。
三十七、什么叫“抽样分布”?
准确来说:
统计量由于随机抽样而形成的概率分布,叫该统计量的抽样分布。
例如:
有一个分布。
也有一个分布。
于是可以问:
或者:
这就是抽样分布研究的问题。
三十八、为什么抽样分布如此重要?
因为整个统计推断就是靠它。
例如你不知道:
但你知道样本均值:
围绕 如何波动。
如果:
独立同分布,而且:
那么:
而:
所以随着:
样本均值波动越来越小。
这就是为什么:
样本量越大,估计通常越稳定。
三十九、总体分布、样本分布、抽样分布千万别混
这三个特别容易混。
总体分布
研究:
例如:
描述的是:
单个个体的数据如何分布。
样本
抽出了:
得到:
这是具体的一组数据。
抽样分布
把统计量:
看成随机变量。
研究:
的概率分布。
比如:
那么研究的是:
在“重复抽样”时怎么变化。
四十、一个例子彻底理解总体、样本、统计量、抽样分布
假设某工厂生产灯泡。
灯泡寿命服从:
总体
表示:
随机选一个灯泡,它的寿命。
所以:
表示总体平均寿命。
个体
某一个具体灯泡。
例如第 50281 个灯泡。
它的寿命可能是:
样本
随机抽 25 个灯泡:
样本均值
这是统计量。
抽样分布
由于总体正态,因此:
即:
意思是:
如果不断重复“抽 25 个灯泡并计算平均寿命”这个过程,那么得到的无数个样本均值,会近似形成一个均值 1000、标准差 20 的正态分布。
这就是抽样分布。
四十一、三大经典抽样分布是什么?
考研统计里最重要的是:
- 分布;
- 分布;
- 分布。
它们之所以出现,本质上都是:
某些统计量的概率分布。
1. 卡方分布
如果:
那么:
服从自由度为 的卡方分布:
2. 分布
如果:
且独立,则:
服从:
3. 分布
如果:
且相互独立,则:
服从:
四十二、估计量是什么?
统计量如果专门被用来估计一个未知参数,就叫估计量。
例如用:
估计:
那么:
其中:
读作“ 帽”,表示 的估计量。
四十三、估计值是什么?
估计量是随机变量:
抽样后得到:
那么:
叫估计值。
所以:
- 估计量:抽样前,是随机变量;
- 估计值:抽样后,是具体数。
类似于:
- :随机变量;
- :具体观测值。
四十四、点估计是什么?
只给参数一个具体估计数,叫点估计。
例如:
意思是:
我估计总体平均值约为 175。
常见方法:
- 矩估计;
- 最大似然估计。
四十五、区间估计是什么?
现实里你一般不会相信:
恰好完全正确。
所以更合理的是:
大概落在某个区间里。
例如:
这就是区间估计。
通常会构造:
这称为置信区间。
四十六、假设检验是什么?
除了估计,我们还会问:
某个说法到底能不能相信?
例如厂商声称:
即灯泡平均寿命为 1000 小时。
我们抽样发现:
那么要判断:
930 是正常抽样波动,还是说明厂商说的 1000 根本不可信?
于是提出原假设:
然后利用统计量及其抽样分布判断:
当前样本结果是不是“太极端”。
这就是假设检验。
四十七、大数定律是什么?
大数定律大致告诉我们:
当独立重复试验很多次时,样本平均值趋于总体期望。
也就是:
当 很大时:
这就是为什么:
可以通过大量样本认识总体。
四十八、中心极限定理是什么?
中心极限定理更神奇。
在很广泛的条件下,即使总体本身不是正态分布,只要样本量足够大:
近似服从:
也就是说:
很多个独立随机因素加起来或取平均之后,会自然出现正态分布。
这就是为什么正态分布在统计学中无处不在。
四十九、频率和概率有什么区别?
概率
是理论上的长期规律。
频率
假设做 次试验,其中事件 出现 次,则频率:
大数定律告诉我们:
所以:
概率是理论值,频率是实验观测值。
五十、参数和统计量有什么区别?
这是统计中极重要的一对概念。
参数
描述总体:
通常:
固定但未知。
统计量
由样本构成:
通常:
已知公式,但抽样前取值是随机的。
所以:
这是数理统计最值得牢记的一句话之一。
五十一、总体、样本、个体、样本值关系
可以画成:
现实研究对象
↓
总体
↓ 随机抽样
个体1 个体2 …… 个体n
↓ ↓ ↓
X₁ X₂ …… Xₙ
↓ 实际测量
x₁ x₂ …… xₙ
↓
构造统计量
↓
X̄、S² 等
↓
估计总体参数
↓
μ、σ² 等五十二、随机变量和总体到底是什么关系?
这是一个很深但非常重要的问题。
例如:
研究全国大学生的身高。
可以定义:
于是:
的概率分布就描述整个总体。
所以教材常说:
“设总体 的分布为……”
这里直接用 表示总体。
因此在数学统计中:
而不是把总体理解成“很多真实的人堆在一起”。
五十三、随机事件与随机变量有什么关系?
事件是“条件”,随机变量是“数值映射”。
例如:
事件:
掷出偶数。
可以写成:
或者:
再比如:
所以随机变量出现以后:
大量事件都可以写成关于 的条件。
五十四、分布和随机变量有什么区别?
随机变量是:
也就是一个映射。
分布描述:
的取值遵循什么概率规律。
所以两个完全不同的随机变量也可能具有相同分布。
例如:
不能因此说:
只能说:
它们分布相同。
五十五、一张表把最核心概念统一起来
| 概念 | 本质 | 例子 |
|---|---|---|
| 随机试验 | 有不确定结果的实验 | 抛硬币 |
| 样本点 | 一个具体实验结果 | |
| 样本空间 | 所有可能结果 | |
| 随机事件 | 样本空间的子集 | 至少一个正面 |
| 概率 | 事件发生可能性的大小 | |
| 随机变量 | 把实验结果映射为数字的函数 | 正面次数 |
| 分布 | 随机变量取值的概率规律 | 二项分布 |
| 期望 | 长期平均水平 | |
| 方差 | 波动程度 | |
| 总体 | 研究对象背后的随机规律 | 所有人身高分布 |
| 个体 | 总体中的一个研究对象 | 某一学生 |
| 样本 | 从总体抽出的若干观测 | 100 名学生 |
| 样本容量 | 样本个数 | |
| 参数 | 描述总体的未知常数 | |
| 统计量 | 只由样本构成的函数 | |
| 抽样分布 | 统计量自身的概率分布 | 的分布 |
| 估计量 | 用来估参数的统计量 | |
| 点估计 | 用一个数估参数 | |
| 区间估计 | 用区间估参数 | |
| 假设检验 | 用样本判断总体假设 | 检验 |
五十六、最重要的一条逻辑链
最后把整个概率统计压缩为一个模型。
假设现实里存在一个我们不了解的总体:
其中:
是未知参数。
我们从总体随机抽样:
并且通常假设:
得到实际数据:
然后构造统计量:
研究 的抽样分布。
最后根据 来:
或者:
因此整个数理统计的核心思想其实就是:
而概率论给数理统计提供了数学基础:
这两者某种意义上正好是正问题与反问题。
如果你接下来学考研概率论,我建议把这些概念继续串成三条主线来理解:“随机变量—分布—期望方差”、“总体—样本—统计量—抽样分布”、“抽样分布—参数估计—假设检验”。这三条线一通,概率统计后面绝大多数公式都会变得非常自然。