第 4 章 随机变量的数字特征
掌握数学期望、方差、协方差、相关系数和矩,并灵活计算随机变量函数的数字特征。
Last updated on
本章用少量数字特征概括随机变量的分布信息,重点掌握期望与方差的性质、协方差与相关系数,以及结构化快速计算。
一、这一章到底在研究什么?
前面第2、3章主要研究的是随机变量的完整分布规律。
例如知道
相当于知道了随机变量 X 的整个概率分布。
但很多时候我们并不需要掌握整个分布,只想知道几个最重要的特征,例如:
- X 大概围绕哪个数波动?
- 波动程度大不大?
- X 和 Y 是否一起增大、一起减小?
- 两个随机变量之间是否存在明显线性关系?
于是引入数字特征。
整章可以压缩成下面一条主线:
期望看位置,方差看波动,协方差看同向/反向变化,相关系数把协方差标准化,矩是更一般的统一描述。
讲义中的核心结构就是:
并且本章有两种基本计算路线:
定义法:
性质法:
考试中,第二种往往更重要。讲义也特别强调:随机变量函数的期望通常不需要先求函数的分布,而可以直接求。
二、数学期望
1. 数学期望的直观意义
数学期望可以理解成概率分布的“重心”或“长期平均值”。
例如一枚均匀骰子点数为 X,那么
注意:
并不表示一次掷骰子可能得到 3.5。
它表示的是:大量重复试验后,点数的平均值趋近于 3.5。
三、离散型随机变量的数学期望
设离散型随机变量 X 的分布律为
若级数绝对收敛,则
讲义中的理解可以概括成:
例1:最基本的分布律型题
设
则
这种题没有技巧:
写取值,乘概率,再相加。
四、连续型随机变量的数学期望
设 X 的密度为
则
前提是相应反常积分绝对收敛。
这里本质和离散型完全一样:
离散型是
连续型是
可以把
理解成很小区间附近的“概率权重”。
五、数学期望的四个核心性质
这一部分非常重要。
讲义给出的核心性质包括:
性质1:常数的期望还是常数
性质2:常数可以提出
性质3:期望具有线性性
推广为
这里有一个极其重要的考研结论:
期望拆加减,不需要随机变量独立。
无论 X 与 Y 是否独立,都有
性质4:独立变量乘积的期望
如果 X 与 Y 独立,则
更一般地,如果独立,则
这一条和前面不同:
乘积要拆,一般需要独立性。
这是第4章最容易混的一组:
永远成立;
但是
一般不成立。
六、本章非常重要的技巧:函数期望不用先求函数分布
这是考研第4章的核心技巧之一。讲义对此专门给出了公式。
假设
很多同学会想到:
- 先求 Y 的分布;
- 再由 Y 的分布求期望。
这经常是绕远路。
1. 离散型
如果
则直接有
根本不用先求 Y 的分布。
2. 连续型
如果 X 密度为
那么
例2
若
求
不需要先求
的密度。
直接:
这就是本章一个非常典型的思想:
七、二维随机变量函数的期望
如果
也可以直接求。
离散型二维随机变量
若
则
连续型二维随机变量
若联合密度为
则
特别重要的一个量就是
因为后面求协方差时几乎一定会遇到它。
八、方差
数学期望描述“中心”。
但两个随机变量可能期望完全相同,波动情况却完全不同。
例如:
和
两者都有
但显然 Y 波动得更剧烈。
所以需要方差。
九、方差的定义
设
那么
表示 X 与平均值之间的偏差。
为了防止正负抵消,把偏差平方,再取期望:
所以方差就是:
随机变量距离自身平均位置的平方偏差的平均值。
显然
标准差定义为
十、方差最重要的计算公式
考试中真正经常使用的不是定义,而是
推导非常重要。
由
展开:
因为
本身是常数,所以
因此
所以绝大多数方差题应该按下面的流程:
而不是直接硬算
十一、一个特别重要的转换公式
由
可反过来得到
考研非常常见。
例如已知
那么立即得到
不要再去求分布。
十二、方差的性质
性质1
如果随机变量几乎处处等于一个常数,那么没有随机波动。
讲义特别指出,更准确地说:
等价于存在常数 C,使
也就是“以概率 1 为常数”,未必要求在概率为零的异常点上也相同。
性质2:加常数不改变方差
因为整个分布只是平移了。
性质3:乘常数
注意是平方。
所以:
但是
这是高频易错点。
十三、标准化随机变量
讲义定义
标准化以后:
并且
它的本质就是:
- 先减均值——移到原点;
- 再除标准差——统一尺度。
这一思想在正态分布中就是
十四、常见分布的期望和方差
这张表必须熟记,因为它直接决定第4章大量选择、填空、大题的速度。讲义正文重点列出了以下分布。
| 分布 | 数学期望 | 方差 |
|---|---|---|
| 0-1分布 | ||
| 二项分布 | ||
| 泊松分布 | ||
| 几何分布 | ||
| 均匀分布 | ||
| 指数分布 | ||
| 正态分布 |
这里有几个非常值得建立的记忆联系。
二项分布
可理解为 n 个独立 0-1 变量之和:
于是
这样就不用死记,可以推出来。
泊松分布
最特殊的地方是
所以看到
马上知道
指数分布
则
因此
十五、线性组合的期望与方差:本章最核心模板之一
设
期望:
不需要独立。
但方差不一样。
一般情况下:
如果是减法:
所以请建立一个非常重要的对比:
讲义也把一般形式总结为:
时,
而
十六、什么时候方差可以直接相加?
如果
相互独立,则一定有
于是
注意:
加号和减号最后都是加。
例如独立时:
这是因为
十七、协方差
协方差用于研究两个随机变量是否存在“同步变化”。
定义:
直观上:
- X 大于平均值、Y 也大于平均值时,乘积为正;
- X 小于平均值、Y 也小于平均值时,乘积也是正;
- 一个大一个小时,乘积为负。
所以:
通常意味着二者倾向于同向变化;
通常意味着二者倾向于反向变化。
十八、协方差最重要的计算公式
与方差一样,考试通常不用定义硬算,而用
所以协方差的经典计算流程是:
例3
已知
则
十九、方差和协方差之间的关系
讲义给出:
以及
因此反过来也可以求协方差。
例如已知
则
所以
二十、协方差的运算性质
讲义重点给出:
以及
因此协方差有一种“类似乘法展开”的感觉。
例如:
展开为
这个公式不一定要死记,现场按双线性展开即可。
二十一、相关系数
协方差存在一个问题:它受单位影响。
例如把 X 从“米”改成“厘米”,协方差会放大。
于是把协方差除以两个标准差:
这就是相关系数。
它是没有量纲的。
并且:
二十二、相关系数怎么理解?
情况1
存在正向线性趋势。
情况2
存在负向线性趋势。
情况3
称 X 与 Y 不相关。
注意:
不相关的意思只是“没有线性相关性”,不是“完全没有关系”。
二十三、最重要概念辨析:独立与不相关
这是第4章最重要的理论考点之一。
讲义明确给出:
因为独立时
所以
但是反过来:
一般是不成立的。
二十四、一个经典反例
设 X 关于 0 对称,例如
令
显然 Y 完全由 X 决定,所以绝对谈不上独立。
但由于对称性:
并且
于是
所以:
不相关,但不独立。
这很好地说明:
而
后者强得多。
二十五、二维正态分布是重要特例
如果
服从二维正态分布,那么:
也就是
这条在考研中非常高频。
看到:
- 二维正态;
- 联合正态;
- 两个正态变量组成联合正态;
再看到协方差为零,就要立刻想到独立性。
但如果题目只表明:
却没有说明二者联合正态,则一般不能仅凭不相关推出独立。
二十六、讲义中的经典例题:和与差是否相关
设 X、Y 独立同分布:
求 U、V 的关系。
因为同分布:
利用协方差:
展开:
由于独立:
而
所以
因此:
但一般不能说独立。
如果进一步知道 X、Y 为独立正态变量,那么 U、V 是联合正态的线性组合,又不相关,所以才可以推出独立。
这就是典型例题所强调的区别。
二十七、相关系数达到 1 或 -1
这是一个非常重要的特殊结论。
讲义给出:
的充分必要条件是存在常数 a、b,使得
也就是说 X 与 Y 存在几乎处处成立的严格线性关系。
当相关系数为 1
斜率同号:
当相关系数为 -1
斜率:
而且斜率大小可以由方差求出:
因此
典型例题
已知
并且
则必有
以概率 1 成立。
首先因为
所以
再由方差:
所以
利用均值:
所以
得到
以概率 1 成立。
二十八、不相关的四个等价表达
讲义给出了非常值得背的一组结论。
在相应数字特征存在的条件下,下列结论等价:
所以题目未必直接表明“协方差为零”。
它可能表明:
这实际上就是在暗示:
二十九、矩
矩看起来抽象,但本质只是把前面的期望、方差、协方差统一起来。
1. k 阶原点矩
称为 X 的 k 阶原点矩。
因此:
一阶原点矩:
就是数学期望。
二阶原点矩:
2. k 阶中心矩
称为 k 阶中心矩。
其中二阶中心矩:
正是
3. 混合原点矩
对于二维随机变量:
称为混合原点矩。
例如
是二阶混合原点矩。
4. 混合中心矩
当
时就是:
所以整章其实非常统一:
三十、正态型密度的识别题
典型例题是非常典型的考法:给出一个看起来很复杂的指数密度,要求不要硬积分,而是配方识别正态分布。
例如:
先配方:
于是
和正态密度
比较。
可以得到
以及
所以
因此
若要求二阶原点矩:
所以
这比直接计算
快得多。
所以看到
形式的密度:
三十一、考研题型一:直接由分布求期望和方差
这是最基本的一类。
统一流程:
第一步:求
第二步:求
第三步:
典型例题的思路
10只电子元件中有2只废品,不放回抽取,直到抽到正品,设之前抽到的废品数为 X。
X 只能取:
分别求:
所以
再求
于是
这类题的重点不是期望公式,而是:
三十二、题型二:等待第 r 次成功
讲义题型总结中特别强调了一种结构识别方法:把复杂等待时间拆成几何随机变量之和。
若每次试验成功概率为 p,一直试验到第 r 次成功。
总试验次数设为 X。
不要直接求 X 的分布。
定义:
等等。
则
每个变量都服从几何分布:
所以
于是
独立时:
这类题体现第4章最高频思想:
三十三、题型三:计数变量——示性变量法
这是非常强大的方法。
假设 X 表示“发生了多少件某类事件”。
如果直接求 X 的完整分布很麻烦,可以定义:
于是
而0-1变量满足:
所以
最关键的是:
求期望时不需要这些示性变量独立。
这也是讲义把“出现种类数、命中个数”等计数问题列为重要复习题型的原因。
一个典型例子
随机掷骰子 n 次,设 X 表示六种点数中一共出现了多少种不同点数。
定义:
则
对于任意 k:
所以
于是
直接求 X 的分布会复杂得多。
三十四、题型四:已知 Y 是 X 的函数,求方差或协方差
若
通常不需要先求 Y 的分布。
例如要求
直接求:
和
然后
如果还要求
直接用
例4
如果
那么
而
等于
这就是为什么高阶矩会在第4章出现。
三十五、题型五:利用对称性
如果 X 关于 0 对称,并且相应期望存在,则奇函数的期望通常为 0。
例如:
更一般地,如果 g 为奇函数,
在对称分布下:
这对于求:
等非常有用。
三十六、题型六:两个变量线性组合的相关性
例如给:
问 U 与 V 是否相关。
最稳的方法就是:
展开:
然后判断:
还是不为零。
如果不为零:
如果为零:
但除非有额外条件,例如联合正态,否则不能继续推出独立。
三十七、题型七:已知“不相关”,反求未知参数
二维离散型分布表中经常有一个未知参数 a。
题目告诉:
则立即翻译成:
也就是
解题顺序:
- 利用概率总和为1;
- 求边缘分布;
- 求
- 求
- 求
- 建方程:
最后还要检查:
讲义专门把“利用不相关条件求二维离散分布中的未知参数”列入第4章复习清单。
三十八、题型八:最大值与最小值的数字特征
设
有两个极其重要的恒等式:
以及
因此如果题目问:
根本不用求 U、V 的分布:
如果需要
直接:
如果 X、Y 独立:
这一技巧也被讲义列入第4章核心公式速查。
三十九、期望和方差的本质区别,一定要彻底搞清
这是做题时最重要的心理模型。
假设:
对于期望:
不关心 X、Y 是否独立。
但对于方差:
因此:
期望只看各变量自身
方差还看二者如何一起波动
所以独立性真正影响的是:
四十、本章最容易混淆的结论
建议把下面这一组直接记牢。
1.
一定推出
2.
等价于
即不相关。
但一般不推出独立。
3.
二维联合正态时:
可以推出
4.
只能推出不相关:
一般不能直接说独立。
5.
独立时:
不是
6.
常数 b 消失,a 要平方。
7.
这里 a 不平方。
四十一、一个非常实用的“做题决策树”
做第4章题目,建议按下面顺序判断。
第一步:题目要什么?
如果求
想:
能不能识别分布?能不能拆成几个简单变量?
如果求
优先想:
如果求
优先想:
如果求
按:
第二步:有没有常见分布?
只要识别出
就优先直接使用数字特征。
不要重复积分、求和。
第三步:是不是函数期望?
出现
或
时,不要条件反射去求 g(X) 的分布。
直接:
或二维积分即可。
第四步:是不是计数变量?
出现:
- 有多少个;
- 出现了几种;
- 命中了几个;
- 至少发生过哪些;
- 符合条件的对象数;
优先想到:
然后:
第五步:出现两个变量先看独立性
如果独立:
第六步:只说“不相关”不要过度推论
不相关只能表明:
不能一般推出:
四十二、本章核心公式总表
讲义的速查表可以进一步整理成下面这张。
期望
或
函数期望:
或
二维:
线性性:
方差
一般:
协方差
相关系数
并且
不相关
等价于
等价于
等价于
独立
但一般:
二维正态例外:
四十三、这一章复习时最应该掌握什么?
根据讲义的复习清单,建议把掌握程度分成三层。
第一层:必须秒出
下面公式要做到几乎不用思考:
以及七个常见分布的期望、方差。
第二层:必须会识别
看到题目能立即认出:
- 等待成功次数 → 几何分布或几何变量之和;
- 成功次数 → 二项分布;
- 泊松变量之和 → 利用泊松结构;
- 正态型密度 → 配方识别正态;
- “出现多少种” → 示性变量;
- 函数期望 → 不先求函数分布;
- 两变量相关性 → 先算协方差;
- 联合正态 + 协方差为0 → 独立;
- 最大值、最小值 → 利用和、积恒等式。
第三层:必须避免逻辑错误
尤其是下面四个:
不是
以及:
不需要独立,但
一般需要额外条件。
再就是:
不能直接写成
最后:
表示的是 X 以概率1等于常数。
四十四、把第4章压缩成一张“考研思维图”
可以最终记成:
两个变量则变成:
而一旦题目给了独立性:
最关键的一句话是:
第4章不是“积分计算章”,而是“结构化简章”。先看变量能不能拆、分布能不能认、独立性能不能用,再决定要不要真的求和或积分。
这也是本章讲义在“常考题型及其解题方法”中反复强调的主线:能拆就拆,能认分布就直接用数字特征,函数期望直接算,两个变量先检查独立性和协方差,计数问题优先示性变量法。