7.随机变量的数字特征
随机变量的数字特征
1.数学期望
1.1 引入
随机变量的分布函数或密度函数描述了随机变量的统计性质, 从中可以了解随机变量落入某个区间的概率, 但是还不能给人留下更直接的总体印象.
例如用 表示某计算机软件的使用寿命, 当知道 服从指数分布 后, 我们还不知道该软件的平均使用寿命是多少. 这里的平均使用寿命应当是一个实数.
我们需要为随机变量 定义一个实数, 这个数就是数学期望, 它反映随机变量的平均取值.
1.2 定义
设 为一离散型随机变量,其分布律为:
只要级数: 收敛,就称:
为 或分布 的数学期望(expected value) 或均值(mean)
而若 发散,则 的数学期望不存在
不难看出, 只取有限个值的随机变量的数学期望总是存在的
将 视为横坐标 处的质量, 由
知道 的重心是 。所以数学期望 是 的分布 的重心
如果一连续型随机变量 具有密度函数 ,则当:
时,我们将积分
的值称为 的数学期望(expected value) 或 均值(mean) 记作: ,而如果
则称 的数学期望不存在。
通过上述定义,我们将离散型和连续型的定义整合起来,能够得到数学期望的总定义:
设 为一随机变量,其分布函数为 ,如果,则称:
为随机变量 的数学期望,记为
1.3 数学期望的性质
数学期望的一般性质如下:
①:
②:
③:
④:若 ,则
⑤:若 ,则
⑥:设 为一 可测函数(包括了连续函数,阶梯函数等),则:
这说明了计算随机变量函数的期望直接从原来的随机变量分布出发
1.4 常见分布的期望
| 分布 | 记号 | 参数 | 数学期望 E(X) |
|---|---|---|---|
| 0-1分布 / 伯努利分布 | |||
| 二项分布 | |||
| 几何分布 | |||
| 泊松分布 | |||
| 超几何分布 | |||
| 负二项分布 |
| 分布 | 记号 | 参数 | 数学期望 E(X) |
|---|---|---|---|
| 均匀分布 | |||
| 指数分布 | |||
| 正态分布 | |||
| 标准正态分布 | - | ||
| 伽马分布 |
1.5 分位数和 分位数
我们已经知道,随机变量 的数学期望就是它的平均值,因此从一定意义上,数学期望刻画了随机变量所取之值的“中心位置”。
但是,我们也可以用别的数字特征来刻画随机变量的“中心位置”。中位数就是这样一种数字特征。在不存在数学期望的随机变量,这种刻画工具显得尤为重要,即使对于存在数学期望的随机变量,中位数也是一种相当有用的数字特征。
对于随机变量 ,如果:
则称 为随机变量 的中位数。
而设 ,如果
则称 是随机变量 的 分位数。
1.6 中心矩和原点矩
设 是随机变量, 是正整数. 如果 ,就称 为 的 阶原点矩, 称 为 的 阶中心矩. 当 时, 我们将原点矩和中心矩统称为高阶矩.
2.方差
方差用来描述分布的分散程度,或宽窄
2.1 定义
如果随机变量 的数学期望 有限,就称:
为 X 的方差(Variance),记做 或 或 . 当 , 称 的方差有限. 称 = 为 的标准差.
设 是对长度为 的物体的测量值, 则 是测量误差, 是测量误差的平方。 如果测量仪器无系统偏差 (即 ), 则 是测量误差平方的平均, 称为均方误差。
设非退化的随机变量 平方可积,我们称:
为 的标准化随机变量,其中易知:
2.2 方差的计算
当 有离散分布 时, 利用公式得到:
当 有概率密度 时, 利用公式得到:
随机变量 的方差 由 的分布唯一决定.
的方差描述了 的分散程度, 越小,说明 在数学期望 附近越集中.
特别当 时,,.
利用数学期望的线性性质可以得到:
这是我们计算方差的最常用公式.
2.3 方差的性质
设以下随机变量的二阶矩存在有限, 为常数,则有:
①: ,因此
②:
③: 当且仅当 ,其中
④: 对任意常数 c 有: ,其中当且仅当 时等号成立
⑤: 如果随机变量 和 相互独立, 为常数,则:
2.4 常见分布的方差
| 分布 | 记号 | 参数 | 方差 D(X) |
|---|---|---|---|
| 0-1分布(伯努利分布) | |||
| 二项分布 | |||
| 几何分布 | |||
| 泊松分布 | |||
| 超几何分布 | |||
| 负二项分布 |
| 分布 | 记号 | 参数 | 方差 (D(X)) |
|---|---|---|---|
| 均匀分布 | |||
| 指数分布 | |||
| 正态分布 | |||
| 标准正态分布 | |||
| 伽马分布 |
2.5 Markov 不等式
对随机变量 和 , 有:
这也叫做 不等式。作为定理的直接推论, 取 , 用 代替 就得到:
人们也称人们称 时的马尔柯夫不等式为切比雪夫 (Chebyshev) 不等式
2.6 内积不等式
设 , , 则有:
其中等号成立的充分必要条件是有不全为零的常数 , 使得
3.协方差和协方差阵
3.1 协方差
如果 和 是定义在同一个概率空间上的两个随机变量,且 , 平方可积,那么我们就可以求 的方差:
在上式中出现了 ,由于对任何实数 ,都有:
所以我们有:
所以只要 平方可积,那么就有 存在。
设随机变量 平方可积,且 存在,则我们称
为 与 的协方差(Covariance),记做 或
当 时, 称 不相关.
如果 是定义在同一概率空间下的随机变量,并且其中每个随机变量都是平方可积的,称矩阵:
为 的协方差阵,显然
如果矩阵 的行列式 , 就称 是退化的
3.1.5 协方差的性质
协方差具有如下性质:
①:
②:
③: 这是计算协方差的常用公式
④:对任何实数 ,有:
3.2 相关系数
在介绍相关系数的定义前,我们看如下引理:
设 都是平方可积的,则有:
当且仅当 时等号成立,其中 为一常数。这个定理称作:柯西-施瓦茨不等式(Cauchy − Schwarz Inequality)
故而设随机变量 平方可积,则有
并且当且仅当存在 ,使得 时等号成立。
现在我们来给出相关系数的定义:
设随机变量 平方可积,我们称:
为 与 的相关系数。有时也用 表示相关系数 。
相关系数 只表示了 间的线性关系。当 , 尽管称 不相关, 它们之间还可以有很强的非线性关系.
3.2.5 相关系数的性质
相关系数具有如下性质:
①:
②: 的充分必要条件是有常数 ,使得:
而 的充分必要条件是有常数 ,使得:
③: 若 和 相互独立,则 即 不相关
4.数字特征总结
| 分布名称 | 参数 | 概率质量函数 / 密度函数 | 数学期望 | 方差 | 特征函数 | 备注 |
|---|---|---|---|---|---|---|
| 二点分布 | 为 的二项分布 | |||||
| 二项分布 | 关于 具有再生性 | |||||
| 几何分布 | 无记忆 | |||||
| 泊松分布 | 关于 具有再生性 | |||||
| 超几何分布 | — | — | ||||
| 均匀分布 | — | |||||
| 正态分布 | 关于 具有再生性 | |||||
| 指数分布 | 无记忆 |
