什么是协方差与协方差矩阵

2022年5月31日10:10:22什么是协方差与协方差矩阵已关闭评论

方差是用来度量随机变量和其数学期望之间偏离程度的量。随机变量与其数学期望之间的偏离其实就是误差。所以方差也可以认为是描述一个随机变量内部误差的统计量。与此相对应地,协方差(Covariance)是一种用来度量两个随机变量之总体误差的统计量。

更为正式的表述应该为:设( , )是二维随机变量,则称 {[ ( )][ ( )]}为随机变量 与 的协方差,记为cov( , ),即

cov( , )= {[ ( )][ ( )]}

协方差表示的是两个变量的总体的误差。如果两个变量的变化趋势一致,也就是说如果其中一个大于自身的期望值,另外一个也大于自身的期望值,那么两个变量之间的协方差就是正值。如果两个变量的变化趋势相反,即其中一个大于自身的期望值,另外一个却小于自身的期望值,那么两个变量之间的协方差就是负值。

与协方差息息相关的另外一个概念是相关系数(或称标准协方差),它的定义为:设( , )是二维随机变量,若cov( , ), ( ), ( )都存在,且 ( )>0, ( )>0,则称 ρ XY 为随机变量 与 的相关系数,即

什么是协方差与协方差矩阵

还可以证明-1≤ ρ XY ≤1。

如果协方差的结果为正值,则说明两者是正相关的,结果为负值就说明负相关的,如果结果为0,也就是统计上说的“相互独立”,即两者不相关。另外,从协方差的定义上我们也可以看出一些显而易见的性质,如

  • cov( , )= ( 
  • cov( , )=cov( , 

显然第一个性质其实就表明,方差是协方差的一种特殊情况,即当两个变量是相同的情况。

两个随机变量之间的关系可以用一个协方差来表示。对于由 个随机变量组成的一个向量,我们想知道其中每对随机变量之间的关系,就会涉及多个协方差。协方差多了就自然会想到用矩阵形式来表示,也就是协方差矩阵。

设 维随机变量( ,…, )的二阶中心矩存在,记为

ij =cov( , )= {[ ( )][ ( )]}, , =1,2,…, n

则称矩阵

什么是协方差与协方差矩阵

为 维随机变量( ,…, )的协方差矩阵。

 

  • 版权声明:本篇文章(包括图片)来自网络,由程序自动采集,著作权(版权)归原作者所有,如有侵权联系我们删除,联系方式(QQ:452038415)。