由于网易不能使用LaTex插件,所以这里均没有写数学公式,如果想找数学公式请Google。
书到用时方恨少,不仅文科是这样,理科更是这样。
想想大学时候,我们学习数学的目的也就是为了考试,从来没有想过它们能解决什么实际问题。但是现在想想,我们真是错了。数学其实就是来自生活。
话题一转,如果是搞科研不懂得一些数学知识,你还怎么混?现在由于自己在Metric Space空间下,需要去研究自己的一些科研问题,有时候还会用打到PCA,k-means···等一些算法。其实这些算法大多有着强大的数学支持。
最近一直围绕着方差,协方差,协方差矩阵在思考问题,索性就参考一些博文加上自己的理解去思考一些问题吧。
统计学的基本概念
期望
离散型随机变量的一切可能的取值xi与对应的概率Pi(=xi)之积的和称为该离散型随机变量的数学期望(设级数绝对收敛),记为 E(x)。随机变量最基本的数学特征之一。它反映随机变量平均取值的大小。又称期望或均值。
方差
方差是各个数据与平均数之差的平方的平均数。在概率论和数理统计中,方差(英文Variance)用来度量随机变量和其数学期望(即均值)之间的偏离程度。在许多实际问题中,研究随机变量和均值之间的偏离程度有着很重要的意义。
方差刻画了随机变量的取值对于其数学期望的离散程度。
方差深入:
很显然,均值描述的是样本集合的中间点,它告诉我们的信息是很有限的,而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均。以这两个集合为例,[0,8,12,20]和[8,9,11,12],两个集合的均值都是10,但显然两个集合差别是很大的,计算两者的标准差,前者是8.3,后者是1.8,显然后者较为集中,故其标准差小一些,标准差描述的就是这种“散布度”。之所以除以n-1而不是除以n,是因为这样能使我们以较小的样本集更好的逼近总体的标准差,即统计上所谓的“无偏估计”。而方差则仅仅是标准差的平方。
标准差
标准差(Standard Deviation) ,也称均方差(mean square error),是各数据偏离平均数的距离的平均数,它是离均差平方和平均后的方根,用σ表示。标准差是方差的算术平方根。标准差能反映一个数据集的离散程度。平均数相同的,标准差未必相同。
协方差
协方差分析是建立在方差分析和回归分析基础之上的一种统计分析方法。 方差分析是从质量因子的角度探讨因素不同水平对实验指标影响的差异。一般说来,质量因子是可以人为控制的。 回归分析是从数量因子的角度出发,通过建立回归方程来研究实验指标与一个(或几个)因子之间的数量关系。但大多数情况下,数量因子是不可以人为加以控制的。
在概率论和统计学中,协方差用于衡量两个变量的总体误差。而方差是协方差的一种特殊情况,即当两个变量是相同的情况。
上面几个统计量看似已经描述的差不多了,但我们应该注意到,标准差和方差一般是用来描述一维数据的,但现实生活我们常常遇到含有多维数据的数据集,最简单的大家上学时免不了要统计多个学科的考试成绩。面对这样的数据集,我们当然可以按照每一维独立的计算其方差,但是通常我们还想了解更多,比如,一个男孩子的猥琐程度跟他受女孩子欢迎程度是否存在一些联系啊,嘿嘿~协方差就是这样一种用来度量两个随机变量关系的统计量。
协方差的结果有什么意义呢?如果结果为正值,则说明两者是正相关的(从协方差可以引出“相关系数”的定义),也就是说一个人越猥琐就越受女孩子欢迎,嘿嘿,那必须的~结果为负值就说明负相关的,越猥琐女孩子越讨厌,可能吗?如果为0,也是就是统计上说的“相互独立”。
总结
必须要明确一点,协方差矩阵计算的是不同维度之间的协方差,而不是不同样本之间的。
理解协方差矩阵的关键就在于牢记它计算的是不同维度之间的协方差,而不是不同样本之间,拿到一个样本矩阵,我们最先要明确的就是一行是一个样本还是一个维度,心中明确这个整个计算过程就会顺流而下,这么一来就不会迷茫了~
分享到:
相关推荐
本文的目的是通过模糊性和模糊性厌恶的概念将不确定方差-协方差纳入均值方差投资组合模型。 本研究中开发的方法在数值上比较了收益歧义性和方差歧义性的影响。 尤其是,应通过股指数据重新检查不确定的方差-协方差...
分析由一维到二维数据的方差和协方差与转换矩阵之间的关系,并matlab做图演示
ch计算方差协方差矩阵实用PPT课件.pptx
ch计算方差协方差矩阵实用PPT学习教案.pptx
文章目录一、 协方差1、为什么需要协方差2、协方差的定义二、协方差矩阵1、协方差矩阵的定义2、协方差矩阵公式推导参考博客 一、 协方差 1、为什么需要协方差 定义:假如有N个样本的集合{X1,X2,…XNX_1,X_2,…X_NX1...
分析了现有LAMBDA相位解缠算法中,观测值方差协方差矩阵确定方法的缺陷;提出了基于先验假设的方差协方差矩阵估计方法;利用上海地区1992―2002年的23幅ERS1/2C波段卫星数据进行了相位解缠实验,反演的线性形变速率...
大部分教科书基于协方差矩阵的概念解释数据的形状。相反,我们采取一个反向的方法,根据数据的形状来解释协方差矩阵的概念。在《为什么样本方差除以N-1?》的文章中,我们会讨论方差的概念,并提供了众所周知的估算...
idl协方差
实施中提出的估计量“MMSE 协方差估计的收缩算法” Chen 等人,IEEE Trans。 在标志。 程序,第 58 卷,第 10 期,201 年 10 月
基于协方差理论的最优股票投资组合分析,卢宇,蒋太才,我国现在已经进入了一个“全民炒股”的时代,但股市中许多投资者建议:“不要把所有鸡蛋放在一个篮子里”。所以在股市中,对于股
可以生成任意你所需要的指定的均值方差的任意维数的高斯白噪声矩阵
该函数是原生 matlab cov2... 这个问题可以简单地通过将所有对角线元素设置为 1(怪异的方式)或在计算相关矩阵时使用方差而不是 std 来解决(covariance(x,y)/sqrt(var(x)*var(y)) 代替协方差(x,y)/(std(x)*std(y)))。
使用IDL语言实现多光谱图像协方差计算的代码,其他语言也可以借鉴思路
此软件包应由软件包开发人员用作后端。 它允许开发人员在其程序包定义的fit方法中添加::CovarianceEstimator参数。 有关FixedEffectModels ,请参见FixedEffectModels 。 此程序包中定义的每种类型都定义以下方法:...
基于最小方差的自适应中值滤波算法,钟子豪,刘森,在图像处理应用中,图像噪声消除的好坏决定了图像的质量及后续处理的效果。针对图像处理中常常遇到的椒盐噪声,提出了一种基于最
协方差矩阵: genS和genArray函数产生具有指定方差结构的随机协方差矩阵(如ndarray或javascript数组)。 可以指定协方差矩阵的特征值(主成分方差)V,或者可以从指定范围内随机生成。 生成随机正交矩阵Q并将其列...
求实对称矩阵的特征值及特征向量的雅格比法 //利用雅格比(Jacobi)方法求实对称矩阵的全部特征值及特征向量
本文的重点是在分析中包括方差-协方差矩阵的非对角线项,以便开发出联合市场效率的检验,这与单变量的市场效率检验不同,后者仅利用沿主对角线的信息方差-协方差矩阵 我们还将演示如何使用Nifty和S&P 500指数的...
协方差矩阵的计算是信号处理领域的典型运算,是实现多级嵌套维纳滤波器、空间谱估计、相干源个数估计以及仿射不变量模式识别的关键部分,广泛应用于雷达、声呐、数字图像处理等领域。采用FPGA(Field Programmable ...
c#编写的小envi,包括计算均值,方差,相关系数,协方差,累计/联合/灰度直方图,极差纹理。共生矩阵,对比度,K-T变换,RGB显示,HIS变换,波段运算,K-均值分类,最大似然分类,OIF计算,图像拉伸均衡化/规定化