如何理解二维正态分布?

如何理解二维正态分布?

更新:另外一个比较有意思的角度是从等概率密度-等概线的角度去探讨。显然可以看出一维高斯分布的等概线是0-sphere,亦即距离均值点距离相等的两个点。高维球形高斯分布的等概线是(d-1)-sphere,等概密度是卡方分布。

@candynoo 已经答得比较清楚了,并且指出了多变量正态和单变量正态之间的类比。我就稍微补充一点intuition。

要理解一个分布的性质经常先看PDF(概率密度函数)。正态分布的概率密度是一个欧氏距离函数的负指数,凸显了该分布聚集在距离函数的零点附近,因而从属于location-scale(位置-尺度族)。当然距离函数只描述了位置这个约束,而尺度的约束是通过方差来描述的。换句话说,正态分布是欧氏距离的负指数+方差约束。

欧氏距离这一项可以很自然地推广到二维。但是方差这一项的二维推广是协方差矩阵就不那么显而易见了。硬要解释的话我只能说方差在一阶矩为零的时候退化为二阶矩,那么自然地需要考虑所有二次项的二阶矩。对于(x,y)来说,需要考虑的二次项有(xx, xy, yy),可以看出这个列表可以写成一个对称矩阵(但是不一定正定,因xy可以为负)。好了,那么二维下的方差形式也到手了。通过类比,可以构造出一个由二维欧氏距离的负指数+方差约束唯一确定的分布,也就是二维正态分布。

呃,你问我这个玩意的PDF怎么写?不好意思我还没推过....除法要写成矩阵乘逆的形式;而协方差矩阵的本质是外积,写成矩阵乘法就是被左右同乘;normalising系数用的是线性变换中体积缩放的系数,剩下的好像就一毛一样了。

最后的marginalisation还是略有意思,还没想到怎么用一句话解释高维gaussian的边际分布是一维gaussian。