Skip to content

模型Model

Wishart 分布

Wishart distribution · Gaussian scatter distribution

独立高斯向量的外积和给出随机散布矩阵,其秩、方向卡方和正交投影结构解释样本协方差的自由度。

形式陈述 ​

标量正态平方和产生卡方分布;如果保留多个坐标之间的交叉乘积,会得到什么?设 Z1,…,Zν 独立服从多元正态 Np(0,Σ),其中 ν≥1 为整数、Σ 正定。定义

W=∑i=1νZiZiT.

称 W 服从自由度 ν、尺度矩阵 Σ 的 Wishart 分布,记作 Wp(ν,Σ)。其律是对称矩阵空间上的一族概率分布。W 是一个对称半正定随机矩阵,且

rank(W)=min(ν,p)几乎必然,EW=νΣ.

所以 ν≥p 时 W 几乎必然正定,ν<p 时必然奇异。自由度是独立高斯行的数目,不是矩阵元素的数目。

对任意非零固定向量 a,

aTWaaTΣa∼χν2.

这里的卡方分布只是某一个方向的平方长度;完整 Wishart 矩阵同时记录全部方向,并保留它们之间的依赖。

直觉

每个外积 zzT 都是沿观测向量方向的一块秩一散布。把这些块加起来,得到一张描述各方向能量和交叉关系的矩阵。

一个向量只能贡献至多一个随机方向。若只有两条高斯观测,却要估计五维散布,所得矩阵无论如何都不可能满秩。增加维度并不会创造更多独立信息。

样本协方差先减去了估计的均值,等于消耗一个行方向。因此由 n 个观测形成的中心化散布只有 n−1 个自由度。这个损失来自投影几何,可以精确证明,不只是无偏估计公式中的惯例。

例子与边界

两个二维向量的外积和 ​

若一次观测到的高斯行向量为 z1=(1,2)T、z2=(2,−1)T,则

W=(1224)+(4−2−21)=(5005).

这是某一次散布矩阵实现,不是它的期望。若生成模型为 Σ=I2、ν=2,期望为 2I2,而任意单位方向的 aTWa 都有 χ22 分布。

若只保留一个向量 z=(z1,z2)T,则 W122=W11W22,行列式恒为零。两个对角元即使都正,也不能说明矩阵可逆。

矩阵条目一般不独立 ​

取 p=2,ν=2、Σ=(2112)。下面的矩公式给出

EW=(4224),Cov(W11,W22)=4,Var(W12)=10.

即使 Σ=Ip,部分条目协方差可能为零,也不能把整个矩阵的所有条目当成相互独立;对称性和半正定约束已把它们联系起来。

非正态样本不能原样套用 ​

任意有限二阶矩样本的散布都有相应期望,但精确 Wishart 分布依赖高斯性。重尾样本、行间相关、异方差行或非零均值未扣除,都会改变分布。非零均值的高斯外积和属于非中心版本,也不是本页的中心 Wishart。

此外,本文用整数自由度的高斯构造。某些资料通过矩阵密度把非奇异 Wishart 扩展到非整数自由度;那是进一步的参数扩展,不能再字面解释成“若干条独立行”的数目。

推论与应用

方向卡方、秩与矩公式 ​

对固定 a,aTZi/aTΣa 是独立标准正态,平方后求和即得方向卡方结论。把 ZiT 排成数据矩阵 Z,则 W=ZTZ,秩等于 Z 的秩。正定 Σ 使每行有全维密度,随机行或列除非落入一个零测度的线性依赖集合,否则会达到允许的最大秩。

高斯四阶矩满足

E[ZaZbZcZd]=ΣabΣcd+ΣacΣbd+ΣadΣbc.

可从 EetTZ=etTΣt/2 对四个坐标求导验证。不同观测行独立,因此

Cov(Wab,Wcd)=ν(ΣacΣbd+ΣadΣbc).

这个式子保留随机协方差各条目间的共同波动,不能由各自的单变量方差替代。

正交投影精确决定自由度 ​

令 Z∼MNn,p(0,In,Σ),即矩阵正态的独立行模型。若 P 是对称幂等投影、秩为 r≥1,用正交矩阵 Q 对角化为 QTPQ=diag(Ir,0)。

行正交变换 QTZ 仍由独立 Np(0,Σ) 行组成,所以

ZTPZ∼Wp(r,Σ).

若 P1P2=0,对应的投影高斯行分量独立,故 ZTP1Z 与 ZTP2Z 独立。零秩投影则产生恒零矩阵。

对独立 Xi∼Np(μ,Σ),令

X¯=1n∑iXi,S=1n−1∑i(Xi−X¯)(Xi−X¯)T,n≥2.

中心化矩阵 P=In−11T/n 是秩 n−1 的投影,与均值方向的投影正交。因此

(n−1)S∼Wp(n−1,Σ),X¯∼Np(μ,Σ/n),X¯⊥S.

这三个结论共同支撑精确的多变量均值推断;只知道 ES=Σ 还远远不够。

一个紧凑的变换刻画 ​

对半正定矩阵 T,独立行和高斯积分给出

Eexp(−12tr(TW))=det⁡(Ip+Σ1/2TΣ1/2)−ν/2.

证明只需先对单行白化,再对 Σ1/2TΣ1/2 对角化;每个独立标准正态方向贡献 (1+λj)−1/2,最后乘上 ν 行。这个变换立即说明:同尺度且独立的 Wishart 矩阵相加,自由度相加;对固定 A 作 AWAT,则尺度变成 AΣAT,可能退化。

参考资料
  • Stanford STATS305C,《Normal Theory》,Wishart distribution、Operations with Wisharts、Special case: projections 与中心化样本例子。
关系图谱14 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
分类位置

上位 / 更一般

下位 / 直接特例

暂未标注直接特例。

类型化关系