在概率空间 上,令 为任意指标集。实值随机过程理路随机过程Stochastic process · Random process由同一随机实验产生、按时间或空间指标组织的一族随机变量。 称为高斯过程,若对任意 、 与 ,线性组合 都是一维高斯随机变量;允许方差为零的退化情形。等价地,每个有限向量 都服从联合高斯分布理路多元正态分布Multivariate normal distribution · Multivariate Gaussian distribution · Jointly Gaussian vector以所有线性组合都正态刻画联合高斯向量,并由特征函数连接线性构造、退化支撑、全维密度与条件分布。。
把各 的高斯特征函数理路特征函数(概率)Characteristic function of a distribution随机变量的复指数矩,也就是概率分布的 Fourier 变换。取极限,得到 的高斯特征函数,允许极限方差为零。若有限个输出各有这样的均方逼近,对其任意线性组合重复论证,便得到联合高斯。积分和均方导数可在各自近似确实均方收敛时使用这条规则;仅在某种路径集合上写出一个未说明连续性和可测性的线性算子,不能自动继承它。时间序列中的平稳高斯过程、空间随机场与贝叶斯非参数模型都沿用同一逻辑:先验证核半正定,再处理所需路径性质,最后才进行条件化或极限运算。
若有限观测天然按行、列组成数据表,矩阵正态模型理路矩阵正态分布Matrix normal distribution · Matrix-variate normal distribution在列优先向量化约定下,以可分离的行列协方差描述联合正态矩阵,并明确密度、线性变换与参数尺度不识别。额外要求协方差可分离成行因子与列因子的 Kronecker 乘积。它是一个有结构限制的联合高斯模型;一般高斯截面的协方差未必能这样分解。
参考资料
Carl E. Rasmussen and Christopher K. I. Williams, Gaussian Processes for Machine Learning, MIT Press, 2006, Ch. 2, §2.2, Gaussian-process specification and prediction。
Robert J. Adler and Jonathan E. Taylor, Random Fields and Geometry, Springer, 2007, Ch. 1, §§1.2–1.3, Gaussian fields and sample regularity。
Mikhail A. Lifshits, Gaussian Random Functions, Kluwer Academic Publishers, 1995, Ch. 1, §§1–2, Gaussian families and covariance functions。