核均值嵌入

普通均值只测试线性坐标；核均值同时保存 RKHS 中所有测试函数的期望，因为对每个 $f$，只需与 ${\mu }_P$ 做内积。核越丰富，可读取的分布特征越丰富。这个“丰富”必须由 characteristic 等正式性质表达，不能由无限维或非线性等形容词替代。

经验嵌入是把每个样本的 canonical feature $k_{X_i}$ 做向量平均。其计算只需核内积，范数和两个经验均值的距离都可写成 Gram 求和；但有限样本波动不会因用了 RKHS 而消失。

在 $\mathcal{X}=\{a,b\}$ 上取

于是

样本 $(a,a,b,a)$ 的经验频率恰为 $(3/4,1/4)$，所以本次 ${\hat{\mu }}_P={\mu }_P$。取 $f=k_a-k_b$，有 $f(a)=1/2,f(b)=-1/2$，故 ${\mathbb{E}}_{P}f=1/4$；直接算 $⟨f,{\mu }_P⟩$ 也得 $1/4$，可复核再生期望公式。

这次经验值相等只是样本频率碰巧匹配，不是一般无误差结论。若核为常数 $k(x,z)=1$，则所有 $P$ 都映到同一个函数 ${\mu }_P=1$；嵌入存在，却完全不能区分分布。单射性需要 characteristic 核。

对无界核，$\int \sqrt{k(x,x)}dP$ 可能发散，形式积分不一定是 ${\mathcal{H}}_k$ 元素。例如多项式核要求相应矩存在。还需可测性与通常的可分值域条件来使用 Bochner 积分；仅逐点写 $\mathbb{E}k(\cdot ,X)$ 不能绕过这些分析前提。

两个分布均值之差的 RKHS 范数产生 maximum mean discrepancy；经验版本只需三组核和。核协方差算子还需相应的二阶可积性；用协方差逆算子表达条件嵌入时，则须处理值域、可逆性与正则化条件。分布回归把分布当输入，还要分析用有限样本近似输入分布所带来的误差。

若核有界，Hilbert 值均值可用集中不等式得到 $O_{\mathbb{P}}(m^{-1/2})$ 误差。这个速率不说明下游检验在所有备择下同样有功效；核带宽会决定哪些分布差异在有限样本中容易看见。