这份终点要求同时保留三种对象：固定参数下的重复抽样风险、固定先验下的后验量、固定数据下的似然最优性。它们可以在同一问题中出现，却没有任何两项仅凭名字就互相保证。

学习入口为正态收缩与混合证书路线：联合风险理路James–Stein收缩与联合平方风险James–Stein estimator · James Stein shrinkage · James–Stein支配定理在已知球形正态噪声下证明径向收缩对每个均值向量降低总平方风险，处理原点奇性，并给出精确minimax下界与子空间维数边界。、后验导数理路Tweedie公式与正态后验矩Tweedie's formula for normal means · Gaussian posterior score identity · Tweedie后验均值公式从正态混合边缘密度的导数恢复后验均值和方差，证明后验均值单调，并区分固定先验公式、密度代入和重新拟合的导数。和混合似然理路正态混合的非参数似然与最优性证书Gaussian location mixture NPMLE · Kiefer–Wolfowitz mixture likelihood · 非参数经验Bayes混合似然在已知正态方差下对整份混合分布最大化似然，证明有限支持解存在，并用方向导数核全局最优性与网格算法的真实范围。。每项都给出可以独立乘回或求期望的答案。

任务一：保留两个组均值，剩下几维可以收缩 ​

有六个独立读数，$X_i\sim N({\theta }_i,1)$。事先把前三个和后三个分为两组。规则保留两组各自的坐标平均，只收缩组内偏离。观察

$$x=(3,1,2,-1,1,0).$$

求正确的JS系数、输出向量，以及当每组真实均值内部相同时的总风险。再核把全空间系数$d-2=4$误用于残差后，会发生什么。这里的分组不能根据这六个读数临时挑选。

完整答案 ​

保留空间是$\mathrm{span}\{(1,1,1,0,0,0),(0,0,0,1,1,1)\}$，秩$r=2$；残差空间维数$m=4$。两个平均为2和0，所以

$$Px=(2,2,2,0,0,0),Qx=(1,-1,0,-1,1,0),\Vert Qx{\Vert }^2=4.$$

残差使用$c=m-2=2$，收缩因子为$1/2$，输出

$$(5/2,3/2,2,-1/2,1/2,0).$$

若$Q\theta =0$，保留块风险为$r=2$，残差块的中心JS风险为2，总风险为4，低于原规则的6。这个结论适用于任意两组真实组均值，不要求两组均值也相同。

误用$c=4$时，本次残差全被删去，输出$Px$。但整条规则不是恒定投影，而是$PX+(1-4/\Vert QX{\Vert }^2)QX$。其残差风险修正系数为

$$c^2-2c(m-2)=16-16=0.$$

所以这条错误规则的总风险对每个$\theta$都仍为6，没有得到所声称的严格改进。本次恰好输出组均值，不足以决定整条规则的风险。

再把六个读数及噪声标准差都放大3倍，平方单位变为9。正确$c$也乘9，因子不变，输出和真实均值乘3，全部平方风险乘9；仅改变数据而保留$c=2$不具有这份尺度性质。

任务二：三点先验里的后验、曲率和预测 ​

令$a=\sqrt{2\log 2}$、${\sigma }^2=1$，先验为

$$G=\frac{1}{4}{\delta }_{-a}+\frac{1}{2}{\delta }_0+\frac{1}{4}{\delta }_a.$$

先在$y=0$，再在$y=a$，计算后验概率、均值、方差、边缘得分$s(y)$与$s^{\prime }(y)$，最后给出同一信号下一次独立噪声读数的预测方差。结果中的$a$可以保持精确符号，不要先把它舍入成小数。

完整答案 ​

在零处，去掉共同正态常数后，三个似然值为$(1/2,1,1/2)$。乘先验权重并归一，得到

$$P(\mathrm{\Theta }=-a,0,a\mid 0)=(1/6,2/3,1/6).$$

因此

$$E(\mathrm{\Theta }\mid 0)=0,V(\mathrm{\Theta }\mid 0)=a^2/3,s(0)=0,s^{\prime }(0)=a^2/3-1.$$

在$y=a$处，三个似然值为$(1/16,1/2,1)$。未归一权重为$(1,16,16)/64$，所以后验为$(1,16,16)/33$。于是

$$E(\mathrm{\Theta }\mid a)=\frac{5a}{11},E({\mathrm{\Theta }}^2\mid a)=\frac{17a^2}{33},V(\mathrm{\Theta }\mid a)=\frac{112a^2}{363}.$$

Tweedie公式要求

$$s(a)=-\frac{6a}{11},s^{\prime }(a)=\frac{112a^2}{363}-1.$$

可直接对混合密度逐项求导，再算$m^{\prime }/m$与$m^{″}/m-(m^{\prime }/m{)}^2$复核，不能只将同一条均值公式抄两遍。

下一次读数的预测方差分别为$1+a^2/3$和$1+112a^2/363$。预测均值与信号后验均值相同，方差却多一个噪声方差；预测分布仍为三成分混合，不因知道这两个矩就变成正态。

任务三先用已知方差的正态密度计算核矩阵，再优化混合权重。若需要复习密度中的尺度因子，可从这里进入；去掉每行共同的正因子不会改变该任务的权重证书，但不能同时放开方差参数。

任务三：不对称样本的网格最优解，为什么仍不是连续域解 ​

仍取$a=\sqrt{2\log 2}$，固定候选原子网格$(-a,0,a)$，现在观察三个数$(-a,-a,a)$。求最优权重，给出全部三列的证书值，拒绝零初始化EM的伪收敛。然后判断是否已认证全实线混合模型。

完整答案 ​

令左端点权重为$w$、右端点为$1-w$、中间为零，两个不同数据位置的核密度为

$$f_{-}=\frac{1+15w}{16},f_{+}=\frac{16-15w}{16}.$$

在这条边上，目标为$2\log f_{-}+\log f_{+}$；导数为零给$w=31/45$。所以候选

$$\hat{w}=(31/45,0,14/45),f_{-}=17/24,f_{+}=17/48.$$

还必须检查中间列，而不能只在一条边上优化。三个方向证书值为

$$D(-a)=3,D(0)=48/17<3,D(a)=3.$$

这认证整个三点单纯形上的全局最优，不只是某条边的局部结论。若希望另核唯一权重，三个核列在二维平面中不共线，等密度向量与权重和一共同确定权重。

从$w=(0,1,0)$启动EM，三个权重永远不动，因为零质量不会自行出生。但左端点方向值为

$$D(-a)=2\cdot 2+\frac{1}{8}=\frac{33}{8}>3,$$

明显不满足全网格证书。可以提高似然与迭代“没有变化”并不矛盾。

最后，连续域的$D_H$在$\theta =a$处取3，但

$$D_H^{\prime }(a)=2\frac{-2a(1/16)}{17/24}=-\frac{6a}{17}<0.$$

所以向$a$左侧移动足够小距离会出现$D_H>3$。当前解是三点网格最优，已经被拒绝为全实线最优。用更细网格后必须重新拟合和认证，不能只修改输出标签。

在当前网格拟合模型中，输入$a$时信号两端点的后验概率为$31/255$和$224/255$，后验均值为$193a/255$。这份条件计算仍完全有效，只须保留“在当前拟合模型中”的限定。

任务四：重新估计中心后，冻结后验方差漏掉了什么 ​

观察独立$Y_i\sim N({\theta }_i,1)$，$i=1,2$，现在把真实$({\theta }_1,{\theta }_2)$视为固定参数。拟合时采用工作先验$N(\mu ,1)$，先用$\hat{\mu }=(Y_1+Y_2)/2$估计中心，再分别计算工作模型的后验均值。

求整条估计规则、逐参数总风险、两个输出之间的协方差和正确向量SURE。再说明将冻结先验时的导数直接代入整条规则会造成多大偏差。

完整答案 ​

冻结$\mu$时，后验均值为$(y_i+\mu )/2$、方差为$1/2$。代入同批数据估计的中心，整条规则成为

$$\hat{\theta }=\left(\begin{array}{cc}3/4& 1/4\\ 1/4& 3/4\end{array}\right)\left(\begin{array}{c}{Y}_1\\ Y_2\end{array}\right).$$

每个输出的抽样方差为$5/8$，两输出的协方差为$3/8$。偏差向量为$(({\theta }_2-{\theta }_1)/4,({\theta }_1-{\theta }_2)/4)$，故

$$\begin{array}{}\text{(1)}& R(\theta ,\hat{\theta })=\frac{5}{4}+\frac{({\theta }_1-{\theta }_2{)}^2}{8}.\end{array}$$

它只在$|{\theta }_1-{\theta }_2|<\sqrt{6}$时严格优于原样输出的风险2；差距越大，风险可以任意大。经验拟合的收缩并未自动获得James–Stein的全参数支配。

令$g(Y)=\hat{\theta }-Y$。有

$$\Vert g(Y){\Vert }^2=\frac{(Y_1-Y_2{)}^2}{8},\mathrm{div}g=-\frac{1}{2}.$$

所以正确SURE是

$$2+\Vert g(Y){\Vert }^2+2\mathrm{div}g=1+\frac{(Y_1-Y_2{)}^2}{8}.$$

其期望为$1+(({\theta }_1-{\theta }_2{)}^2+2)/8$，与式(1)相同。

如果错误地把$\hat{\mu }$视为不随$Y_i$改变，便会给每个$g_i$导数$-1/2$，散度总和算成$-1$，错误分数只剩$(Y_1-Y_2{)}^2/8$，期望比真实风险整整少1。冻结先验的Tweedie导数与重新拟合的总导数不能混用。

工作模型后验方差$1/2$本身没有算错，但它不是这里每个输出的抽样方差$5/8$，也不是逐参数MSE。若要建完整超先验模型，会得到另一个问题；本题没有悄悄把经验代入变成全Bayesian分析。

复算与验收 ​

标准库复算程序与发布结果提供确定性检查。保存后运行：

python foundations-gaussian-shrinkage-check.py --output my-results.json
python -O foundations-gaussian-shrinkage-check.py --output my-results-O.json

普通和优化运行应逐字一致。程序以有理数检查投影维数、尺度变换、后验质量和方向证书；一般风险结论仍依靠正文证明。非中心风险的指数项有显式有理上下界，不把浮点相近当作精确相等。

验收必须保留损失、噪声方差、是否冻结拟合分布、原子允许域，以及数值停止标准。一个后验方差、一个更高的似然和一条更低的总风险曲线，各自只能证明已经声明的那一项。