极小极大风险

minimax 值描述一场设计在先、世界选择在后的对抗：算法必须在不知道真实参数时制定一套统一规则，风险却由最不利参数评价。上界需要交出一条具体算法并控制其最坏风险；下界则要证明每条算法都会在某些难以区分的参数上付出代价。

以 Bernoulli 均值估计为例，取 $P_p=\mathrm{Bernoulli}(p)$、$p\in [0,1]$ 和平方损失 $(\hat{p}-p{)}^2$。样本均值 $\hat{p}$ 无偏，因此它的风险可以直接计算：

这只说明 ${\mathfrak{R}}_m([0,1])\le 1/(4m)$，因为 minimax 还允许其他估计器；应用两点检验下界理路两点检验下界Le Cam's two-point method · two-point lower bound把两个目标相隔但观测分布接近的参数点化为二元检验，从而证明估计下界。，取 $p_0=1/2-1/(8\sqrt{m})$、$p_1=1/2+1/(8\sqrt{m})$，可得每条规则的最坏平方风险至少为 $1/(256m)$。因此 $1/(256m)\le {\mathfrak{R}}_m([0,1])\le 1/(4m)$，已经确定 $m^{-1}$ 的阶；这两个常数没有声称给出精确 minimax 值。

Bayes 风险对先验平均，minimax 对最坏参数。选择任何先验后，所有算法的最坏风险至少为其先验平均风险，因此 Bayes 问题可给 minimax 下界，但两者不必相等。还应区分绝对风险、超额风险、错误概率和局部 minimax，它们使用不同损失与参数邻域。

已知方差的$d$维正态均值模型中，用$N_d(0,{\tau }^{2}I)$先验给任何规则的最坏平方风险下界$d{\sigma }^2{\tau }^2/({\sigma }^2+{\tau }^2)$；令$\tau \to \mathrm{\infty }$，配合原样输出的常风险$d{\sigma }^2$，得到精确minimax值。James–Stein收缩理路James–Stein收缩与联合平方风险James–Stein estimator · James Stein shrinkage · James–Stein支配定理在已知球形正态噪声下证明径向收缩对每个均值向量降低总平方风险，处理原点奇性，并给出精确minimax下界与子空间维数边界。在$d\ge 3$时对每个有限均值向量都严格降低点风险，却仍有同一个最坏风险上确界。这不是上下界常数未收紧，而是“处处严格小于”不迫使“上确界严格小于”。

若先固定一个估计器再报告其最坏风险，得到的是该算法的风险上界，不是 minimax 值；若交换成 $\underset{\theta }{sup}\underset{A}{inf}$，算法仿佛知道真实 $\theta$ 后才选择，值常退化为零。Inf–sup 的顺序正是“先设计统一程序，再面对未知世界”的数学表达。

两点检验把任意估计器转成区分两个相近参数的检验，给出最基本的 minimax 下界；Fano 方法把两个点扩展成大型 packing，Assouad 引理则把难题组织成超立方坐标。三者都以“分布难区分而正确行动相距很远”为核心，适合不同几何结构。

上界与下界同阶时，便得到问题在指定损失、参数类和样本协议下的最优统计速率。局部 minimax、Bayes 风险和超额风险改变了最坏集合或基准，引用结果前必须先对齐这些量词。

若观察协议限制为本地差分隐私理路本地差分隐私模型Local differential privacy · LDP model把隐私边界放在用户设备内，要求收集者看到的消息在任意两条原始记录下都难以区分。，风险中的信息来源是各用户随机化后的消息。此时应对合法本地信道和估计器共同优化，再在参数类上取最坏情形；中央可信处理者与本地收集者获得的信息不同，因此两种模型下的最优风险可以有不同的样本尺度。