两点检验下界

两个参数若在目标损失中相隔很远，准确估计就必须知道数据来自哪一边；但若它们诱导的样本分布几乎重叠，任何检验都会频繁混淆。两点法把这两种要求并置：参数距离制造误差尺度，统计距离控制不可辨识概率。

样本数增加会把乘积分布推远，因此候选间隔不能固定不变。典型构造让单样本 KL 为 $O(1/m)$，使总 KL 保持常数，同时让参数距离尽可能大；这份平衡直接产生估计速率。

Bernoulli 均值例子 ​

估计 Bernoulli 均值，取 ${\theta }_0=1/2-a$、${\theta }_1=1/2+a$，则参数间隔为 $2a$。单样本KL 散度公理库KL 散度Kullback–Leibler divergence · Relative entropy同一可测空间上分布 P 相对于 Q 的对数 Radon–Nikodym 导数在 P 下的积分。在小 $a$ 时为 $O(a^2)$，而独立乘积满足

由 Pinsker 不等式，TV 至多为 $O(a\sqrt{m})$。选择 $a=c/\sqrt{m}$ 且 $c$ 足够小，TV 保持严格小于 $1$，于是任何估计器都以常数概率有 $\mathrm{\Omega }(m^{-1/2})$ 绝对误差。这给出匹配样本均值上界的速率。

数据处理视角与边界 ​

估计器是观测的函数，数据处理不等式公理库数据处理不等式Data processing inequality对 Markov 链 X→Y→Z，有 I(X;Z)≤I(X;Y)。说明它不能增加区分两分布的信息。证明中不能把单样本 KL 直接当作 $m$ 样本 KL；乘 $m$ 来自独立乘积。两点法善于得到一维或单方向速率，却常看不见高维的 $d$ 因子；这时要构造 packing 并用 Fano，或使用 Assouad 超立方体。若损失不是度量，参数间隔到检验正确性的那一步需按损失几何重新证明。

把尾概率下界乘以 $s^p$，即可得到 $d^p$ 型损失的风险下界。Bernoulli 例子取 $a\asymp m^{-1/2}$，给出均值估计的 $m^{-1/2}$ 绝对误差或 $m^{-1}$ 平方误差量级，与样本均值上界匹配。

当困难只沿一个自然方向发生时，两点法最简洁；需要维数因子时，应改用 Packing–Fano 或 Assouad，把多个可区分方向同时编码进候选集合。方法选择取决于参数几何，而不是下界定理名称的强弱排序。