Delta 方法

一阶推导 ​

由 Fréchet 可微性的定义，

其中 $\Vert r(h)\Vert /\Vert h\Vert \to 0$。符号 $O_P(1)$ 表示随机量以高概率保持有界，$o_P(1)$ 表示依概率趋零。分布收敛蕴含 $r_n(T_n-\theta )=O_P(1)$，因而 $T_n\to \theta$ 依概率，并有

首项由线性连续映射传播 $Z$，余项再由Slutsky 定理理路Slutsky 定理Slutsky's theorem依分布收敛随机量与依概率收敛常量组合时，和、积与合法商保持相应分布极限。消失。这说明可微性需要统一余项控制，仅有各方向导数不足。

独立同分布 Bernoulli 样本的比例 $\hat{p}=n^{-1}\sum _i{X}_i$ 满足

取 logit $g(p)={\log }^{p/(1-p)}$，导数为 $g^{\prime }(p)=1/[p(1-p)]$，故

若 $n=500,\hat{p}=0.4$，logit 估计约 $-0.405$，估计标准误为

以标准正态分位数 $1.96$ 作近似，logit 区间为 $-0.4055\pm 1.96(0.0913)$，约 $[-0.5844,-0.2265]$。对两个端点应用反变换 $h(t)=e^t/(1+e^t)$，得到概率区间约 $[0.358,0.444]$。这说明方差传播先在 logit 坐标完成，再把端点送回概率空间。

有限样本可能有 $\hat{p}=0$ 或 $1$，此时 logit 无定义。对固定内部点 $p$，这些事件的概率 $(1-p{)}^n+p^n$ 趋零，可在其上另作有限赋值以陈述极限定理；实际遇到全成功或全失败数据时，仍需另选区间程序。仅有“端点在 $(0,1)$”并不保证覆盖良好。

导数退化时 ​

若 $g^{\prime }(\theta )=0$，一阶 Delta 方法只给退化零极限。若标量 $g$ 二阶可微、$g^{\prime }(\theta )=0$ 且 $r_n(T_n-\theta )\Rightarrow Z$，则二阶展开给

例如 $T_n=\overline{X}$、$E[X]=0$、$\sqrt{n}\overline{X}\Rightarrow N(0,{\sigma }^2)$，取 $g(t)=t^2$，则

这里用到标准正态平方服从自由度一的卡方分布理路卡方分布Chi-square distribution · Chi-squared distribution · χ² distribution若干独立标准正态变量平方和的分布，以自由度记录独立平方方向的数量。；所得并不是 $\sqrt{n}$ 尺度的正态极限。

边界与失败情形 ​

映射在参数点不可微时，普通 Delta 方法失效。$g(t)=|t|$ 在零点把正态极限变成折叠正态，需要方向可微 Delta 方法。

参数在边界时，$T_n$ 的原始极限本身可能非正态；不能先假定正态再传播。logit 导数在 $p\to 0,1$ 发散，也提示内部点近似不统一。

plug-in Jacobian $Dg(T_n)$ 替换 $Dg(\theta )$ 需要导数连续与 $T_n$ 一致。数值上导数巨大时，渐近方差会放大，有限样本近似可能很差。

比值给出必须保留协方差的多元例子：$g(a,b)=a/b$ 在 $b\ne 0$ 时梯度为 $(1/b,-a/b^2)$。若分子、分母由同一样本估计，渐近方差含交叉协方差；把两个标准误分别相除会漏掉依赖，并可能得到完全错误的尺度。

若映射 $g_n$ 随样本量变化，固定函数版本不能直接套用。增长维数、变化截断阈值或正则化强度都要求统一 Taylor 余项；形式上对每个 $n$ 可微，不保证 $r_n$ 倍余项仍依概率消失。

Delta 方法传播比值、对数、风险差和预测函数的标准误。多元情形保留协方差交叉项，不能只逐分量变换方差。

它提供一阶局部近似，不给有限样本偏差；曲率较强时可用二阶修正、Bootstrap理路BootstrapBootstrap resampling · Nonparametric bootstrap用条件重采样律近似抽样误差：完整计算均值的有限分布，证明有限方差下一致性，并由最大值的持久原子判定失败。或直接枢轴方法核验。

Delta 方差的 plug-in 估计还需要原协方差估计一致。若 $Dg(\theta )$ 有非满秩，输出某些方向没有一阶波动，报告矩阵逆或标准化统计量前应先检查秩；二阶项可能在这些方向上成为主导。

对置信区间，先在线性化坐标构造再反变换，与直接在原坐标使用对称区间通常只首阶等价。有限样本端点、覆盖和不对称性可能不同，应根据参数空间和数值稳定性选择并说明。

比值的固定分母条件不能悄悄随样本消失 ​

若 $b_n=c/\sqrt{n}$、$a_n=r_{\ast }{b}_n$，其中 $c\ne 0$，且分子分母的根号样本量误差趋于非退化联合正态 $(Z_A,Z_B)$，则观测比值趋于 $(r_{\ast }c+Z_A)/(c+Z_B)$（样本分母为零时预先赋固定有限值；由缩放分母的连续极限，这个事件概率趋零）。分母的相对误差不趋零，不能把随机分母统一替换成 $b_n$；对每个固定非零分母成立的一阶结论没有自动覆盖这条变化参数序列。

Fieller 方法理路Fieller 比值置信集合Fieller confidence set · Fieller ratio interval · Fieller 比率置信集合在已知正定协方差的联合高斯实验中，不先除以随机分母，精确反演线性对比检验并返回完整的比值置信集合。改为反演候选比值的线性对比检验，并保留有限区间、两条射线、半直线或全实轴。其精确版本明确要求联合高斯且估计量协方差已知；若换成估计协方差或一般渐近实验，应重新证明检验校准，不能把“没有先相除”本身当成覆盖证明。