广义估计方程

形式陈述 ​

对同一个人连续记录两次是否出现某事件，两个回答可能相关，却仍可用 logit 描述各次事件概率。广义线性模型理路广义线性模型Generalized linear model · GLM用链接函数把指数族响应的条件均值连接到协变量线性预测子。提供链接、均值导数和工作方差；本页接着构造一个允许簇内相关的向量估计方程。只固定工作相关矩阵，不要求给出簇内响应的完整联合似然，也不把相关参数估计混入本页的证明。

固定的是相关规则，不是全部权重 ​

设完整簇资料 $W_g=(X_g,Y_g)$ 独立同分布，$g=1,\dots ,G$，参数维数 $p$ 固定。$Y_g\in {\mathbb{R}}^{m_g}$，$1\le m_g\le m$，上界 $m$ 不随 $G$ 增长。为简化记号，$X_g$ 包含整个簇的设计、簇大小及已知暴露量等输入。以下所有条件均值都条件于这份完整设计：

典型均值为 ${\mu }_{gi}(\beta )={\ell }^{-1}(x_{gi}^{\mathsf{T}}\beta +o_{gi})$；$o_{gi}$ 是已知 offset。设

其中各工作方差 $v_{gi}>0$ 是已规定的设计与参数函数；$R_g=R(X_g)$ 是预先指定、对称正定且对角线为1的工作相关规则。这里使用同一个已固定规则，以保留完整簇的 IID 设定；不从本批 $Y$ 中调出 $R$ 或新的分散参数。$R_g$ 不随 $\beta$ 变化，但 $A_g$ 通常随 $\beta$ 变化，故整个 $V_g$ 并未被冻结。

令 $r_g=Y_g-{\mu }_g$。簇得分、总方程和平均方程分别为

GEE 估计量是 ${\mathrm{\Psi }}_G(\beta )=0$ 的已指定根，或具有已报告残差的近似根；这正是Z-估计的求根接口理路估计方程与 Z 估计Z-estimation · Estimating equation区分求根和极小化，给出多根定位、近似残差与局部 Jacobian 线性化的完整接口。。输入必须包括簇标签、设计与响应、链接、工作方差、每簇 $R_g$、初值、停止容差与最大迭代数。输出不能只有系数，还应包括拟合均值、平均得分残差和下面两种协方差。

在返回的 $\hat{\beta }$ 处计算求和矩阵

$\hat{C}$ 已是 $\hat{\beta }$ 的协方差估计，不能再除以 $G$ 或总行数。按sandwich 的平均约定理路Sandwich 协方差估计Sandwich covariance estimation从得分与敏感度的样本矩阵算出可复核的协方差、对比标准误和异方差稳健推断。，两侧敏感度是 $-H/G$，中间矩阵是 $M/G$，最后再除 $G$，恰好得到式(2)。$H^{-1}$ 则是工作模型协方差；要使用它，还需保证 $B=Q$；真实条件协方差等于工作协方差是一个充分条件，所得公式通常也只是渐近公式。

为什么错误的工作相关不一定移动目标 ​

在真参数处，$D_g$ 和 $V_g$ 都由 $X_g$ 决定。只要相应期望存在，

这个等式不使用 $R_g$ 等于真实相关矩阵。它解释均值中心为什么可以保留，却没有单独证明总体根唯一、算法选对根或估计量一致；这些仍是后面的独立条件。式(3)也不是说拟合后的 $s_g(\hat{\beta })$ 条件均值为零，因为 $\hat{\beta }$ 已经使用了响应。

条件于完整 $X_g$ 很重要。仅知 $E(Y_{gi}\mid x_{gi})={\mu }_{gi}$，不能随意把它升级为 $E(Y_{gi}\mid X_g)={\mu }_{gi}$。例如第二次协变量包含第一次结局时，完整设计已经透露第一次结局的信息；而 $V_g^{-1}$ 还会把不同时间的残差混合。这样的反馈资料需要另外验证矩条件，不能靠“边际均值写对了”一句话跳过。

期望敏感度与观测 Jacobian 的差别 ​

记 $K_g(\beta )=D_g(\beta {)}^{\mathsf{T}}{V}_g(\beta {)}^{-1}$、$h_g=K_g{D}_g$。逐坐标求导得到

第一项包含均值二阶导数以及工作方差的导数。由式(3)使用的完整条件均值，在 ${\beta }_0$ 处对式(4)取条件期望，第一项消失。因此在允许微分与期望交换的可积条件下，

有限样本中却有 $-{\partial }_{\beta }{U}_G=H-T_G$，其中 $T_G$ 的第 $j$ 列是 $\sum _g({\partial }_j{K}_g)r_g$。即使 $U_G(\hat{\beta })=0$，这些新的残差加权和也未必为零。$H$ 是把期望敏感度结构代入当前参数后求和的 bread，并不等于每次样本的观测负 Jacobian；后者甚至可以不对称。两者在下述条件下除以 $G$ 都趋于 $Q$，这才解释其一阶等价。

一套可以逐项检查的充分条件 ​

为了把“均值正确”与真正的抽样结论接起来，固定一个紧凸参数集 $\mathrm{\Theta }$，${\beta }_0$ 在其内部；所有函数联合可测。除前述 IID、有界簇大小与式(3)之外，要求：

1. 在包含 $\mathrm{\Theta }$ 的开集，${\mu }_g$ 二次连续可微，$A_g$ 一次连续可微并保持正对角元，因而 $s_g$ 连续可微。写 $J_g={\partial }_{\beta }{s}_g$，存在随机界 $L_s,L_J$，使 $\underset{\mathrm{\Theta }}{sup}\Vert J_g\Vert \le L_s$，且 $\Vert J_g(b)-J_g(c)\Vert \le L_J\Vert b-c\Vert$；$E{L}_s^2<\mathrm{\infty }$、$E{L}_J<\mathrm{\infty }$、$E\Vert s_g({\beta }_0){\Vert }^2<\mathrm{\infty }$。
2. $E\Vert h_g({\beta }_0)\Vert <\mathrm{\infty }$，且 $\Vert h_g(b)-h_g(c)\Vert \le L_h\Vert b-c\Vert$，其中 $E{L}_h<\mathrm{\infty }$。$Q=E{h}_g({\beta }_0)$ 正定。
3. 总体方程 $\mathrm{\Psi }(b)=E{s}_g(b)$ 在 $\mathrm{\Theta }$ 上只有分离的目标根：对每个 $\epsilon >0$，$\underset{b\in \mathrm{\Theta }:\Vert b-{\beta }_0\Vert \ge \epsilon }{inf}\Vert \mathrm{\Psi }(b)\Vert >0$，空集的下确界约定为正无穷。求解器返回 $\mathrm{\Theta }$ 中的可测选择，并满足 $\Vert {\mathrm{\Psi }}_G(\hat{\beta })\Vert =o_P(G^{-1/2})$。

这些是充分条件，不声称必要。比如设计有界、暴露量上下有正的有限界、参数限制在固定紧集、$R_g$ 最小特征值统一远离零，且 $E\Vert Y_g{\Vert }^2<\mathrm{\infty }$ 时，本页的 logit 与 log-link 公式在紧集上具有所需光滑包络；但仍需另外核对总体分离和 $Q$ 正定。不能把一次迭代的可逆 $H$ 当成全部总体条件。

记 $B=E\{s_g({\beta }_0)s_g({\beta }_0{)}^{\mathsf{T}}\}$。则

证明并不另外发明一套 GEE 渐近理论。先把紧参数集上的一致大数律理路参数化一致大数律Parametric uniform law of large numbers用紧参数集和可积随机 Lipschitz 界，把逐点大数律提升为同一样本上的全参数控制。逐分量用于 $s_g$：$L_s$ 给随机 Lipschitz 界，$s_g({\beta }_0)$ 给可积锚点。结合总体分离和趋零残差，得到一致定位。再将一致大数律用于 $J_g$，其锚点由 $L_s$ 控制，Lipschitz 界为 $L_J$；支配收敛同时允许交换微分与期望，使总体 Jacobian 在真值处等于 $-Q$。已有Z 定理的积分 Jacobian 展开理路估计方程与 Z 估计Z-estimation · Estimating equation区分求根和极小化，给出多根定位、近似残差与局部 Jacobian 线性化的完整接口。于是给出式(6)，其中独立样本量是簇数 $G$。

协方差的插件也需检查：$\Vert s_g(\hat{\beta })-s_g({\beta }_0)\Vert \le L_s\Vert \hat{\beta }-{\beta }_0\Vert$。记 $d=\Vert \hat{\beta }-{\beta }_0\Vert$，外积差的平均至多为

Cauchy–Schwarz 与所给二阶矩使两个平均稳定，所以 $M/G{\to }_{P}B$；同样，$H/G$ 与 $P_G{h}_g({\beta }_0)$ 的差不超过 $d{P}_G{L}_h=o_P(1)$，故 $H/G{\to }_{P}Q$。最后用矩阵求逆连续性得到式(7)。这避免把共同使用拟合参数的残差误当作 IID 样本直接套大数律。

若真实条件协方差是 ${\mathrm{\Sigma }}_g$，则

若进一步假定 ${\mathrm{\Sigma }}_g=V_g({\beta }_0)$，则 $B=Q$，使式(6)的方差化为 $Q^{-1}$，相应插件是 $H^{-1}$。对满足 $c^{\mathsf{T}}{Q}^{-1}B{Q}^{-1}c>0$ 的固定对比，$\sqrt{c^{\mathsf{T}}\hat{C}c}$ 支持渐近正态学生化。有限样本若 $H$ 奇异或对比方差为零，应报告推断失败；为陈述渐近随机序列所作的任意有限值延拓，不是程序的成功输出。