一份有限拟合结果需要哪些证书 ​

本终点从同一类二元观测出发，逐步改变设计和推断任务。先判断原MLE是否存在，再明确有限惩罚估计改变了什么；随后固定层总数消去截距，最后为共同优势比交付可复算的等尾区间。每一步都保留自己的随机模型和目标。

四个接口分别是分离与有限MLE理路Logistic分离与有限最大似然估计Complete separation in logistic regression · Quasi-complete separation · 逻辑回归完全分离用有符号设计方向刻画二元logistic模型何时存在有限唯一MLE，并将完全分离、准完全分离与不可识别的平坦方向区分开。、Firth惩罚理路Firth惩罚逻辑回归Firth logistic regression · Jeffreys-penalized logistic regression · Firth偏差修正在满秩二元logistic模型中加入半个信息行列式的对数，推导修正得分与有限极大点，并区分偏差阶数、参数坐标和有限样本覆盖。、条件logistic模型理路条件logistic回归Conditional logistic regression · 条件逻辑回归 · Stratified conditional logistic likelihood固定每层的成功总数后消去logistic层截距，以有限子集分布估计共同斜率，并给出归一化、得分和信息的动态规划。与优势比的精确条件推断理路优势比的精确条件推断Exact conditional odds ratio inference · Conditional odds ratio confidence interval · 优势比条件极大似然估计从两独立二项组推导固定边缘下的非中心超几何族，计算条件优势比MLE，并以等尾反演给出有限样本覆盖和正确的无限端点。。

任务一：增加一列协变量会怎样改变存在性 ​

四个观测的响应为y=(0,1,0,1)。首先只使用截距和协变量t，t=(−1,−1,1,1)。在两个t位置都出现了相反标签，所以非零弱分离方向不存在。β=(0,0)给每行概率1/2、得分为零，是有限唯一MLE。

现在另记录一列二元协变量c=(0,1,0,1)，得到三列设计

$$X=\left(\begin{array}{ccc}1& -1& 0\\ 1& -1& 1\\ 1& 1& 0\\ 1& 1& 1\end{array}\right).$$

第三列没有成为前两列的线性组合：同一t下，前两列相同而第三列不同，故秩从2增加到3。方向 $v=(-1/2,0,1{)}^{\mathsf{T}}$ 的原预测子为(−1/2,1/2,−1/2,1/2)，乘上2y−1以后，每个间隙都是1/2。因而新增设计完全分离，原无约束MLE不再有有限解。

这说明存在性是“资料与所选设计”共同决定的。原模型有有限解，不能推出添加协变量后仍有有限解。即使软件在两次拟合中都给出有限数字，也应分别验证设计秩和间隙证书。

准完全情形的对照 ​

若只使用截距和t，改取t=(−1,0,0,1)、y=(0,0,1,1)，则v=(0,1)给间隙(1,0,0,1)。中间两行要求截距同时严格正、严格负，排除了完全分离；弱方向又确实存在，所以是准完全分离。

沿β=(0,b)、b→∞，外侧概率趋0与1，中间两行保持1/2，对数似然趋−2log2。这给出了上确界和一条趋近路径，没有给出一个有限极大点。

任务二：两组完全分离，有限修正的目标是什么 ​

考虑独立Bernoulli观测，设计只有截距和组指标g。g=0组有3次观测，全部失败；g=1组有2次观测，全部成功。写两组成功概率为p_0与p_1，系数为

$${\beta }_0=\log \frac{p_0}{1-p_0},{\beta }_1=\log \frac{p_1}{1-p_1}-{\beta }_0.$$

原似然是 $(1-p_0{)}^3{p}_1^2$，随p_0↓0、p_1↑1趋1，没有有限系数达到它。两列设计满秩，Firth目标却有有限极大点。

记 $a=3p_0(1-p_0)$、$b=2p_1(1-p_1)$，则

$$I(\beta )=\left(\begin{array}{cc}a+b& b\\ b& b\end{array}\right),\det I=ab.$$

所以惩罚对数似然除常数外分解为

$$\tilde{\ell }=\frac{1}{2}\log p_0+\frac{7}{2}\log (1-p_0)+\frac{5}{2}\log p_1+\frac{1}{2}\log (1-p_1).$$

分别对两组logit求导，得唯一根

$${\tilde{p}}_0=\frac{1}{8},{\tilde{p}}_1=\frac{5}{6},{\tilde{\beta }}_0=-\log 7,{\tilde{\beta }}_1=\log 35.$$

本例的两个组logit可以自由变化，目标各部分都严格凹，因而能够额外证明该解唯一；这不是把一般Firth目标无条件称为严格凹。

用修正得分再验一次 ​

每个组的重复行具有相同杠杆，分别为h=1/3和h=1/2。组0修正残差之和是

$$3\{-\frac{1}{8}+\frac{1}{3}(\frac{1}{2}-\frac{1}{8})\}=0;$$

组1的相应和为

$$2\{1-\frac{5}{6}+\frac{1}{2}(\frac{1}{2}-\frac{5}{6})\}=0.$$

乘设计后两维修正得分都为零。该有限点最大化的是加入信息惩罚后的目标；原始独立Bernoulli似然的分离方向仍存在。

任务三：从配对迁移到五候选、两成功、二维协变量 ​

一层有5个成员，原模型是给定设计的独立Bernoulli，具有共同层截距α与二维斜率β。条件于该层恰有2个成功，令五个协变量依次为

$$x_1=(0,0),x_2=(1,0),x_3=(0,1),x_4=(1,1),x_5=(2,0).$$

在 $\beta =(\log 2,\log 3)$ 处，权重 $e^{{\beta }^{\mathsf{T}}{x}_i}$ 为1、2、3、6、4。若成功者是第2与第3人，则观察到 $T=x_2+x_3=(1,1)$。

允许结果是10个二人子集。按12、13、14、15、23、24、25、34、35、45排列，其重量依次为

$$2,3,6,4,6,12,8,18,12,24,$$

总重量Z=95。因而观察到子集23的条件概率为6/95。子集14也产生T=(1,1)，所以统计量T=(1,1)的概率为12/95；这两个概率不能混淆。

矩递推和一次上升方向 ​

将每个子集的权重、权重乘T、权重乘TT^T分别相加，再除以95，得到

$$ET=\frac{1}{95}\left(\begin{array}{c}184\\ 99\end{array}\right),I_c=\mathrm{Cov}(T)=\frac{1}{9025}\left(\begin{array}{cc}7184& -2256\\ -2256& 3024\end{array}\right).$$

首个主元为正，且 $\det I_c=9216/45125>0$，故这层在当前参数处对两个方向都有信息。观察得分为

$$U_c=\frac{1}{95}\left(\begin{array}{c}-89\\ -4\end{array}\right).$$

解 $I_c\delta =U_c$，得

$$\delta =\left(\begin{array}{c}-305/192\\ -755/576\end{array}\right).$$

由于 $U_c^{\mathsf{T}}\delta >0$，它是条件对数似然的上升方向；实际步长可用回溯来验证。两个分量必须联立求解，不能只对每个协变量分别做一次配对logistic更新。

用公开脚本还可完全不枚举子集：对“已读成员数、已选人数”运行条件logistic页的Z、M、R递推，会得到相同的有理矩。这里状态r只能取0、1、2，加入一个成员时逆序更新，保存的是加入该成员前的三个矩状态。

哪些操作会改变模型 ​

随机把这5人分成若干对，只允许每对至多一个成功，会删掉原本允许的子集，不能继续使用上述Z=95。忽略固定总数，把5个条件成功指示当成独立Bernoulli，也会改变联合分布。

给全部x_i加同一个二维向量则不改变条件概率：每个允许T统一增加两倍该向量，分子分母约去相同因子。相反，若只增加“整个层的类别”作为协变量，它在所有子集中都贡献固定值，不可能从这一条件实验估计其斜率。

任务四：共同优势比必须保留各层边缘 ​

现在有两个独立层，每层各含两个独立二项组。假定两层具有同一个未知优势比θ>0，但允许其基准成功概率不同。观测表为

层	第一组：成功、失败	第二组：成功、失败
1	2、1	1、2
2	1、1	1、2

分别固定层1的总成功数3与层2的总成功数2。令A_j为第j层第一组成功数，则两个条件归一化多项式为

$$Z_1(\theta )=1+9\theta +9{\theta }^2+{\theta }^3,Z_2(\theta )=3+6\theta +{\theta }^2.$$

联合目标的充分计数T=A_1+A_2观察到3。独立层相乘、相同T合并后，

$$Z(\theta )=Z_1(\theta )Z_2(\theta )=3+33\theta +82{\theta }^2+66{\theta }^3+15{\theta }^4+{\theta }^5.$$

因此支持为0,…,5，系数c=(3,33,82,66,15,1)，$P_{\theta }(T=t)=c_t{\theta }^t/Z(\theta )$。在θ=1时，E T=2.3，而观察为3，所以条件MLE大于1。

条件估计与等尾区间 ​

均值方程 $\theta Z^{\prime }(\theta )/Z(\theta )=3$ 等价于

$$2{\theta }^5+15{\theta }^4-82{\theta }^2-66\theta -9=0.$$

正根唯一，给

$${\hat{\theta }}_c\approx 2.3748535385.$$

95%等尾端点由下列两个方程给出：

$$\frac{66{\theta }_{-}^3+15{\theta }_{-}^4+{\theta }_{-}^5}{Z({\theta }_{-})}=0.025,\frac{3+33{\theta }_{+}+82{\theta }_{+}^2+66{\theta }_{+}^3}{Z({\theta }_{+})}=0.025.$$

解为

$$C_{0.05}\approx [0.1561553005,44.4883219661].$$

可用有理数逐项计算多项式，验证更明确的括界

$$0.1561553005<{\theta }_{-}<0.1561553006,44.4883219661<{\theta }_{+}<44.4883219662.$$

脚本检查下端两侧右尾分别小于和大于0.025，上端两侧左尾分别大于和小于0.025。尾函数的严格单调性保证这些不等式确实认证端点，而非仅与某次数值迭代输出一致。

为何不能先把两层表相加 ​

合并表的第一组是3成功、2失败，第二组是2成功、4失败。只固定合并成功总数5时，中央组合系数为

$$(6,75,200,150,30,1),$$

与保留两层边缘的c不是常数倍。两者已经是不同的条件实验，不能把合并交叉比3或合并表的区间作为上述共同θ条件推断的替代答案。

如果两层真实优势比不同，单个θ模型本身就不成立。形式上仍能将似然写成一维函数，不会因此证明共同效应存在；需要先说明采用共同参数的科学假设。

任务五：有限标准误能否保证95%覆盖 ​

取单个Bernoulli观测Y，即n=1截距模型。Firth估计只可能为−log3与log3，信息为3/16，标准误为 $4/\sqrt{3}$。考虑常见的名义95%Wald区间

$$[\tilde{\beta }-z_{0.975}(4/\sqrt{3}),\tilde{\beta }+z_{0.975}(4/\sqrt{3})].$$

两个可能区间的最大上端为

$$\log 3+z_{0.975}(4/\sqrt{3})\approx 5.624955225.$$

真β=6是模型允许的有限参数，真概率为σ(6)∈(0,1)。无论Y=0还是Y=1，区间上端都小于6，故覆盖概率为0。这里不需要模拟，也不需要罕见事件近似：已经枚举了完整样本空间。

这个反例解释了为什么任务四的有限样本尾反演证明不能被“估计与标准误都有限”取代。Firth有限性、固定内部参数的偏差阶数、区间覆盖，分别有不同的数学合同。

复算与交付清单 ​

公开检查脚本与结果包含有理子集枚举和DP对照、修正得分、条件质量与尾覆盖枚举、多层卷积及端点有理括界。高精度小数仅用于展示，明确的端点区间由有理不等式认证。

完成本终点后，一份合格报告应交出：设计与随机机制；原MLE的存在性证书；若改变目标则写明惩罚；条件化时保留的总数与被消去的参数；有限支持、尾约定和端点；最后说明算法残差与统计覆盖各自依赖什么。返回本单元学习路线。