广义线性模型

GLM 把三层职责分开：指数族规定响应噪声，线性预测子把协变量压成一个标量，链接函数再把该标量连接到条件均值。这样既保留线性模型的可解释方向，又不强迫二元、计数或正值响应服从同方差正态噪声。

Bernoulli 回归用 logit link：

Poisson 回归常用 log link：$\log {\mu }_i=x_i^T\beta$，保证预测均值为正。Gaussian identity link 退化为线性模型公理库线性回归统计模型Linear regression model · Linear model响应的条件均值由设计变量对未知系数线性表示，并显式规定误差结构的统计模型。。

似然、Score 与 IRLS ​

条件均值与方差写成

若 $d_i=d{\mu }_i/d{\eta }_i$，score 可写为

Fisher scoring 在第 $r$ 步构造工作响应

和权重 $w_i=d_i^2/[a(\varphi )V({\mu }_i)]$，再做 weighted least squares。IRLS 是优化 likelihood 的局部二次算法，不是新的抽样模型。

估计 ​

MLE score 可写成加权残差和，Newton/Fisher scoring 产生 iteratively reweighted least squares。每一步用当前均值更新工作响应和权重，再解加权最小二乘；收敛只证明数值驻点，仍需检查分离、边界与 rank。

Poisson log-link 中 ${\mu }_i=e^{x_i^T\beta }$、$V(\mu )=\mu$，canonical score 简化为 $X^T(Y-\mu )$。一个二元暴露系数 ${\beta }_1$ 的 $e^{{\beta }_1}$ 解释为条件 rate ratio，而非均值的加性差。

边界 ​

线性的是 link 后均值对参数的关系，不是响应必正态或方差恒定。Poisson 的方差等于均值是模型假设；overdispersion 会让常规标准误过小。

logistic 完全分离时有限 MLE 不存在。把大系数当收敛结果会错误；惩罚似然改变估计目标。

binomial overdispersion、Poisson overdispersion 会破坏模型方差。quasi-likelihood 可保留均值 link 并估计 dispersion，但不再有完整概率 likelihood，LR/AIC 解释也相应变化。

响应独立性若因重复测量失效，GEE 或混合模型处理不同相关目标。sandwich 标准误只在簇数等渐近条件下有效，不能让错误 link 变正确。

link 误设、遗漏非线性和相关观测会破坏均值或方差结构。robust sandwich 只能修正某些方差误设，不能恢复错误条件均值的参数解释。

deviance 定义为拟合模型与 saturated model 的两倍 log-likelihood 差。嵌套 GLM 的 deviance 差在正则大样本下近似卡方；单个模型 residual deviance 作为 GOF 统计量时，还需类别稀疏度与 dispersion 条件。

Pearson residual $(Y_i-{\hat{\mu }}_i)/\sqrt{V({\hat{\mu }}_i)}$ 与 deviance residual 强调不同尾部。高 leverage 点的 raw residual 可能小，因为它强烈影响自身拟合；诊断要结合 hat values 与 Cook-type influence。

offset 是系数固定为一的预测项，例如 Poisson rate model 用 $\log exposur{e}_i$ offset：

遗漏 offset 会把观察时间差异误作协变量效应。

quasi-binomial 或 quasi-Poisson 只指定均值—方差关系，没有完整 likelihood；可估系数与 sandwich/dispersion 标准误，却不能原样使用 likelihood ratio、AIC 或概率预测。

对稀有事件 logistic，分离和小样本 bias 常严重。Firth penalty 改善 bias 与存在性，但输出是 penalized likelihood estimator，不能继续声称普通 MLE 有限样本性质。

统计指数族公理库统计指数族Exponential family · Natural exponential family密度的参数依赖通过自然参数与统计量内积进入，并由对数配分函数归一化的分布族。给出似然结构，最大似然估计公理库最大似然估计Maximum likelihood estimation · MLE在参数空间内选择使已观测数据似然达到上确界的参数估计方法。提供参数拟合接口；拟合后的 score、信息与渐近区间分别通向Score 与 Fisher 信息公理库Score 与 Fisher 信息Score function · Fisher information对数似然的局部参数导数、其模型内二次平均，以及零均值和曲率等式成立的正则条件。和Wald、Score 与 LR 检验公理库Wald、Score 与 LR 渐近检验Wald test · Score test · Lagrange multiplier test用估计量距离、零点梯度或似然差构造的三类正则大样本检验。。诊断离差与 Pearson 残差时仍须核对过度离散、链接错设和独立性，而不能只读一个拟合优度数值。