似然函数

可以把似然理解为横切一张密度曲面。生成分布时固定 $\theta$、让 $x$ 变化；推断时在已经看到的 $x$ 处横切曲面、沿 $\theta$ 方向比较高度。横切操作没有赋予参数随机性，也没有产生对参数空间归一化的测度。

例如同一正态读数从米改成厘米，记 $Y=100X$。换元给出 $p_{\theta }^Y(y)=p_{\theta }^X(y/100)/100$，因子 $1/100$ 对所有参数相同；两个候选参数的似然比完全不变。这是数据空间的 Jacobian。若只是把均值参数从 $\mu$ 政名为 $\eta =100\mu$，则只替换参数标签，不产生这一因子。

连续模型中 $P_{\theta }(X=x)=0$ 并不妨碍使用密度：$p_{\theta }(x)$描述邻近微小区域概率相对于参考体积的一阶变化。它承担的是局部相对比较，不会把零概率单点重新解释成正概率事件。

在二元疗效试验中，令 $s=\sum _i{x}_i$ 为观察到的有效人数，则 Bernoulli 似然为

当 $0<s<n$ 时，对数似然的内部导数为

解得 $\hat{\theta }=s/n$。若全部无效或全部有效，极大点落在 $0$ 或 $1$；内部 score 方程此时没有合法根，参数空间边界必须纳入优化。

右删失生存数据展示似然必须对应实际观测。设故障时间 $T_i\sim \mathrm{Exp}(\lambda )$，独立删失后看到 $Y_i=min(T_i,C_i)$ 与 ${\mathrm{\Delta }}_i=\mathbf{1}\{T_i\le C_i\}$。若删失机制独立且其密度不含 $\lambda$，与 $\lambda$ 有关的似然部分为

每个已故障个体贡献密度，每个仍在随访者贡献生存概率；把删失者当成在 $y_i$ 时发生故障会多乘一项 $\lambda$，得到错误模型。由上式，若至少观察到一次故障，MLE 为 $\hat{\lambda }=\sum _i{\delta }_i/\sum _i{y}_i$。若删失分布也含待估参数，被省略的因子便不再是常数，必须写回联合似然。

在一一参数变换 $\eta =g(\theta )$ 下，似然重新标记为 $L_{\eta }(\eta ;x)=L(g^{-1}(\eta );x)$，所以 MLE 满足不变性 $\hat{\eta }=g(\hat{\theta })$。这里没有对参数积分，因而不乘 Jacobian；先验密度或参数概率密度换元时才需要 Jacobian。混用两套规则会人为移动似然极大点。

边界与失败情形 ​

$L(\theta ;x)$ 对参数通常不积分为一，也没有自带的参数测度；重新参数化还会改变 $d\theta$ 的体积尺度。只有另行指定先验并用 Bayes 公式归一化，才得到参数的后验概率分布。似然区间与后验可信区间因此有不同的校准含义。

不同数据、不同观测空间或不同测量单位下的裸似然高度不可直接排名。求极大时能删除的项必须与所有待比较参数无关；例如估计正态尺度时删掉 ${\sigma }^{-n}$ 会改变极大点，而删掉纯粹依赖已观测 $x$ 的常数则安全。

参数依赖的支持集不能藏进“常数”。例如 $X_i\sim \mathrm{Unif}[0,\theta ]$ 时

极大似然为样本最大值并位于支持边界。若丢掉指示函数，只对 $-n\log \theta$ 求导，既看不到可行域，也会误用后续 score 零均值和信息等式。

似然还继承模型的不可识别性：若 $P_{\theta }=P_{{\theta }^{\prime }}$，相容的密度版本会给两参数相同的似然函数几乎处处。有限样本的多峰则未必意味着不可识别，可能只反映观测证据不足；两种情况需要在分布族层面区分。

同一数据下的似然比 $L({\theta }_1;x)/L({\theta }_0;x)$ 比较两个简单假设，是Neyman–Pearson 检验理路Neyman–Pearson 引理Neyman–Pearson lemma简单零假设对简单备择下，给定显著性约束时似然比阈值检验具有最大功效。的关键统计量。Score 与 Fisher 信息理路Score 与 Fisher 信息Score function · Fisher information对数似然的局部参数导数、其模型内二次平均，以及零均值和曲率等式成立的正则条件。研究对数似然的局部变化，最大似然估计理路最大似然估计Maximum likelihood estimation · MLE在参数空间内选择使已观测数据似然达到上确界的参数估计方法。寻找全参数空间的最高点；二者都要先检查支持集、可微性与可识别性。

因子分解定理还会追问似然关于数据的参数依赖能否只通过一个充分统计量理路充分统计量Sufficient statistic以参数无关的条件分布保留整个模型区分能力的数据压缩，并连接因子分解与决策等价。表达。无论是否压缩，似然只编码模型与当前数据给出的相对证据；有限样本风险、过拟合、模型失配和计算稳定性仍需各自的评价工具。

无限维密度模型还须先固定允许的点值版本。密度在有限点的改动不改变分布，却会改变形式上的样本密度乘积；递减密度MLE理路Grenander递减密度估计Grenander estimator · Monotone density maximum likelihood · 递减密度的最小凹上界估计在已知半直线支持上，以样本间距加权合并构造唯一递减密度MLE，证明它是经验CDF最小凹上界的左斜率，并交出完整似然证书与端点边界。因此在正点采用左连续版本，并把半直线原点视为模型的一部分。严格正样本会给出唯一阶梯解；若包含零观测，合法递减尖峰可使有限似然任意大。这说明“密度积分为一”本身既不限制孤立点值，也不保证最大似然存在。