Skip to content

这组任务从记录怎样进入表开始。交付的不只是一个参数值,还包括允许的概率模型、被条件化的事件、数值误差范围,以及资料无法区分的解释。

学习顺序见从计数异质性到零记录的观测合同。所需四个主体是负二项回归、零截断计数模型、门槛计数模型与零膨胀Poisson模型。

进入负二项入口前,先确认Gamma函数的正实积分定义与递推;其中的形状参数 k>0 不必是整数,概率质量里的 Γ(k+y)/Γ(k) 因而直接使用这个函数。沿链接补齐后,再按上面的四个主体继续。

任务一:一张完整表,两种相同的观察分布 ​

输入与目标 ​

八个独立、暴露量均为1的对象,完整计数为

0,0,0,0,1,2,3,4.

分别拟合只有截距的Poisson门槛模型与ZIP。证明是否可以取得完全相同的观察分布;进行一次ZIP EM,并说明仅保留正记录时失去什么信息。再用均值和二阶中心矩匹配NB2,判断相同矩是否等于相同质量。

先分清三个统计量 ​

总记录数n=8,正记录数m=4,总计数S=10。完整均值为5/4,正记录均值为5/2。Poisson门槛似然分成零/正Bernoulli项和正Poisson项,所以

q^=12,λ^1−e−λ^=52.

后一个方程左侧从1严格增加到∞,因此有唯一正根。数值与包围区间为

(1)λ^≈2.2316118840230227883,2231611884021011<λ^<2231611884031011.

公开脚本用正指数级数的有理上下界验证两端符号;这不是把高精度显示的末位当作证明。区间宽度为10^−11,是求根精度,不是置信水平。

转换到合法ZIP并证明全局极大 ​

令

(2)π^=1−q^1−e−λ^=1−54λ^≈0.4398667577685725521.

由于λ̂>5/4,π̂在(0,1)内。每个y≥1的ZIP质量为

(1−π^)e−λ^λ^yy!=q^λ^yy!(eλ^−1),

恰等于门槛正质量;两边正质量总和都是q̂,零质量因此也相等,都是1/2。

门槛模型中两块似然均达到各自唯一极大。这一点属于其全部(q,λ)参数域。ZIP是其中满足q≤1−e^−λ的子族,而这个全局极大点恰好落在子族内,所以它也达到ZIP全局极大;不需要用“EM跑了很多轮”来替代这个证明。

保留全部阶乘常数,两个模型的观察对数似然均约为

ℓmax=−11.653077679336021647.

观察分布相同不代表标签相同:门槛中的“通过”恰为Y>0,可以观察;ZIP中π̂描述的是潜在的直接零部件,其零后验概率仍需Bayes计算。

一次EM及完整似然核对 ​

从π=1/3、λ=log2起步。每个零的直接零责任度为1/2,四个正数的责任度为0。因此

∑iτi=2,πnew=14,λnew=108−2=53.

观察对数似然由约−15.3443992731提高到−12.1215775300,尚未达到上面的全局极大。E步责任度使用旧参数,不能用新λ回填后仍称这是同一次EM。

如果数据库只留下1、2、3、4,条件于Y>0的似然完全不含q,也完全不含π。因此可以估计正部件的λ,却不能从这四条记录推回原来是八个对象,或断言一半总体为零。已知总对象数及独立观察设计会提供额外的零/正资料,属于另一份实验。

NB2矩匹配给出另一份预测 ​

本题明确使用分母n的中心二阶矩:

vn=0+0+0+0+1+4+9+168−(54)2=3516.

要求NB2的μ+μ²/k等于v_n,得到

μ=54,k=μ2vn−μ=53.

其零概率为

PNB(0)=(47)5/3≈0.3934926146,

并非门槛/ZIP拟合的1/2。这个计算只匹配两个矩,不是求NB2的联合MLE;用n−1分母也会得到不同的矩匹配,不能隐去约定。

完整表中的计数概率比较

任务二:一个所有概率合法、却不属于ZIP的总体 ​

输入与目标 ​

取Poisson门槛参数q=9/10、λ=log2。计算总体均值与方差,并证明不存在任何本单元ZIP或NB2参数能产生同一分布。这里给的是总体概率,不是用一份小样本估计参数。

完整解答 ​

零概率为1/10。因1−e^−λ=1/2,正质量为

P(Y=y)=95e−λλyy!,y≥1.

这不违背概率非负:Poisson全部正质量本来仅为1/2,乘9/5后恰为9/10。

均值及方差为

(3)μ=95log⁡2≈1.2476649250,VarY=μ(1+log⁡2−μ)≈0.5558125850.

因为μ>λ,方差严格小于均值;NB2在正均值和有限正k下方差严格大于均值,因此不能相同。Poisson边界同样不能匹配这个严格不等式。

对ZIP还可以给出更直接的全部参数排除:正概率比P(2)/P(1)=λ/2,迫使任何相同ZIP使用同一个λ=log2。它必须满足

910=(1−π)12,π=−45,

不在合法域内。不能改变λ来规避,因为那会改变P(2)/P(1)。所以“无论什么计数分布都能用加零混合表示”是错误的。

任务三:相同的单窗NB,不同的两窗合同 ​

输入与目标 ​

同一个对象在两段窗口中被计数,暴露量为e_1=1、e_2=2。比较两个机制,二者的基准速率都为3:

  • 共享机制:U服从shape=2、rate=2的Gamma分布,给定U后Y_1∼Pois(3U)、Y_2∼Pois(6U)独立
  • 独立机制:另取独立U_1、U_2,各服从同一Gamma分布,给定它们后Y_i∼Pois(3e_iU_i)独立

计算每个边缘的均值与方差、协方差、总计数方差及联合零概率,并说明两种完整似然能否互换。

边缘相同的部分 ​

两种机制下,Y_1都是均值3、k=2的NB2,Y_2都是均值6、k=2的NB2。因此

EY1=3,EY2=6,VarY1=152,VarY2=24.

每窗单独拟合这些参数,无法区分是否共享同一个U。

联合关系不同的部分 ​

共享机制中,EU=1、VarU=1/2,条件协方差为0,所以

Cov(Y1,Y2)=Cov(3U,6U)=9,

从而Var(Y_1+Y_2)=15/2+24+18=99/2。并且

P(Y1=0,Y2=0)=E(e−9U)=(211)2=4121.

给定U的总数为Pois(9U),因此总数本身仍是均值9、k=2的NB2。这一步依赖条件独立和共同潜变量两个条件。

独立机制中协方差为0,故总方差为63/2。联合零概率则是

(25)2(28)2=1100.

共享机制的联合质量可直接积分为

P(Y1=a,Y2=b)=(a+b+1)!a!b!4⋅3a6b11a+b+2.

独立机制是两个边缘NB质量的乘积。取a=b=0就已证明两者不同,不能把同样的两个边缘回归输出当作同样的联合似然。若目标只是边际均值与簇稳健标准误,应明确改用相应估计方程合同;那也不是给独立似然换个标签。

同一边缘不确定联合关系

任务四:没有零的表,还要问按什么单位抽样 ​

输入与目标 ​

现在只有正记录1、2、3、4。比较两种抽样方式:A从正计数对象中等机会取样;B抽取事件后记录事件所属对象的总次数,因而次数为y的对象有y倍抽样强度。假设未抽样前的总体计数为Pois(λ),并把所见记录视为各自抽样分布下的独立样本。写出两个似然和λ的MLE。

A:条件于正计数 ​

其质量为 λy/{y!(eλ−1)},所见均值5/2对应

m(λ)=52.

答案正是任务一的λ̂约2.2316118840。这里均匀抽的是已经非零的对象,不按它拥有多少事件继续加权。

B:按事件次数加权 ​

质量必须改为

pB(y)=yP(N=y)EN=e−λλy−1(y−1)!,y≥1.

于是Y−1∼Pois(λ),对数似然为

ℓB(λ)=∑i{(yi−1)log⁡λ−λ−log⁡((yi−1)!)}.

得分为Σ(y_i−1)/λ−n;本题Σ(y_i−1)=6、n=4,因此唯一正MLE为λ̂=3/2。严格凹的logλ参数似然或得分换号都可验证唯一性。

这不是给同一公式换了样本量:两种质量之比含y,抽样单位改变了每一种计数的相对权重。真实数据若只是显示“没有零”,尚不足以选择A或B。还必须知道入样机制;如果重复抽到同一对象,也要重新审查本题所假定的独立性。

交付检查与复算 ​

一份合格答案应同时保留:n、m和S的角色;正计数条件化的分母;ZIP合法参数域;原始均值与条件均值;共享随机效应的联合积分;以及抽样单位是否按次数加权。数值优化只能在已经写对的概率合同内工作。

下载公开复算脚本与结果JSON。脚本含Fraction有理根括界及高精度概率、矩、导数与EM检验;普通运行和Python优化模式给同一结果。运行结果验证本文给定任务,不把数值网格冒充全部参数下的定理证明。