“对 BEC$(\epsilon)$,位置相关的变量到校验擦除概率组成向量 $x i^{(t)}$。一次更新先在耦合窗口内平均相邻变量消息,经校验变换 $1 (1 x)^{r 1}$,再跨窗口…”
形式陈述 ​
密度演化研究的对象不是一张固定校验图,而是给定度分布的随机 LDPC ensemble 在无记忆信道上运行置信传播译码时的消息分布。严格的渐近次序是:先固定迭代轮数
在 BEC
解释每一层即可复得公式:校验发出的消息被擦除,当其余邻居至少一个被擦除,概率为
BEC 的 BP 阈值是
一般二元输入无记忆对称信道上,标量
直觉
有限图上的消息彼此相关,直接列出联合分布几乎不可行。密度演化把观察尺度限制在固定轮数:当整体图越来越大,有限深邻域还来不及撞上圈,于是每个分支带来的信道观测独立,复杂的图算法化为一维时间递推。阈值不是某个码字突然失效的点,而是这套无限树递推的零错误不动点失去全局吸引力的位置。
这种分析同时包含 ensemble 平均与浓缩两步。仅算一棵树的期望并不能说明典型有限码;还需要证明随机图和信道噪声下的实际轨迹以高概率靠近该期望。固定轮数条件也不可删除,因为让轮数与
例子与边界
对
取 BEC
第二轮为
下降说明前两轮在清除擦除,却不能单凭两个数证明最终收敛。改变
密度演化预测的是渐近 waterfall 区域,不完整描述 finite-length error floor。短圈、stopping set、量化与最大迭代数都可能使实际曲线偏离。对 BSC、AWGN 或非对称信道直接使用上述 BEC 多项式是模型错误;对固定人工构造图直接宣称“密度演化精确”则混淆了 ensemble 极限与实例行为。
推论与应用
密度演化把度分布设计变成可计算的优化问题:调整
在数值实现中,BEC 可直接迭代多项式;一般信道需离散化密度、population dynamics 或 Gaussian approximation。近似方法必须报告网格、截断与误差,否则“算得阈值”并非可复核的数学陈述。
参考资料
- Thomas J. Richardson and Rüdiger L. Urbanke, “The Capacity of Low-Density Parity-Check Codes under Message-Passing Decoding,” IEEE Transactions on Information Theory 47(2), 2001, 599–618.
- Thomas J. Richardson, M. Amin Shokrollahi, and Rüdiger L. Urbanke, “Design of Capacity-Approaching Irregular Low-Density Parity-Check Codes,” IEEE Transactions on Information Theory 47(2), 2001, 619–637.
- Tom Richardson and Rüdiger Urbanke, Modern Coding Theory, Cambridge University Press, 2008, Chs. 4–5.