“用一般整数权阈值门也可得到常见的等价定义,但必须让权重具有有限、至多多项式 bit 长度,并用常深计数、加法和比较电路完成模拟;仅靠按权重数值复制导线,面对二进制写成的指数权重会产生指数规模…”
形式陈述 ​
一个线性阈值门由权重
权重可先取有理数,再同乘公分母化为整数;允许负权重便能表达抑制性输入。整数化以后,补函数也仍是一只阈值门:由于加权和为整数,
阈值电路是以这类门为内节点的有限 DAG,因此是布尔电路的一种门基。多数门是
模型约定必须同时说明 fan-in、深度、门数和权重编码。一般阈值门常允许无界 fan-in;若电路作为输入对象,整数权重与阈值用二进制写入,描述长度还包括它们的 bit 数。只数门而允许一个门携带无限精度实数,会把无法有效描述的信息藏进参数。复杂度类TC⁰通常直接用无权 majority 门定义,从根源上避开这项歧义。
直觉
阈值门先为每个输入投一张带权选票,再比较总票数与门槛。一个门只能用一个超平面切分布尔立方体:接受点位于半空间一侧。多层阈值电路则可把许多半空间组合成弯折得多的决策边界;深度和门数衡量要叠加多少轮这样的线性分割。
权重大小不是“重要性”这一口语标签,而是精确计算的一部分。同一门的参数也不唯一:把全部
例子与边界
门
在
二位 XOR 不是单个阈值门。若
线性可分性还依赖输入编码。把类别变量先做特征扩张,原本非线性的集合可能在新坐标中成为半空间;这改变的是输入表示,不是同一门突然增强。真实神经元或模拟比较器的噪声、有限精度也不在离散阈值模型内,工程鲁棒性需另行分析。
推论与应用
阈值门能够在一层汇总全部输入的计数趋势,使常深电路具备 AND/OR 之外的全局聚合能力。多项式规模、常数深度的 majority 电路族定义TC⁰,其中包含整数加法、乘法、除法等远超 AC⁰ 局部聚合能力的运算。把每个 threshold 门替换为对数深的有界扇入计数与比较电路,又是
该模型也连接感知器、投票系统和硬件比较树,但复杂度论关心的是随输入长度增长的电路族。给出一只固定门的权重向量只解决一个输入长度;要声称 uniform TC⁰,还需一致生成门、连线和参数,而不是为每个
参考资料
- Ingo Wegener, The Complexity of Boolean Functions, Wiley-Teubner, 1987, Ch. 9.
- Stasys Jukna, Boolean Function Complexity: Advances and Frontiers, Springer, 2012, Ch. 2.
- Ian Parberry, Circuit Complexity and Neural Networks, MIT Press, 1994, Chs. 2–3.