形式陈述
入门:实数矩阵与形状
先取实数条目: 有 行、 列, 是第 行第 列的值。与 相乘,,其中 。也就是取 的一行与 的一列,对应相乘再相加;后面的实数例子会把这个过程完整算出。
一般定义:有限索引与半环
设 为有限集公理库有限集Finite set与某个自然数初始段等势、因而能够在有限步内无遗漏编号的集合。, 为半环公理库半环Semiring加法为交换幺半群、乘法为幺半群并满足分配律和零吸收律的代数结构。。以 为行指标、 为列指标的 值矩阵是函数公理库函数Function · Map · Mapping由定义域、陪域和单值图共同组成,并把每个输入送到唯一输出的映射。
半环提供矩阵加法与乘法所需的标量运算;单纯的二维表则可以在任意集合中取值。以下把指标集合和标量半环视为结构的一部分,固定它们后,矩阵相等就是每个位置的值相同。常见的 数表取 、;行列还可以直接标成顶点、状态或特征。
同型矩阵逐项相加:。若 、,则矩阵乘法定义为
共享的中间指标 被求和消去,留下 。固定输出位置 后,遍历每个 ,取 的第 行条目与 的第 列对应条目相乘,再汇总。这不同于把相同位置逐项相乘。求和次序无关,因为半环的加法交换;每一项中标量乘法的次序仍是 在前、 在后。
方阵集合 也构成半环。其乘法单位 的对角位置取 ,其余位置取 。转置 满足 ,只交换索引。
直觉
可以把 理解为“从 经由中间项 的贡献”,把 理解为“再从 到 的贡献”。乘法先组合每条经过 的两段路线,再把所有中间项的贡献汇总。普通数值矩阵、图中的路径计数和最短路计算,共享这个索引结构,区别在于怎样组合、怎样汇总。
这也解释了形状检查。标准下标的 与 能相乘,因为共同指标都是 。若行列带有标签,则按标签对齐中间项:例如第一张表按城市排列列,第二张表就按相同城市排列行。
给行、列各固定一个编号,并为系数提供可存储的表示后, 矩阵可用长度 的数组公理库数组Array以连续整数下标支持随机访问的有限序列结构。保存:从零编号时,行优先位置 对应下标 。数组中保存的也可以是系数对象的引用,不能因此假定任意精度系数运算都为常数成本。
对已给出有效项位置的实矩阵,CSR 等稀疏表示公理库稀疏矩阵表示与运算Sparse matrix只存非零项及其位置,以稀疏模式组织矩阵运算、图结构、重排序与填充成本。保存形状、坐标和值,未存的位置解释为零;丢弃小而非零的条目则是另一个需要误差控制的近似步骤。表示方式不改变矩阵各位置的值,却会改变访存和运算成本。
例子与边界
一个乘积里发生了什么
取
为 矩阵。例如第二行第一列是
完整结果为
反向乘积也有定义,却连形状都不同。即使都是方阵,次序也通常不可交换:对
有 ,而 。这里标量完全交换,不交换来自不同的中间索引组合。对域上的同阶方阵,交换子 把这种次序差异组织成新的运算,满足 Jacobi 恒等式,并给出Lie 代数公理库Lie 代数李代数 · Lie algebra配备双线性交替括号并满足 Jacobi 恒等式的向量空间,以矩阵交换子和 sl₂ 的伴随作用为具体模型。的基本模型。
同一乘法形状,不同标量含义
对有限有向图,令邻接矩阵 表示弧 ,否则为 。在自然数半环中, 是从 到 的两步有向游走数;在布尔半环中,把加法改为“或”、乘法改为“且”, 则只表示是否存在这样的游走。
例如仅有 四条弧时,普通乘法得到 ,布尔乘法得到真。这里允许游走重复顶点;矩阵幂一般不直接统计要求顶点互异的简单路径。
在最小加半环 中,定义 、,其中 是加法零元,通常实数 是乘法单位。以边权为条目、无边记为 ,矩阵乘法得到
的第 次幂描述恰好 条边的最短游走。若要求至多 条边,可对 取幂:对角上的零成本等待步骤允许把较短路线补齐。
转置、逆与线性映射
当标量乘法交换时,。交换性用在每项的 上。复矩阵还常用共轭转置 ,它在交换行列后再对每个条目取共轭。
域上的矩阵可以表示向量空间公理库向量空间Vector space标量域作用下满足线性公理的加法阿贝尔群。之间的线性映射。若使用列坐标, 后接 的复合矩阵是 ,即右边先作用。换基会改变表示同一映射的矩阵,具体变换关系见换基公理库换基与坐标变换Change of basis · Coordinate transformation用可逆过渡矩阵在不同基之间转换向量坐标与算子矩阵。。
长方矩阵可能有单侧逆。例如 、 满足 ,但 。这里 把一维坐标嵌入平面的横轴, 再取出横坐标;反过来先取横坐标再嵌入,会丢掉原来的纵坐标。
推论与应用
乘法的结合律来自有限求和与分配律: 和 的同一条目都展开为 。因此可以自由加括号而不交换因子;矩阵链乘法优化的正是括号位置及计算代价。
线性映射公理库线性映射Linear map · Linear transformation保持向量加法和标量乘法的函数。的复合、图上的多步传播与动态规划可共享矩阵乘法的接口。统计设计矩阵把样本放在行、特征放在列,乘以参数向量就同时计算全部样本的预测值;图 Laplacian公理库图 LaplacianGraph Laplacian · Laplacian matrix用度矩阵减邻接矩阵得到的算子,以二次型衡量相邻顶点取值的不一致。则把顶点间的差异组织为线性运算。
数组公理库数组Array以连续整数下标支持随机访问的有限序列结构。与稀疏矩阵表示公理库稀疏矩阵表示与运算Sparse matrix只存非零项及其位置,以稀疏模式组织矩阵运算、图结构、重排序与填充成本。负责实现,矩阵范数公理库矩阵范数与诱导算子范数Matrix norm · Induced matrix norm · Operator norm of a matrix用诱导范数和常用可计算矩阵范数度量线性映射的放大能力,并区分算子范数、Frobenius 范数与谱半径。用于误差和放大量化。数学上相等的两种乘法安排,在浮点运算中未必逐位相同;这属于近似算术层,而不是对精确半环结合律的反例。
参考资料