线性方程组

矩阵 $A$ 把每个候选向量 $x$ 压成一组线性测量，方程 $Ax=b$ 因而是在问：右端 $b$ 能否写成 $A$ 的列向量的线性组合。若能找到一个特解 $x_0$，它确定了解集在空间中的位置；所有不改变测量结果的移动方向恰是齐次核 $\ker A$，所以全部解为仿射集合 $x_0+\ker A$，通常并不是线性子空间。方程数和未知数数目本身不能决定有解与否或是否唯一，真正控制这些结论的是系数矩阵及增广矩阵的秩。

$x+y=1$ 在 ${\mathbb{R}}^2$ 中只有一个独立约束，解为仿射直线 $(t,1-t)$；加入 $x-y=0$ 后才得到唯一解 $(1/2,1/2)$。若第二个方程取 $2x+2y=2$，它只是第一式的倍数，不会缩小解集；改成 $2x+2y=3$ 后，增广矩阵秩大于系数矩阵秩，系统便不相容。

齐次系统永远至少有零解，但不一定只有零解；未知量多于方程也不自动保证非齐次系统有解，只保证齐次核在秩受限时有非零向量。只有方阵行列式非零时，才保证对任意右端 $b$ 都有唯一解。系数域还会改变答案，例如 $2x=1$ 在 $\mathbb{Q}$ 有解，在特征 $2$ 的域中却变成 $0=1$。

浮点求解还要同时看矩阵结构、规模与条件性。Gaussian 消元与 LU 分解公理库Gaussian 消元与 LU 分解Gaussian elimination · LU factorization · PA equals LU把 Gaussian 消元保存为可复用的带置换 LU 分解，再用三角求解处理一个或多个右端。适用于一般稠密方阵，并把一次求解化成三角系统求解公理库三角线性方程求解Triangular solve · Forward substitution · Backward substitution按依赖顺序用前代或回代求解三角系统，作为 LU、Cholesky 与 QR 分解后的共同计算底层。；后者是分解完成后的子程序，不是对任意原系统直接成立的独立捷径。平稳迭代法公理库定常线性迭代法Stationary iterative methods · Jacobi method · Gauss-Seidel method以固定矩阵分裂统一 Jacobi、Gauss–Seidel 与 SOR，并由迭代矩阵谱半径判定全局线性收敛。只有在相应迭代矩阵收敛时才有效，共轭梯度法公理库共轭梯度法Conjugate gradient method · CG method在 Hermitian 正定系统的 Krylov 子空间中最小化能量误差，以三项递推获得共轭方向和短存储迭代。要求 Hermitian 正定结构，GMRES公理库GMRES 方法GMRES · Generalized minimal residual method在 Krylov 仿射空间中逐步最小化线性系统的二范数残差，并权衡 Arnoldi 正交化、存储和重启代价。面向一般非对称 Krylov 系统，但存储、重启与预条件会改变实际行为。因此这些 implemented_by 关系表示在明确子类与数值假设下的求解路径，而不是每种方法都能无条件处理本页的全部线性系统。问题条件性公理库线性方程组的条件数与扰动Conditioning of linear systems · Matrix condition number把一般问题条件性具体化为可逆线性系统的右端、系数矩阵与联合扰动界。再决定小后向误差能否转成小前向误差。

行化简公理库行化简Row reduction用初等行变换把矩阵化为阶梯形以求解线性方程组和判定秩。直接给出线性方程组是否相容以及参数解的形式，秩–零化度定理公理库秩–零化度定理Rank–nullity theorem有限维线性映射的定义域维数等于核维数与像维数之和。进一步计算齐次解空间的维数；求解这些结构也是矩阵公理库矩阵Matrix以有限行列集合为索引、取值于半环，并以中间指标求和定义乘法的函数。分解算法的核心目标。插值条件、网络流守恒、离散微分方程与编码译码中的约束都可组织为线性系统，再由相容性和解空间维数判断可解程度。

方程不相容时，最小二乘公理库最小二乘与正规方程Least squares · Normal equations将目标向量正交投影到矩阵列空间，并以残差正交条件导出正规方程。不再寻找精确解，而是把右端投到列空间，并以正规方程表示所得最优性条件。在统计线性模型公理库线性回归统计模型Linear regression model · Linear model响应的条件均值由设计变量对未知系数线性表示，并显式规定误差结构的统计模型。中，$X$ 满列秩还对应参数可识别；秩亏时，广义逆虽然能够选出一个系数向量，却只是从众多等价解中作出代数选择，统计推断应转向由行空间确定的可估对比。