过定系统

在线性代数中，当方程式的数量大于未知数的数量时，我们通常称这样的系统为“过定系统”（Overdetermined System）。这种情况下，系统往往没有精确解，即不存在一组未知数的值能够同时满足所有的方程。但是，可以通过一些方法找到一个“最佳近似解”，这个解能够在某种意义上最小化所有方程的不满足程度。

例如，最小二乘法（Least Squares Method）就是一种常用的求解过定系统的方法。它的目标是找到一个解向量，使得所有方程的残差平方和最小。这种方法广泛应用于数据拟合、信号处理等领域。

在矩阵表示下，如果有一个线性方程组 $(Ax=b)$，其中 (A) 是一个 $(m\times n)$ 的矩阵，(x) 和 (b) 分别是 (n) 维和 (m) 维的向量，且 (m > n)，那么可以通过求解正规方程（Normal Equations）$(A^{T}Ax=A^{T}b)$ 来得到最小二乘解。这里的 $(A^T)$ 表示 (A) 的转置矩阵。

需要注意的是，尽管过定系统的精确解可能不存在，但通过上述方法找到的近似解仍然具有重要的实际意义和应用价值。

欠定系统

当线性方程组中的未知数数量大于方程式的数量时，我们称这样的系统为“欠定系统”（Underdetermined System）。在这种情况下，系统往往有无限多个解，因为系统的自由度比约束条件多。具体来说，假设你有一个线性方程组 (Ax = b)，其中 (A) 是一个 $(m\times n)$ 的矩阵，(x) 和 (b) 分别是 (n) 维和 (m) 维的向量，且 (m < n)，那么该系统可能有无数个解。

解决欠定系统的一种常见方法是寻找一个特定类型的解，比如最小范数解（Minimum Norm Solution），即在所有可能的解中，选择一个使得 (x) 的范数（通常是欧几里得范数）最小的解。在矩阵论中，这通常可以通过使用伪逆（Moore-Penrose Pseudoinverse）来实现。对于矩阵 (A)，其伪逆记作 $(A^{†})$，则最小范数解可以表示为 $(x=A^{†}b)$。

此外，在实际应用中，有时会根据问题的背景添加额外的约束条件，如非负约束或稀疏性约束，以进一步限制解的空间，从而得到更具体或更有意义的解。

总之，欠定系统提供了更大的灵活性，但也需要更多的信息或附加条件来确定一个具体的解。