矩阵的扩展运算（MATLAB和pytorch实例）

秩（Rank）的定义
- 秩的计算
  - 初等行变换法（最常用）
  - 行列式法（仅适用于方阵）
- 满秩的分类
- 方阵的满秩
- 非方阵的满秩
- 几何意义
- 应用场景
- 判断方法
矩阵的特征值
- 定义
- 求解特征值
  - 特征方程
  - 步骤
- 关键性质
  - 迹与行列式
  - 相似矩阵
  - 对称矩阵
  - 复数特征值
- 特征值与奇异值的区别
迹（Trace）
- 定义与计算
- 核心性质
- 几何意义
- 应用场景
- 示例说明
  - 计算迹与特征值的关系
  - 相似变换下迹不变
转置（Transpose）
- 矩阵转置的定义
- 矩阵转置的性质
  - 双重转置还原：
  - 加法分配律：
  - 数乘分配律：
  - 乘法反序律：
  - 逆矩阵的转置：
- 矩阵转置的应用场景
  - 对称矩阵的构造：
  - 向量的内积与外积：
  - 线性代数方程求解：
  - 矩阵分解
  - 计算机科学与数据存储：
  - 图像处理与几何变换：
- 特殊注意事项
逆矩阵（Inverse）
- 代数意义：
- 几何意义：
- 应用意义：
- 可逆性条件：
- 数学结构
- 示例：
行列式（Determinant）
- 几何意义：面积/体积的缩放因子
- 代数意义：矩阵可逆性的判据
- 应用场景
- 3x3矩阵行列式计算
- 高阶矩阵行列式计算

秩（Rank）的定义

矩阵的秩是指其行向量或列向量中线性无关的最大数目。例如：一个 $m \times n$ 矩阵的秩最大为 $min (m, n)$ ，当达到这个最大值时，称为满秩矩阵。

把矩阵想象成一个筛子，秩越大，筛眼越大，能“漏过去”的信息越多；秩越小，筛眼越细，信息被过滤得越厉害；筛眼和筛子一样大我们称之为满秩；

秩的计算

初等行变换法（最常用）

将矩阵通过行交换、行倍乘、行加减等操作化为行阶梯形矩阵，统计非零行的数量即为秩

$A=\left [{\begin{matrix}1&2&3\\4&5&6\\7&8&9\end{matrix}}\right ]$

这个矩阵看起来，每一行都是等差数列，可能行之间是线性相关的。让我试一下用行阶梯形来计算它的秩。首先，把第一行作为基准，用第一行的元素来消去下面行的第一个元素。比如，第二行减去4倍的第一行，得到：

第二行原先是[4,5,6]，减去4*[1,2,3]后是[4-4,5-8,6-12]即[0,-3,-6]。

第三行原先是[7,8,9]，减去7倍的第一行，得到[7-7,8-14,9-21]即[0,-6,-12]。

现在矩阵变成：

[[1, 2, 3],

[0, -3, -6],

[0, -6, -12]]

接下来，处理第二行，用第二行来消去第三行的第二个元素。第三行现在是[0,-6,-12]，而第二行是[0,-3,-6]，显然第三行是第二行的两倍，所以第三行减去2倍的第二行，就会得到[0,0,0]。

所以行阶梯形矩阵就是：

[[1, 2, 3],

[0, -3, -6],

[0, 0, 0]]

这时候非零行有2行，所以矩阵C的秩是2。

行列式法（仅适用于方阵）

$B=\left [{\begin{matrix}1&2\\3&4\end{matrix}}\right ]$

这个矩阵的行列式是14 - 23 = 4 - 6 = -2，不是零，所以这个矩阵是满秩的，也就是秩为2

$B=\left [{\begin{matrix}1&2\\2&4\end{matrix}}\right ]$

这时候行列式是14 - 22 = 4 - 4 = 0，所以秩应该不是2，而是1。因为第二个行其实是第一个行的两倍，所以行向量是线性相关的。同样，列向量的话，第二列是第一列的两倍，也是线性相关的。所以无论是行秩还是列秩都是1，因此矩阵B的秩是1。

MATLAB

B=[1 2;3 4];
r=rank(B)

pytorch

import torch# 定义一个 2x2 矩阵
B = torch.tensor([[1.0, 2.0],[3.0, 4.0]])# 计算行列式
det_B = torch.linalg.det(B)# 输出结果
print("矩阵 B 的行列式是:", det_B.item())

满秩矩阵：秩达到行数或列数的最小值。
核心性质：可逆性（方阵）、解的唯一性、空间维度最大化。
关键价值：在数学和工程中，满秩矩阵通常代表系统稳定、信息无冗余。

满秩的分类

根据矩阵形状，满秩有两种情况：

行满秩：矩阵的行向量线性无关，且秩等于行数（rank=m，当 m≤n）。
列满秩：矩阵的列向量线性无关，且秩等于列数（rank=n，当 n≤m）。

方阵的满秩

对于方阵（n×n 矩阵）：

若秩为 n，则矩阵是满秩的，此时矩阵可逆（行列式不为零）。

$A=\left [{\begin{matrix}1&2\\3&4\end{matrix}}\right ],det(A)=-2≠0⇒满秩，可逆$

非方阵的满秩

对于非方阵（如 mxn，m≠n）：

若秩为 min(m,n)，则是满秩矩阵，但不可逆（非方阵无逆矩阵）。

$B=\left [{\begin{matrix}1&0&2\\0&1&3\end{matrix}}\right ],秩=2⇒行满秩$

几何意义

满秩矩阵的列向量（或行向量）张成的空间维度达到最大：

若 A 是 m×n 列满秩矩阵，其列空间维度为 n；
若秩不足，则空间维度坍缩（如三维空间中三个向量共面）。

应用场景

线性方程组：满秩矩阵保证唯一解（方阵）或最小二乘解稳定（非方阵）。
机器学习：特征矩阵列满秩时，正规方程 ${({{X}^{T}}X)}^{-1}{X}^{T}y$ 可解。
矩阵分解：满秩是SVD分解、QR分解等的前提条件。

判断方法

行简化阶梯形：非零行数即为秩。
行列式（仅方阵）：若 $d e t (A) \neq = 0$ ，则满秩。
数值计算：使用 numpy.linalg.matrix_rank 或 torch.matrix_rank。

矩阵的特征值

矩阵的特征值是线性代数中的一个核心概念，用于描述方阵在特定方向上的缩放效应。以下是关于特征值的详细总结：

定义

对于 $n \times n$ 方阵A，若存在非零向量v和标量λ，使得： $A v = λ v$ 则称：λ 为矩阵A的特征值，v 为对应的特征向量。

求解特征值

特征方程

通过解方程 $d e t (A - λ I) = 0$ 得到特征值。其中，I 是单位矩阵， $d e t (\cdot)$ 表示行列式。

步骤

计算 $A - λ I$
求其行列式并展开为多项式方程，
解多项式方程的根即为特征值。

例

对于 2x2 矩阵 $A=\left ({\begin{matrix}a&b\\c&d\end{matrix}}\right )$ 特征方程为：

${λ}^{2}−(a+d)λ+(ad−bc)=0$

解为：

$λ=\frac{\left ({a+d}\right )±\sqrt{\left ({{{(a-d)}^{2}}}\right )+4bc}}{2}$

关键性质

迹与行列式

迹 $tr(A)=\sum_{i=1}^{n}{{{λ}_{i}}}$ （所有特征值之和）;
行列式 $det(A)=\prod_{i=1}^{n}{{{λ}_{i}}}$ （所有特征值之积）。

相似矩阵

若 $B={P}^{−1}AP$ 则 A 和 B 有相同的特征值。

对称矩阵

实对称矩阵的特征值均为实数，特征向量相互正交，可构成正交矩阵。

复数特征值

非对称矩阵可能有复数特征值（如旋转矩阵）。

特征值与奇异值的区别

特征值：仅适用于方阵，描述矩阵在特定方向上的缩放。
奇异值：适用于任意矩阵（包括非方阵），描述矩阵在输入和输出空间的正交方向上的缩放，且始终为非负实数。

$C=\left [{\begin{matrix}4&1&-1\\2&3&-1\\1&2&0\end{matrix}}\right ]$

MATLAB操作如下

% 定义一个 3x3 矩阵
A = [4, 1, -1;2, 3, -1;1, 2, 0];% 计算特征值和特征向量
[V, D] = eig(A);% 显示结果
disp('特征向量矩阵 V:');
disp(V);
disp('特征值矩阵 D:');
disp(D);

输出：

特征向量矩阵 V:-0.6342    0.0000    0.2208-0.6342    0.7071    0.2208-0.4422    0.7071    0.9500
特征值矩阵 D:4.3028         0         00    2.0000         00         0    0.6972

迹（Trace）

矩阵的迹（Trace）是指方阵主对角线元素的和，记为 tr(A)。它反映了矩阵的核心数值特征

定义与计算

定义：对于 $n \times n$ 方阵 $A=[{a}_{ij}]$ ，其迹为 $tr(A)={a}_{11}+{a}_{22}+{a}_{33}+...{a}_{nn}$

$A=\left [{\begin{matrix}1&2&3\\4&5&6\\7&8&9\end{matrix}}\right ]⟹tr(A)=1+5+9=15$

核心性质

线性性： $t r (A + B) = t r (A) + t r (B) ， t r (c A) = c \cdot t r (A)$
相似不变性：若 $B={P}^{−1}AP$ （相似变换），则 $t r (B) = t r (A)$
特征值关联：迹等于矩阵所有特征值的和（复数域下成立）。
与行列式的关系：对2x2矩阵， $det(A)=\frac{{{\left [{tr(A)}\right ]}^{2}}-tr({{A}^{2}})}{2}$

几何意义

特征值之和：迹可以看作矩阵对应的线性变换对空间“整体缩放”的总强度。例如：

若矩阵表示拉伸变换，迹越大，整体拉伸效果越强；
若迹为负，可能包含压缩或反向变换。

应用场景

机器学习：协方差矩阵的迹表示数据的总方差。
量子力学：密度矩阵的迹为1，表示概率守恒。
优化问题：迹运算简化矩阵求导（如 ${{∇}_{A}}tr(AB)={{B}^{T}}$ )

示例说明

计算迹与特征值的关系

矩阵 $B=\left [{\begin{matrix}2&1\\1&3\end{matrix}}\right ]$ 其特征值为 ${{λ}_{1}}=1.3820$ 和 ${{λ}_{2}}=3.6180$ 则 $tr(B)=2+3=5={{λ}_{1}}+{{λ}_{2}}$

eigenvalues

相似变换下迹不变

若 $P=\left [{\begin{matrix}1&1\\0&1\end{matrix}}\right ]$ ，则 ${P}^{-1}BP=\left [{\begin{matrix}2&1\\1&3\end{matrix}}\right ]$ ，仍有 $tr({P}^{-1}BP)=5=tr(B)$

总结

迹的本质：主对角线元素的和，是矩阵的全局标量特征;
核心价值：简化矩阵运算，关联特征值，并在物理、工程和优化中广泛应用。
只有方阵才有迹的定义;
迹在矩阵分解（如特征值分解、奇异值分解）中与矩阵范数等概念密切相关。

MATLAB操作如下

% 定义一个 3x3 矩阵
A = [1, 2, 3;4, 5, 6;7, 8, 9];% 计算矩阵的迹
tr_A = trace(A);% 计算特征值和特征向量
[V, D] = eig(A);% 仅计算特征值
eigenvalues = eig(A);% 显示结果
disp('矩阵 A 的迹是:');
disp(tr_A);% 显示特征向量矩阵 V
disp('特征向量矩阵 V:');
disp(V);% 显示特征值矩阵 D
disp('特征值矩阵 D:');
disp(D);disp('矩阵 A 的特征值是:');
disp(eigenvalues);

eigenvalues_matlab

pytorch操作如下

import torch# 定义一个 3x3 矩阵
A = torch.tensor([[1.0, 2.0, 3.0],[4.0, 5.0, 6.0],[7.0, 8.0, 9.0]])# 计算矩阵的迹
tr_A = torch.trace(A)# 计算特征值和特征向量
eigenvalues, eigenvectors = torch.linalg.eig(A)# 输出结果
print("矩阵 A 的迹是:", tr_A.item())# 输出结果
print("特征向量矩阵:")
print(eigenvectors)
print("特征值矩阵:")
print(eigenvalues)

eigenvalues_torch

转置（Transpose）

矩阵转置的定义

操作方式： 将矩阵的行与列互换，即原矩阵的第 i 行第 j 列元素变为转置矩阵的第 j 行第 i 列元素。

符号表示： 矩阵 A 的转置记为 ${{A}^{T}}$

例：

$A=\left [{\begin{matrix}1&2&3\\4&5&6\end{matrix}}\right ]⇒{{A}^{T}}=\left [{\begin{matrix}1&4\\2&5\\3&6\end{matrix}}\right ]$

MATLAB操作如下：

% 定义一个矩阵
A = [1, 2, 3; 4, 5, 6];% 使用单引号进行转置
A_transpose = A';% 显示结果
disp('原矩阵 A:');
disp(A);
disp('转置后的矩阵 A_transpose:');
disp(A_transpose);

pytorch操作如下：

import torch# 定义一个 2x3 矩阵
A = torch.tensor([[1, 2, 3],[4, 5, 6]])# 使用 torch.transpose 进行转置
A_transpose = torch.transpose(A, 0, 1)# 输出结果
print("原矩阵 A:")
print(A)
print("转置后的矩阵 A_transpose:")
print(A_transpose)

矩阵转置的性质

双重转置还原：

${{\left ({{{A}^{T}}}\right )}^{T}}$

加法分配律：

${{(A+B)}^{T}}={{A}^{T}}+{{B}^{T}}$

数乘分配律：

${{(kA)}^{T}}=k{{A}^{T}}(k为标量)$

乘法反序律：

${{(AB)}^{T}}={{A}^{T}}{{B}^{T}}$

注：矩阵乘法顺序反转后转置。

逆矩阵的转置：

${{\left ({{{A}^{-1}}}\right )}^{T}}={{\left ({{{A}^{T}}}\right )}^{-1}}(A可逆时)$

矩阵转置的应用场景

对称矩阵的构造：

若矩阵满足 ${{A}^{T}}=A$ ，则称为对称矩阵，常见于协方差矩阵、二次型等。
若 A 为任意矩阵，则 ${{A}^{T}}A$ 和 $A{{A}^{T}}$ 均为对称矩阵。

向量的内积与外积：

列向量 v 和 w 的内积可表示为 ${{v}^{T}}w$
外积则为 $v{{w}^{T}}$ ，生成一个矩阵。

线性代数方程求解：

在正规方程（如最小二乘法）中，转置用于构造可逆矩阵：

$\hat{β}={{\left ({{{X}^{T}}X}\right )}^{-1}}{{X}^{T}}y$

矩阵分解

奇异值分解（SVD）： $A=UΣ{{V}^{T}}$ ，其中 ${{V}^{T}}$ 是右奇异向量的转置。

正交矩阵性质：若 Q 是正交矩阵，则 ${{Q}^{T}}={{Q}^{-1}}$ ，保持向量长度不变。

计算机科学与数据存储：

优化矩阵运算（如GPU并行计算）时，转置可调整数据存储顺序（行优先 vs. 列优先）。

图像处理与几何变换：

转置可表示简单的坐标轴交换，是复杂几何变换（如旋转、反射）的基础步骤。

特殊注意事项

非方阵的转置：转置会改变矩阵维度（如 m×n→n×m），需确保运算合法。
复数矩阵：复矩阵的共轭转置（Hermitian转置）需额外对元素取共轭，记为 $ {{A}^{*}} $ 或 ${{A}^{H}}$
编程实现：在代码中，转置操作可能涉及内存布局调整，影响计算效率（如NumPy中的 A.T 或 A.transpose()）。

逆矩阵（Inverse）

代数意义：

逆矩阵是解线性方程组的关键工具。对于方程组 $A x = b$ ，若矩阵A 可逆，则存在唯一解 $x={{A}^{-1}}b$ 。逆矩阵的存在性直接关联于方程组的解是否唯一，这由行列式非零（即矩阵满秩）保证。

几何意义：

逆矩阵表示原线性变换的逆变换。例如，旋转矩阵的逆对应反向旋转，缩放矩阵的逆对应反向缩放。两者复合后恢复原状，即 $A⋅{{A}^{-1}}=Ι$ ，对应几何操作的撤销。

应用意义：

计算机图形学：逆矩阵用于坐标变换的还原，如从视图空间返回世界空间。
密码学：加密过程若用矩阵乘法，解密需逆矩阵恢复原始信息。
工程计算：逆矩阵用于电路分析、力学系统求解等。

可逆性条件：

矩阵可逆当且仅当其为方阵且行列式非零（满秩）。不可逆矩阵对应的变换压缩空间维度（如投影），导致信息丢失，无法唯一还原。

数学结构

可逆矩阵构成一般线性群 $G L (n)$ 其运算封闭且保持向量空间结构。逆矩阵的性质（如 ${{AB}^{-1}}={{B}^{-1}}{{A}^{-1}}$ )反映了复合变换的逆序操作。

示例：

旋转矩阵 R(θ) 的逆为 R(−θ)，几何上撤销旋转。
缩放矩阵 diag(a,b) 的逆为 diag(1/a,1/b)，前提 $a, b \neq = 0$ 。

投影矩阵（如 $\left [{\begin{matrix}1&0\\0&0\end{matrix}}\right ]$ ）不可逆，因其丢失垂直方向信息。

总结：逆矩阵的核心意义在于提供线性变换的可逆性及方程组的唯一解，其存在性由矩阵的秩和行列式决定，并在理论与应用中扮演重要角色。

行列式（Determinant）

矩阵的行列式（determinant）是一个方阵特有的标量值，具有深刻的几何和代数意义。以下是其核心意义与应用：

几何意义：面积/体积的缩放因子

行列式表示矩阵对应的线性变换对空间的有向缩放比例：

二维：行列式的绝对值是两列（或行）向量张成的平行四边形面积。 $A=\left [{\begin{matrix}a&b\\c&d\end{matrix}}\right ]$ 的行列式 $a d - b c$ 即为面积缩放因子

三维：行列式是三个列向量张成的平行六面体体积。若行列式为负，表示变换反转了空间方向（如镜像反射）

高维：行列式对应超体积的缩放因子

若矩阵 $B=\left [{\begin{matrix}2&0\\0&3\end{matrix}}\right ]$ 的行列式为6，表示它将平面图形的面积放大了6倍。

代数意义：矩阵可逆性的判据

可逆性：行列式 $d e t (A) \neq = 0$ 时，矩阵A可逆； $d e t (A) = 0$ 时，矩阵不可逆（对应线性方程组无解或有无穷解
特征值关联：行列式等于矩阵所有特征值的乘积

应用场景

解线性方程组：通过克莱姆法则，用行列式直接求解方程组的解。
判断线性相关性：行列式为零时，矩阵的列（或行）向量线性相关。
几何变换分析：在计算机图形学中，行列式用于判断仿射变换是否压缩空间（如投影到低维）。

3x3矩阵行列式计算

$C=\left [{\begin{matrix}1&2&3\\4&5&6\\7&8&9\end{matrix}}\right ]$

方法一（对角线法则）

$d e t (C) = 1 \cdot 5 \cdot 9 + 2 \cdot 6 \cdot 7 + 3 \cdot 4 \cdot 8 - 3 \cdot 5 \cdot 7 - 2 \cdot 4 \cdot 9 - 1 \cdot 6 \cdot 8 = 0$

方法二（拉普拉斯展开）：

对于一个 n×n 的方阵 $A=({a}_{ij})$ ，其行列式可通过以下方式展开：

$det(A)=\sum_{j=1}^{n}{{{(-1)}^{i+j}}}{{a}_{ij}}{{M}_{ij}}$

或

$det(A)=\sum_{i=1}^{n}{{{(-1)}^{i+j}}}{{a}_{ij}}{{M}_{ij}}$

${M}_{ij}$ 是元素 ${a}_{ij}$ 的余子式，即删去第 i 行和第 j 列后剩余子矩阵的行列式。

${(−1)}^{i+j}$ 是代数余子式的符号因子。

例如：按第一行展开

$det(C)=1⋅det\left ({\begin{matrix}5&6\\8&9\end{matrix}}\right )-2⋅det\left ({\begin{matrix}4&6\\7&9\end{matrix}}\right )+3⋅det\left ({\begin{matrix}4&5\\7&8\end{matrix}}\right )$

$d e t (C) = 1 \cdot (- 3) - 2 \cdot (- 6) + 3 \cdot (- 3) = 0$

该结果说明矩阵的列向量线性相关

高阶矩阵行列式计算

对于4x4矩阵 D，通常使用拉普拉斯展开或编程工具

$D=\left ({\begin{matrix}1&0&2&-1\\3&0&0&5\\2&1&4&-3\\1&0&5&0\end{matrix}}\right )$

MATLAB

% 定义一个 4x4 矩阵
D = [1, 0, 2, -1;3, 0, 0, 5;2, 1, 4, -3;1, 0, 5, 0];% 计算行列式
det_D = det(D);% 显示结果
disp('矩阵 D 的行列式是:');
disp(det_D);

pytorch

import torch# 定义一个 3x3 矩阵
D = torch.tensor([[1.0, 0, 2.0, -1.0],[3.0, 0, 0, 5.0],[2.0, 1.0, 4.0, -3.0],[1.0, 0, 5.0, 0]])# 计算行列式
det_D = torch.linalg.det(D)# 输出结果
print("矩阵 D 的行列式是:", det_D.item())

matlab示例

matrix_exp