机器学习数学基础:19.线性相关与线性无关

一、线性相关与线性无关的定义

(一)线性相关

想象我们有一组向量,就好比是一群有着不同“力量”和“方向”的小伙伴。给定的向量组 α ⃗ 1 , α ⃗ 2 , ⋯ , α ⃗ m \vec{\alpha}_1, \vec{\alpha}_2, \cdots, \vec{\alpha}_m α 1,α 2,,α m,如果能找到不全为零的数 k 1 , k 2 , ⋯ , k m k_1, k_2, \cdots, k_m k1,k2,,km,让 k 1 α ⃗ 1 + k 2 α ⃗ 2 + ⋯ + k m α ⃗ m = 0 ⃗ k_1\vec{\alpha}_1 + k_2\vec{\alpha}_2 + \cdots + k_m\vec{\alpha}_m \ = \vec{0} k1α 1+k2α 2++kmα m =0 成立,那这组向量就是线性相关的。

举个例子,在一个二维平面里,有向量 α ⃗ 1 = ( 1 1 ) \vec{\alpha}_1 \ = \begin{pmatrix}1\\1\end{pmatrix} α 1 =(11) α ⃗ 2 = ( 2 2 ) \vec{\alpha}_2 \ = \begin{pmatrix}2\\2\end{pmatrix} α 2 =(22)。我们试着找一些数让它们的组合等于零向量。嘿,发现当 k 1 = − 2 k_1 \ = -2 k1 =2 k 2 = 1 k_2 \ = 1 k2 =1的时候(这两个数不全是 0 0 0哦), − 2 ( 1 1 ) + 1 ( 2 2 ) = ( − 2 + 2 − 2 + 2 ) = ( 0 0 ) -2\begin{pmatrix}1\\1\end{pmatrix} + 1\begin{pmatrix}2\\2\end{pmatrix} \ = \begin{pmatrix}-2 + 2\\-2 + 2\end{pmatrix} \ = \begin{pmatrix}0\\0\end{pmatrix} 2(11)+1(22) =(2+22+2) =(00)。这就说明这两个向量之间存在一种“特殊关系”,它们是线性相关的。从直观上看, α ⃗ 2 \vec{\alpha}_2 α 2就像是 α ⃗ 1 \vec{\alpha}_1 α 1的“双胞胎加强版”,方向完全一样,只是长度不同,所以它们之间不是相互独立的。

(二)线性无关

还是那组向量小伙伴,如果只有当 k 1 = k 2 = ⋯ = k m = 0 k_1 \ = k_2 \ = \cdots \ = k_m \ = 0 k1 =k2 = =km =0时,才有 k 1 α ⃗ 1 + k 2 α ⃗ 2 + ⋯ + k m α ⃗ m = 0 ⃗ k_1\vec{\alpha}_1 + k_2\vec{\alpha}_2 + \cdots + k_m\vec{\alpha}_m \ = \vec{0} k1α 1+k2α 2++kmα m =0 ,那这组向量就是线性无关的。

比如在平面直角坐标系中的两个单位向量 e ⃗ 1 = ( 1 0 ) \vec{e}_1 \ = \begin{pmatrix}1\\0\end{pmatrix} e 1 =(10) e ⃗ 2 = ( 0 1 ) \vec{e}_2 \ = \begin{pmatrix}0\\1\end{pmatrix} e 2 =(01)。我们来假设一下,要是存在两个数 k 1 k_1 k1 k 2 k_2 k2,让 k 1 e ⃗ 1 + k 2 e ⃗ 2 = 0 ⃗ k_1\vec{e}_1 + k_2\vec{e}_2 \ = \vec{0} k1e 1+k2e 2 =0 ,也就是 k 1 ( 1 0 ) + k 2 ( 0 1 ) = ( k 1 k 2 ) = ( 0 0 ) k_1\begin{pmatrix}1\\0\end{pmatrix} + k_2\begin{pmatrix}0\\1\end{pmatrix} \ = \begin{pmatrix}k_1\\k_2\end{pmatrix} \ = \begin{pmatrix}0\\0\end{pmatrix} k1(10)+k2(01) =(k1k2) =(00),那只能是 k 1 = 0 k_1 \ = 0 k1 =0而且 k 2 = 0 k_2 \ = 0 k2 =0。没有其他非零的数能让这个等式成立,这就表明 e ⃗ 1 \vec{e}_1 e 1 e ⃗ 2 \vec{e}_2 e 2是相互独立的,它们组成的向量组就是线性无关的。从几何角度看, e ⃗ 1 \vec{e}_1 e 1沿着 x x x轴方向, e ⃗ 2 \vec{e}_2 e 2沿着 y y y轴方向,它们相互垂直,谁也不“依赖”谁。

二、从线性方程组角度理解

(一)线性相关

线性相关这件事,其实可以和齐次线性方程组联系起来。我们把向量组 α ⃗ 1 , α ⃗ 2 , ⋯ , α ⃗ m \vec{\alpha}_1, \vec{\alpha}_2, \cdots, \vec{\alpha}_m α 1,α 2,,α m当作系数矩阵 A A A的列向量,也就是 A = ( α ⃗ 1 , α ⃗ 2 , ⋯ , α ⃗ m ) A \ = (\vec{\alpha}_1, \vec{\alpha}_2, \cdots, \vec{\alpha}_m) A =(α 1,α 2,,α m)。那么 k 1 α ⃗ 1 + k 2 α ⃗ 2 + ⋯ + k m α ⃗ m = 0 ⃗ k_1\vec{\alpha}_1 + k_2\vec{\alpha}_2 + \cdots + k_m\vec{\alpha}_m \ = \vec{0} k1α 1+k2α 2++kmα m =0 就相当于齐次线性方程组 A x = 0 Ax \ = 0 Ax =0(这里 x = ( k 1 k 2 ⋮ k m ) x \ = \begin{pmatrix}k_1\\k_2\\\vdots\\k_m\end{pmatrix} x = k1k2km )有非零解。

比如说前面那个线性相关的例子,向量组 α ⃗ 1 = ( 1 1 ) \vec{\alpha}_1 \ = \begin{pmatrix}1\\1\end{pmatrix} α 1 =(11) α ⃗ 2 = ( 2 2 ) \vec{\alpha}_2 \ = \begin{pmatrix}2\\2\end{pmatrix} α 2 =(22),对应的系数矩阵 A = ( 1 2 1 2 ) A \ = \begin{pmatrix}1&2\\1&2\end{pmatrix} A =(1122),齐次线性方程组就是 ( 1 2 1 2 ) ( k 1 k 2 ) = ( 0 0 ) \begin{pmatrix}1&2\\1&2\end{pmatrix}\begin{pmatrix}k_1\\k_2\end{pmatrix} \ = \begin{pmatrix}0\\0\end{pmatrix} (1122)(k1k2) =(00)。我们来解这个方程组,从第一个方程 k 1 + 2 k 2 = 0 k_1 + 2k_2 \ = 0 k1+2k2 =0,可以得到 k 1 = − 2 k 2 k_1 \ = -2k_2 k1 =2k2。那我们随便让 k 2 = 1 k_2 \ = 1 k2 =1 k 1 k_1 k1就等于 − 2 -2 2了,这就是一组非零解呀。这就说明这个齐次线性方程组有非零解,也就意味着向量组是线性相关的。

(二)线性无关

线性无关呢,就表示对应的齐次线性方程组仅有零解。同样是由向量组构成的系数矩阵 A A A,齐次线性方程组 A x = 0 Ax \ = 0 Ax =0只有 x = 0 x \ = 0 x =0(也就是 k 1 = k 2 = ⋯ = k m = 0 k_1 \ = k_2 \ = \cdots \ = k_m \ = 0 k1 =k2 = =km =0)这一个解。

像刚才说的单位向量组 e ⃗ 1 = ( 1 0 ) \vec{e}_1 \ = \begin{pmatrix}1\\0\end{pmatrix} e 1 =(10) e ⃗ 2 = ( 0 1 ) \vec{e}_2 \ = \begin{pmatrix}0\\1\end{pmatrix} e 2 =(01),它们的系数矩阵 A = ( 1 0 0 1 ) A \ = \begin{pmatrix}1&0\\0&1\end{pmatrix} A =(1001),对应的齐次线性方程组 ( 1 0 0 1 ) ( k 1 k 2 ) = ( 0 0 ) \begin{pmatrix}1&0\\0&1\end{pmatrix}\begin{pmatrix}k_1\\k_2\end{pmatrix} \ = \begin{pmatrix}0\\0\end{pmatrix} (1001)(k1k2) =(00)。根据矩阵乘法,很明显只能得到 k 1 = 0 k_1 \ = 0 k1 =0并且 k 2 = 0 k_2 \ = 0 k2 =0,这是这个方程组唯一的解,也就是仅有零解,所以这个向量组是线性无关的。

三、线性相关性的判断方法

(一)根据定义判断

假设有向量组 γ ⃗ 1 , γ ⃗ 2 , ⋯ , γ ⃗ n \vec{\gamma}_1, \vec{\gamma}_2, \cdots, \vec{\gamma}_n γ 1,γ 2,,γ n,我们先假设存在数 k 1 , k 2 , ⋯ , k n k_1, k_2, \cdots, k_n k1,k2,,kn,让 k 1 γ ⃗ 1 + k 2 γ ⃗ 2 + ⋯ + k n γ ⃗ n = 0 ⃗ k_1\vec{\gamma}_1 + k_2\vec{\gamma}_2 + \cdots + k_n\vec{\gamma}_n \ = \vec{0} k1γ 1+k2γ 2++knγ n =0 。然后就像解方程一样,去试着找出 k 1 , k 2 , ⋯ , k n k_1, k_2, \cdots, k_n k1,k2,,kn的值。要是能找到不全为零的数满足这个等式,那这个向量组就是线性相关的;要是只能得到 k 1 = k 2 = ⋯ = k n = 0 k_1 \ = k_2 \ = \cdots \ = k_n \ = 0 k1 =k2 = =kn =0,那这个向量组就是线性无关的。

举个复杂点的例子,有向量组 γ ⃗ 1 = ( 1 1 0 ) \vec{\gamma}_1 \ = \begin{pmatrix}1\\1\\0\end{pmatrix} γ 1 = 110 γ ⃗ 2 = ( 0 1 1 ) \vec{\gamma}_2 \ = \begin{pmatrix}0\\1\\1\end{pmatrix} γ 2 = 011 γ ⃗ 3 = ( 1 2 1 ) \vec{\gamma}_3 \ = \begin{pmatrix}1\\2\\1\end{pmatrix} γ 3 = 121 。设 k 1 γ ⃗ 1 + k 2 γ ⃗ 2 + k 3 γ ⃗ 3 = 0 ⃗ k_1\vec{\gamma}_1 + k_2\vec{\gamma}_2 + k_3\vec{\gamma}_3 \ = \vec{0} k1γ 1+k2γ 2+k3γ 3 =0 ,也就是 k 1 ( 1 1 0 ) + k 2 ( 0 1 1 ) + k 3 ( 1 2 1 ) = ( k 1 + k 3 k 1 + k 2 + 2 k 3 k 2 + k 3 ) = ( 0 0 0 ) k_1\begin{pmatrix}1\\1\\0\end{pmatrix} + k_2\begin{pmatrix}0\\1\\1\end{pmatrix} + k_3\begin{pmatrix}1\\2\\1\end{pmatrix} \ = \begin{pmatrix}k_1 + k_3\\k_1 + k_2 + 2k_3\\k_2 + k_3\end{pmatrix} \ = \begin{pmatrix}0\\0\\0\end{pmatrix} k1 110 +k2 011 +k3 121  = k1+k3k1+k2+2k3k2+k3  = 000 ,这样就得到了一个方程组 { k 1 + k 3 = 0 k 1 + k 2 + 2 k 3 = 0 k 2 + k 3 = 0 \begin{cases}k_1 + k_3 \ = 0\\k_1 + k_2 + 2k_3 \ = 0\\k_2 + k_3 \ = 0\end{cases} k1+k3 =0k1+k2+2k3 =0k2+k3 =0

我们来解这个方程组,从第一个方程 k 1 = − k 3 k_1 \ = -k_3 k1 =k3,把它代入第二个方程,就得到 − k 3 + k 2 + 2 k 3 = 0 -k_3 + k_2 + 2k_3 \ = 0 k3+k2+2k3 =0,也就是 k 2 + k 3 = 0 k_2 + k_3 \ = 0 k2+k3 =0,这和第三个方程是一样的。再把 k 1 = − k 3 k_1 \ = -k_3 k1 =k3代入第三个方程,能得到 k 2 − k 1 = 0 k_2 - k_1 \ = 0 k2k1 =0,也就是 k 2 = k 1 k_2 \ = k_1 k2 =k1。最后解得 k 1 = k 2 = k 3 = 0 k_1 \ = k_2 \ = k_3 \ = 0 k1 =k2 =k3 =0,所以这个向量组是线性无关的。

(二)利用矩阵求解判断

我们把向量组里的向量都拿出来,依次作为矩阵 A A A的列向量。然后对矩阵 A A A进行一些操作,也就是初等行变换,把它变成行阶梯形矩阵。这个行阶梯形矩阵中非零行的行数,就是矩阵的秩 r ( A ) r(A) r(A),它表示矩阵里线性无关的行(或列)向量的最大个数。

如果行阶梯形矩阵中非零行的行数(也就是矩阵的秩 r ( A ) r(A) r(A))小于向量的个数 m m m,那就说明向量组是线性相关的;要是 r ( A ) = m r(A) \ = m r(A) =m,那向量组就是线性无关的。

比如说有向量组 δ ⃗ 1 = ( 1 2 3 ) \vec{\delta}_1 \ = \begin{pmatrix}1\\2\\3\end{pmatrix} δ 1 = 123 δ ⃗ 2 = ( 2 4 6 ) \vec{\delta}_2 \ = \begin{pmatrix}2\\4\\6\end{pmatrix} δ 2 = 246 δ ⃗ 3 = ( 3 6 9 ) \vec{\delta}_3 \ = \begin{pmatrix}3\\6\\9\end{pmatrix} δ 3 = 369 ,我们把它们构成矩阵 A = ( 1 2 3 2 4 6 3 6 9 ) A \ = \begin{pmatrix}1&2&3\\2&4&6\\3&6&9\end{pmatrix} A = 123246369

对它进行初等行变换:

  • 先把第二行减去第一行的 2 2 2倍,第三行减去第一行的 3 3 3倍,就得到 ( 1 2 3 0 0 0 0 0 0 ) \begin{pmatrix}1&2&3\\0&0&0\\0&0&0\end{pmatrix} 100200300

你看,这个行阶梯形矩阵中非零行的行数是 1 1 1,也就是矩阵的秩 r ( A ) = 1 r(A) \ = 1 r(A) =1,而这里向量的个数 m = 3 m \ = 3 m =3,因为 1 < 3 1 < 3 1<3,所以这个向量组是线性相关的。

四、线性相关性的推论

(一)相关向量组增加向量后仍相关

假如有一个向量组 α ⃗ 1 , α ⃗ 2 , ⋯ , α ⃗ m \vec{\alpha}_1, \vec{\alpha}_2, \cdots, \vec{\alpha}_m α 1,α 2,,α m是线性相关的,这就好比一群小伙伴里已经存在一些“依赖关系”了。那如果我们再往这个向量组里增加任意数量的向量 α ⃗ m + 1 , α ⃗ m + 2 , ⋯ , α ⃗ m + s \vec{\alpha}_{m + 1}, \vec{\alpha}_{m + 2}, \cdots, \vec{\alpha}_{m + s} α m+1,α m+2,,α m+s,得到的新向量组 α ⃗ 1 , α ⃗ 2 , ⋯ , α ⃗ m , α ⃗ m + 1 , α ⃗ m + 2 , ⋯ , α ⃗ m + s \vec{\alpha}_1, \vec{\alpha}_2, \cdots, \vec{\alpha}_m, \vec{\alpha}_{m + 1}, \vec{\alpha}_{m + 2}, \cdots, \vec{\alpha}_{m + s} α 1,α 2,,α m,α m+1,α m+2,,α m+s还是线性相关的。

为什么呢?因为原来的向量组线性相关,所以肯定存在不全为零的数 k 1 , k 2 , ⋯ , k m k_1, k_2, \cdots, k_m k1,k2,,km,让 k 1 α ⃗ 1 + k 2 α ⃗ 2 + ⋯ + k m α ⃗ m = 0 ⃗ k_1\vec{\alpha}_1 + k_2\vec{\alpha}_2 + \cdots + k_m\vec{\alpha}_m \ = \vec{0} k1α 1+k2α 2++kmα m =0 。对于新的向量组,我们可以让增加的这些向量前面的系数 k m + 1 = k m + 2 = ⋯ = k m + s = 0 k_{m + 1} \ = k_{m + 2} \ = \cdots \ = k_{m + s} \ = 0 km+1 =km+2 = =km+s =0,这样 k 1 α ⃗ 1 + k 2 α ⃗ 2 + ⋯ + k m α ⃗ m + k m + 1 α ⃗ m + 1 + k m + 2 α ⃗ m + 2 + ⋯ + k m + s α ⃗ m + s = 0 ⃗ k_1\vec{\alpha}_1 + k_2\vec{\alpha}_2 + \cdots + k_m\vec{\alpha}_m + k_{m + 1}\vec{\alpha}_{m + 1} + k_{m + 2}\vec{\alpha}_{m + 2} + \cdots + k_{m + s}\vec{\alpha}_{m + s} \ = \vec{0} k1α 1+k2α 2++kmα m+km+1α m+1+km+2α m+2++km+sα m+s =0 ,而且 k 1 , k 2 , ⋯ , k m , k m + 1 , k m + 2 , ⋯ , k m + s k_1, k_2, \cdots, k_m, k_{m + 1}, k_{m + 2}, \cdots, k_{m + s} k1,k2,,km,km+1,km+2,,km+s不全为零,所以新向量组还是线性相关的。

比如已知向量组 α ⃗ 1 = ( 1 1 ) \vec{\alpha}_1 \ = \begin{pmatrix}1\\1\end{pmatrix} α 1 =(11) α ⃗ 2 = ( 2 2 ) \vec{\alpha}_2 \ = \begin{pmatrix}2\\2\end{pmatrix} α 2 =(22)是线性相关的(前面验证过啦),现在增加向量 α ⃗ 3 = ( 3 4 ) \vec{\alpha}_3 \ = \begin{pmatrix}3\\4\end{pmatrix} α 3 =(34),因为 − 2 α ⃗ 1 + 1 α ⃗ 2 + 0 α ⃗ 3 = 0 ⃗ -2\vec{\alpha}_1 + 1\vec{\alpha}_2 + 0\vec{\alpha}_3 \ = \vec{0} 2α 1+1α 2+0α 3 =0 ,有不全为零的系数 − 2 , 1 , 0 -2, 1, 0 2,1,0,所以新的向量组 α ⃗ 1 , α ⃗ 2 , α ⃗ 3 \vec{\alpha}_1, \vec{\alpha}_2, \vec{\alpha}_3 α 1,α 2,α 3就是线性相关的。

(二)无关向量组增加向量后情况分析

要是一个向量组是线性无关的,增加向量后新向量组的情况就有点复杂啦,它可能线性相关,也可能线性无关。

  • 可能线性相关的情况:在一个二维空间里,有向量组 e ⃗ 1 = ( 1 0 ) \vec{e}_1 \ = \begin{pmatrix}1\\0\end{pmatrix} e 1 =(10) e ⃗ 2 = ( 0 1 ) \vec{e}_2 \ = \begin{pmatrix}0\\1\end{pmatrix} e 2 =(01),它们是线性无关的,就像直角坐标系里的两个“坐标轴方向”。要是我们增加一个向量 e ⃗ 3 = ( 1 1 ) \vec{e}_3 \ = \begin{pmatrix}1\\1\end{pmatrix} e 3 =(11),设 k 1 e ⃗ 1 + k 2 e ⃗ 2 + k 3 e ⃗ 3 = 0 ⃗ k_1\vec{e}_1 + k_2\vec{e}_2 + k_3\vec{e}_3 \ = \vec{0} k1e 1+k2e 2+k3e 3 =0 ,也就是 k 1 ( 1 0 ) + k 2 ( 0 1 ) + k 3 ( 1 1 ) = ( k 1 + k 3 k 2 + k 3 ) = ( 0 0 ) k_1\begin{pmatrix}1\\0\end{pmatrix} + k_2\begin{pmatrix}0\\1\end{pmatrix} + k_3\begin{pmatrix}1\\1\end{pmatrix} \ = \begin{pmatrix}k_1 + k_3\\k_2 + k_3\end{pmatrix} \ = \begin{pmatrix}0\\0\end{pmatrix} k1(10)+k2(01)+k3(11) =(k1+k3k2+k3) =(00),这样就得到方程组 { k 1 + k 3 = 0 k 2 + k 3 = 0 \begin{cases}k_1 + k_3 \ = 0\\k_2 + k_3 \ = 0\end{cases} {k1+k3 =0k2+k3 =0。我们令 k 3 = 1 k_3 \ = 1 k3 =1,那 k 1 = − 1 k_1 \ = -1 k1 =1 k 2 = − 1 k_2 \ = -1 k2 =1,这就找到了不全为零的解,所以新的向量组 e ⃗ 1 , e ⃗ 2 , e ⃗ 3 \vec{e}_1, \vec{e}_2, \vec{e}_3 e 1,e 2,e 3就是线性相关的。

  • 可能线性无关的情况:在三维空间里,有向量组 e ⃗ 1 = ( 1 0 0 ) \vec{e}_1 \ = \begin{pmatrix}1\\0\\0\end{pmatrix} e 1 = 100 e ⃗ 2 = ( 0 1 0 ) \vec{e}_2 \ = \begin{pmatrix}0\\1\\0\end{pmatrix} e 2 = 010 ,它们是线性无关的。要是增加向量 e ⃗ 3 = ( 0 0 1 ) \vec{e}_3 \ = \begin{pmatrix}0\\0\\1\end{pmatrix} e 3 = 001 ,设 k 1 e ⃗ 1 + k 2 e ⃗ 2 + k 3 e ⃗ 3 = 0 ⃗ k_1\vec{e}_1 + k_2\vec{e}_2 + k_3\vec{e}_3 \ = \vec{0} k1e 1+k2e 2+k3e 3 =0 ,也就是 ( k 1 k 2 k 3 ) = ( 0 0 0 ) \begin{pmatrix}k_1\\k_2\\k_3\end{pmatrix} \ = \begin{pmatrix}0\\0\\0\end{pmatrix} k1k2k3  = 000 ,只能推出 k 1 = k 2 = k 3 = 0 k_1 \ = k_2 \ = k_3 \ = 0 k1 =k2 =k3 =0,所以新的向量组 e ⃗ 1 , e ⃗ 2 , e ⃗ 3 \vec{e}_1, \vec{e}_2, \vec{e}_3 e 1,e 2,e 3还是线性无关的。

五、极大线性无关组

(一)概念

“能力”,可以把其他小伙伴的“能力”用它们的组合表示出来。

例如,在向量组 α ⃗ 1 = ( 1 1 1 ) \vec{\alpha}_1 \ = \begin{pmatrix}1\\1\\1\end{pmatrix} α 1 = 111 α ⃗ 2 = ( 1 2 3 ) \vec{\alpha}_2 \ = \begin{pmatrix}1\\2\\3\end{pmatrix} α 2 = 123 α ⃗ 3 = ( 2 3 4 ) \vec{\alpha}_3 \ = \begin{pmatrix}2\\3\\4\end{pmatrix} α 3 = 234 α ⃗ 4 = ( 3 4 5 ) \vec{\alpha}_4 \ = \begin{pmatrix}3\\4\\5\end{pmatrix} α 4 = 345 中。我们来看看 α ⃗ 1 \vec{\alpha}_1 α 1 α ⃗ 2 \vec{\alpha}_2 α 2,假设存在数 k 1 k_1 k1 k 2 k_2 k2使得 k 1 α ⃗ 1 + k 2 α ⃗ 2 = 0 ⃗ k_1\vec{\alpha}_1 + k_2\vec{\alpha}_2 \ = \vec{0} k1α 1+k2α 2 =0 ,即 k 1 ( 1 1 1 ) + k 2 ( 1 2 3 ) = ( k 1 + k 2 k 1 + 2 k 2 k 1 + 3 k 2 ) = ( 0 0 0 ) k_1\begin{pmatrix}1\\1\\1\end{pmatrix} + k_2\begin{pmatrix}1\\2\\3\end{pmatrix} \ = \begin{pmatrix}k_1 + k_2\\k_1 + 2k_2\\k_1 + 3k_2\end{pmatrix} \ = \begin{pmatrix}0\\0\\0\end{pmatrix} k1 111 +k2 123  = k1+k2k1+2k2k1+3k2  = 000 ,通过求解方程组 { k 1 + k 2 = 0 k 1 + 2 k 2 = 0 k 1 + 3 k 2 = 0 \begin{cases}k_1 + k_2 \ = 0\\k_1 + 2k_2 \ = 0\\k_1 + 3k_2 \ = 0\end{cases} k1+k2 =0k1+2k2 =0k1+3k2 =0,可以得到 k 1 = k 2 = 0 k_1 \ = k_2 \ = 0 k1 =k2 =0,所以 α ⃗ 1 \vec{\alpha}_1 α 1 α ⃗ 2 \vec{\alpha}_2 α 2线性无关。

再看 α ⃗ 3 \vec{\alpha}_3 α 3 α ⃗ 3 = α ⃗ 1 + α ⃗ 2 \vec{\alpha}_3 \ = \vec{\alpha}_1 + \vec{\alpha}_2 α 3 =α 1+α 2 α ⃗ 4 = 2 α ⃗ 1 + α ⃗ 2 \vec{\alpha}_4 \ = 2\vec{\alpha}_1 + \vec{\alpha}_2 α 4 =2α 1+α 2,也就是 α ⃗ 3 \vec{\alpha}_3 α 3 α ⃗ 4 \vec{\alpha}_4 α 4都能由 α ⃗ 1 \vec{\alpha}_1 α 1 α ⃗ 2 \vec{\alpha}_2 α 2线性表示。所以 α ⃗ 1 \vec{\alpha}_1 α 1 α ⃗ 2 \vec{\alpha}_2 α 2构成了该向量组的一个极大线性无关组。

(二)求解方法

  1. 构造矩阵:把向量组中的向量按顺序作为矩阵 A A A的列向量。比如有向量组 β ⃗ 1 = ( 1 1 0 0 ) \vec{\beta}_1 \ = \begin{pmatrix}1\\1\\0\\0\end{pmatrix} β 1 = 1100 β ⃗ 2 = ( 0 0 1 1 ) \vec{\beta}_2 \ = \begin{pmatrix}0\\0\\1\\1\end{pmatrix} β 2 = 0011 β ⃗ 3 = ( 1 1 1 1 ) \vec{\beta}_3 \ = \begin{pmatrix}1\\1\\1\\1\end{pmatrix} β 3 = 1111 β ⃗ 4 = ( 2 2 1 1 ) \vec{\beta}_4 \ = \begin{pmatrix}2\\2\\1\\1\end{pmatrix} β 4 = 2211 ,则构造矩阵 A = ( 1 0 1 2 1 0 1 2 0 1 1 1 0 1 1 1 ) A \ = \begin{pmatrix}1&0&1&2\\1&0&1&2\\0&1&1&1\\0&1&1&1\end{pmatrix} A = 1100001111112211
  2. 初等行变换化为行最简形矩阵:利用三种初等行变换,即换行(交换两行的位置)、某一行乘以非零常数、某一行加上另一行的倍数,将矩阵化为行最简形矩阵。
    • 对于矩阵 A A A,先将第二行减去第一行,第四行减去第三行,得到 ( 1 0 1 2 0 0 0 0 0 1 1 1 0 0 0 0 ) \begin{pmatrix}1&0&1&2\\0&0&0&0\\0&1&1&1\\0&0&0&0\end{pmatrix} 1000001010102010 。此时已经是行阶梯形矩阵,再进一步化为行最简形矩阵,无需其他操作。
  3. 确定极大线性无关组:行最简形矩阵中主元(每行第一个非零元素)所在列对应的原向量组中的向量就构成一个极大线性无关组。在上述行最简形矩阵中,主元在第一列和第三列,所以 β ⃗ 1 \vec{\beta}_1 β 1 β ⃗ 3 \vec{\beta}_3 β 3构成该向量组的一个极大线性无关组。

(三)性质

  1. 不唯一性:极大线性无关组并不是唯一的。仍以上述向量组为例,经过进一步分析可能还存在其他两个向量的组合也满足极大线性无关组的条件。再比如向量组 γ ⃗ 1 = ( 1 0 0 ) \vec{\gamma}_1 \ = \begin{pmatrix}1\\0\\0\end{pmatrix} γ 1 = 100 γ ⃗ 2 = ( 0 1 0 ) \vec{\gamma}_2 \ = \begin{pmatrix}0\\1\\0\end{pmatrix} γ 2 = 010 γ ⃗ 3 = ( 1 1 0 ) \vec{\gamma}_3 \ = \begin{pmatrix}1\\1\\0\end{pmatrix} γ 3 = 110 γ ⃗ 4 = ( 0 0 1 ) \vec{\gamma}_4 \ = \begin{pmatrix}0\\0\\1\end{pmatrix} γ 4 = 001 γ ⃗ 1 \vec{\gamma}_1 γ 1 γ ⃗ 2 \vec{\gamma}_2 γ 2 γ ⃗ 4 \vec{\gamma}_4 γ 4是一个极大线性无关组,因为它们线性无关且 γ ⃗ 3 = γ ⃗ 1 + γ ⃗ 2 \vec{\gamma}_3 \ = \vec{\gamma}_1 + \vec{\gamma}_2 γ 3 =γ 1+γ 2;同时 γ ⃗ 1 \vec{\gamma}_1 γ 1 γ ⃗ 3 \vec{\gamma}_3 γ 3 γ ⃗ 4 \vec{\gamma}_4 γ 4也可以是极大线性无关组, γ ⃗ 2 = γ ⃗ 3 − γ ⃗ 1 \vec{\gamma}_2 \ = \vec{\gamma}_3 - \vec{\gamma}_1 γ 2 =γ 3γ 1且这三个向量线性无关。这是因为在向量组中,可能存在多种不同的线性无关的组合方式,都能满足极大线性无关组对向量组的“代表”作用。
  2. 向量个数相等:一个向量组的任意两个极大线性无关组所含向量的个数一定相等,这个固定的个数称为向量组的秩。例如,对于向量组 δ ⃗ 1 = ( 1 2 3 ) \vec{\delta}_1 \ = \begin{pmatrix}1\\2\\3\end{pmatrix} δ 1 = 123 δ ⃗ 2 = ( 2 4 6 ) \vec{\delta}_2 \ = \begin{pmatrix}2\\4\\6\end{pmatrix} δ 2 = 246 δ ⃗ 3 = ( 3 6 9 ) \vec{\delta}_3 \ = \begin{pmatrix}3\\6\\9\end{pmatrix} δ 3 = 369 ,它的一个极大线性无关组可以是 { δ ⃗ 1 } \{\vec{\delta}_1\} {δ 1}(因为 δ ⃗ 2 = 2 δ ⃗ 1 \vec{\delta}_2 \ = 2\vec{\delta}_1 δ 2 =2δ 1 δ ⃗ 3 = 3 δ ⃗ 1 \vec{\delta}_3 \ = 3\vec{\delta}_1 δ 3 =3δ 1),若再找出另一个极大线性无关组,其中向量个数也必然为 1 1 1,该向量组的秩就是 1 1 1。这是因为极大线性无关组反映的是向量组中线性无关的“最大规模”,无论以何种方式选取,这个“最大规模”是固定的,就像一个容器的最大容量是确定的,虽然装东西的方式可以不同,但最大能装的量是一样的。

(四)用极大线性无关组表示不属于该组的向量

当我们确定了向量组的极大线性无关组后,对于那些不属于极大线性无关组的向量,我们可以通过求解线性方程组的方式来确定它们由极大线性无关组线性表示的系数。

例如,已知向量组 ϵ ⃗ 1 = ( 1 1 0 ) \vec{\epsilon}_1 \ = \begin{pmatrix}1\\1\\0\end{pmatrix} ϵ 1 = 110 ϵ ⃗ 2 = ( 0 1 1 ) \vec{\epsilon}_2 \ = \begin{pmatrix}0\\1\\1\end{pmatrix} ϵ 2 = 011 ϵ ⃗ 3 = ( 1 2 1 ) \vec{\epsilon}_3 \ = \begin{pmatrix}1\\2\\1\end{pmatrix} ϵ 3 = 121 ,已求得 ϵ ⃗ 1 \vec{\epsilon}_1 ϵ 1 ϵ ⃗ 2 \vec{\epsilon}_2 ϵ 2是极大线性无关组。设 ϵ ⃗ 3 = x ϵ ⃗ 1 + y ϵ ⃗ 2 \vec{\epsilon}_3 \ = x\vec{\epsilon}_1 + y\vec{\epsilon}_2 ϵ 3 =xϵ 1+yϵ 2,即 ( 1 2 1 ) = x ( 1 1 0 ) + y ( 0 1 1 ) = ( x x + y y ) \begin{pmatrix}1\\2\\1\end{pmatrix} \ = x\begin{pmatrix}1\\1\\0\end{pmatrix} + y\begin{pmatrix}0\\1\\1\end{pmatrix} \ = \begin{pmatrix}x\\x + y\\y\end{pmatrix} 121  =x 110 +y 011  = xx+yy ,由此得到方程组 { x = 1 x + y = 2 y = 1 \begin{cases}x \ = 1\\x + y \ = 2\\y \ = 1\end{cases} x =1x+y =2y =1。通过解方程组,很容易得出 x = 1 x \ = 1 x =1 y = 1 y \ = 1 y =1,所以 ϵ ⃗ 3 = ϵ ⃗ 1 + ϵ ⃗ 2 \vec{\epsilon}_3 \ = \vec{\epsilon}_1 + \vec{\epsilon}_2 ϵ 3 =ϵ 1+ϵ 2。这就好像我们找到了一种“配方”,用极大线性无关组中的向量按照特定的比例(这里 x = 1 x \ = 1 x =1 y = 1 y \ = 1 y =1)组合起来,就能得到不属于极大线性无关组的向量,体现了极大线性无关组对整个向量组的“构建”作用,有助于我们更清晰、简洁地描述整个向量组的结构和性质。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/14235.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

windows安装linux子系统【ubuntu】操作步骤

1.在windows系统中开启【适用于Linux的Windows子系统】 控制面板—程序—程序和功能—启用或关闭Windows功能—勾选适用于Linux的Windows子系统–确定 2.下载安装Linux Ubuntu 22.04.5 LTS系统 Ununtu下载链接 3.安装完Ununtu系统后更新系统 sudo apt update4.进入/usr/l…

【大数据技术】搭建完全分布式高可用大数据集群(Kafka)

搭建完全分布式高可用大数据集群(Kafka) kafka_2.13-3.9.0.tgz注:请在阅读本篇文章前,将以上资源下载下来。 写在前面 本文主要介绍搭建完全分布式高可用集群 Kafka 的详细步骤。 注意: 统一约定将软件安装包存放于虚拟机的/software目录下,软件安装至/opt目录下。 安…

万字详解 MySQL MGR 高可用集群搭建

文章目录 1、MGR 前置介绍 1.1、什么是 MGR1.2、MGR 优点1.3、MGR 缺点1.4、MGR 适用场景 2、MySQL MGR 搭建流程 2.1、环境准备2.2、搭建流程 2.2.1、配置系统环境2.2.2、安装 MySQL2.2.3、配置启动 MySQL2.2.4、修改密码、设置主从同步2.2.5、安装 MGR 插件 3、MySQL MGR 故…

Linux高级IO

文章目录 &#x1f965;IO的基本概念&#x1f347;钓鱼五人组&#x1f348;五种IO模型&#x1f349;高级IO重要概念同步通信 VS 异步通信阻塞 VS 非阻塞 &#x1f34a;其他高级IO&#x1f34b;阻塞IO&#x1f34b;‍&#x1f7e9;非阻塞IO &#x1f965;IO的基本概念 什么是IO…

摄像头模块烟火检测

工作原理 基于图像处理技术&#xff1a;分析视频图像中像素的颜色、纹理、形状等特征。火焰通常具有独特的颜色特征&#xff0c;如红色、橙色等&#xff0c;且边缘呈现不规则形状&#xff0c;还会有闪烁、跳动等动态特征&#xff1b;烟雾则表现为模糊、无固定形状&#xff0c;…

4.3 线性回归的改进-岭回归/4.4分类算法-逻辑回归与二分类/ 4.5 模型保存和加载

4.3.1 带有L2正则化的线性回归-岭回归 岭回归&#xff0c;其实也是一种线性回归&#xff0c;只不过在算法建立回归方程的时候1&#xff0c;加上正则化的限制&#xff0c;从而达到解决过拟合的效果 4.3.1.1 API 4.3.1.2 观察正则化程度的变化&#xff0c;对结果的影响 正则化力…

CSS outline详解:轮廓属性的详细介绍

什么是outline&#xff1f; outline&#xff08;轮廓&#xff09;是CSS中一个有趣的属性&#xff0c;它在元素边框&#xff08;border&#xff09;的外围绘制一条线。与border不同的是&#xff0c;outline不占用空间&#xff0c;不会影响元素的尺寸和位置。这个特性使它在某些…

设计模式.

设计模式 一、介绍二、六大原则1、单一职责原则&#xff08;Single Responsibility Principle, SRP&#xff09;2、开闭原则&#xff08;Open-Closed Principle, OCP&#xff09;3、里氏替换原则&#xff08;Liskov Substitution Principle, LSP&#xff09;4、接口隔离原则&am…

硬件工程师思考笔记02-器件的隐秘角落:磁珠与电阻噪声

目录 引言 一、磁珠&#xff1a;你以为的“噪声克星”&#xff0c;可能是高频杀手 1. 磁珠的阻抗特性与误区 2. 案例&#xff1a;磁珠引发的5G射频误码率飙升 二、电阻&#xff1a;静默的噪声制造者 1. 电阻噪声的两种形态 2. 案例&#xff1a;ADC精度被电阻噪声“偷走” 三、设…

mysql 不是内部或外部命令,也不是可运行的程序或批处理文件

mysql 不是内部或外部命令&#xff0c;也不是可运行的程序或批处理文件 前言描述1、&#x1f331;环境变量配置&#xff08;高级系统设置&#xff09;&#xff1a;2、&#x1f331;环境变量配置&#xff08;系统属性&#xff09;&#xff1a;3、&#x1f331;环境变量配置&…

极客说|利用 Azure AI Agent Service 创建自定义 VS Code Chat participant

作者&#xff1a;卢建晖 - 微软高级云技术布道师 「极客说」 是一档专注 AI 时代开发者分享的专栏&#xff0c;我们邀请来自微软以及技术社区专家&#xff0c;带来最前沿的技术干货与实践经验。在这里&#xff0c;您将看到深度教程、最佳实践和创新解决方案。关注「极客说」&a…

在rtthread中,scons构建时,它是怎么知道是从rtconfig.h找宏定义,而不是从其他头文件找?

在rtthread源码中&#xff0c;每一个bsp芯片板级目录下都有一个 SConstruct scons构建脚本的入口&#xff0c; 在这里把rtthread tools/目录下的所有模块都添加到了系统路径中&#xff1a; 在tools下所有模块中&#xff0c;最重要的是building.py模块&#xff0c;在此脚本里面…

Redis基础--常用数据结构的命令及底层编码

零.前置知识 关于时间复杂度,按照以下视角看待. redis整体key的个数 -- O(N)当前key对应的value中的元素个数 -- O(N)当前命令行中key的个数 -- O(1) 一.string 1.1string类型常用命令 1.2string类型内部编码 二.Hash 哈希 2.1hash类型常用命令 2.2hash类型内部编码 2.3ha…

【leetcode100】岛屿的最大面积

1、题目描述 给你一个大小为 m x n 的二进制矩阵 grid 。 岛屿 是由一些相邻的 1 (代表土地) 构成的组合&#xff0c;这里的「相邻」要求两个 1 必须在 水平或者竖直的四个方向上 相邻。你可以假设 grid 的四个边缘都被 0&#xff08;代表水&#xff09;包围着。 岛屿的面积…

将仓库A分支同步到仓库B分支,并且同步commit提交

一、 问题 有一仓库A 和 一仓库B&#xff0c; 需要将仓库A分支a1所有提交同步推送到仓库B分支b1上 二、 解决 2.1、 首先需要仓库A、仓库B的权限&#xff0c; 2.2、将仓库A clone到本地&#xff0c; 进入A目录&#xff0c;并且切换到a1分支 cd A ## A 为A仓库clone到本地代…

Matplotlib基础01( 基本绘图函数/多图布局/图形嵌套/绘图属性)

Matplotlib基础 Matplotlib是一个用于绘制静态、动态和交互式图表的Python库&#xff0c;广泛应用于数据可视化领域。它是Python中最常用的绘图库之一&#xff0c;提供了多种功能&#xff0c;可以生成高质量的图表。 Matplotlib是数据分析、机器学习等领域数据可视化的重要工…

Nginx 配置 SSL(HTTPS)详解

Nginx作为一款高性能的HTTP和反向代理服务器&#xff0c;自然支持SSL/TLS加密通信。本文将详细介绍如何在Nginx中配置SSL&#xff0c;实现HTTPS的访问。 随着互联网安全性的日益重要&#xff0c;HTTPS协议逐渐成为网站加密通信的标配。Nginx作为一款高性能的HTTP和反向代理服务…

Mybatis篇

1&#xff0c;什么是Mybatis &#xff08; 1 &#xff09;Mybatis 是一个半 ORM&#xff08;对象关系映射&#xff09;框架&#xff0c;它内部封装了 JDBC&#xff0c;开发时只需要关注 SQL 语句本身&#xff0c;不需要花费精力去处理加载驱动、创建连接、创建 statement 等繁…

文件上传全详解

前言 我们下面进行下一个漏洞——文件上传的学习。文件上传是常见漏洞之一&#xff0c;是Web安全必学漏洞。为探讨清楚文件上传漏洞的诸多细节&#xff0c;我们特以经典的upload-labs进行从入门到进阶的专项训练。 作者进行upload-labs靶场练习时&#xff0c;在环境配置上出了…

【centOS】搭建公司内网git环境-GitLab 社区版(GitLab CE)

1. 安装必要的依赖 以 CentOS 7 系统为例&#xff0c;安装必要的依赖包&#xff1a; sudo yum install -y curl policycoreutils openssh-server openssh-clients postfix sudo systemctl start postfix sudo systemctl enable postfix2. 添加 GitLab 仓库 curl -sS https:/…