一.期望与方差
接上篇
2.方差
方差是统计学中一个重要的概念,用于衡量随机变量或一组数据的离散程度。它反映了数据点与其平均值之间的偏离程度。方差越大,数据点越分散;方差越小,数据点越集中。
对于一个随机变量 X,其方差 Var(X)或DX定义为:
叫做标准差。
2.1 离散型随机变量的方差
对于离散型随机变量 X,其方差可以表示为:
2.2 连续型随机变量的方差
对于连续型随机变量 XX,其方差可以表示为:
2.3 方差的性质
-
常数的方差:DC = 0
-
D(X+C) = DX
-
X、Y独立,D(X±Y) = DX+DY
-
X、Y不独立,D(X±Y) = DX+DY±2Cov(X,Y) Cov(X,Y)是协方差,后边会讲
这里需要注意方差的性质与期望性质的不同。
3.常见离散型的期望与方差
3.1 0-1分布
X | 0 | 1 |
---|---|---|
p | 1-p | p |
其中q=1-p
3.2 二项分布
期望与方差:
3.3 几何分布
3.4 泊松分布
4.常见连续型的期望与方差
4.1 均匀分布
4.2 指数分布
4.3 正态分布
期望与方差:
5.协方差
协方差是衡量两个随机变量之间线性关系强度的统计量。如果两个变量的协方差为正,它们之间存在正相关关系;如果协方差为负,它们之间存在负相关关系;如果协方差为零,它们之间没有线性关系。
5.1 定义
对于两个随机变量 X 和 Y,它们的协方差定义为:
其中 EX 和 EY 分别是 X 和 Y 的期望值。
协方差的计算公式可以表示为:
5.2 性质
X、Y独立,Cov(X,Y) = 0
5.3 相关系数
协方差的一个限制是它的值依赖于变量的尺度。为了克服这个限制,通常使用相关系数(Pearson相关系数)来衡量两个变量之间的线性关系,其定义为:
相关系数的值在 -1 和 1 之间,其中 -1 表示完全负相关,1 表示完全正相关,0 表示没有线性关系。
解释
-
正相关:如果相关系数为正,表明当一个变量的值增加时,另一个变量的值也倾向于增加。
-
负相关:如果相关系数为负,表明当一个变量的值增加时,另一个变量的值倾向于减少。
-
无相关:如果相关系数为零,表明两个变量之间没有线性关系。
二.行列式
1.什么是行列式
行列式是一个数学概念,主要用于线性代数中,它是一个可以从方阵(即行数和列数相等的矩阵)形成的一个标量(即一个单一的数值)。
2.二阶行列式
假设有一个二元一次方程:
对x求解得出:
同理,对y求解得出:
其中将5 X 9 - 4 X 11用一种方式表示,即:
则将等号右边的式子叫做二阶行列式
二阶行列式定义:
aij叫做行列式的元素,i为行标,j为列标
二阶行列式计算:对角线法
3.三阶行列式
三阶行列式:
对角线法则计算:
或者平移行列式中的元素:
-
将第一、二列平移到行列式右侧
-
如图做出六条斜对角线
-
对角线上的元素相乘,红色相加的和 减去 蓝色相加的和
4.n阶行列式
4.1 排列
排列是指从一组元素中选出若干个元素,并按照一定的顺序排列起来。对于一个包含 n 个元素的集合,其所有元素的全排列数目是 n!(即 n 的阶乘)。例如,集合 {1,2,3}的全排列有 3!=6种,分别是:
-
(1,2,3)
-
(1,3,2)
-
(2,1,3)
-
(2,3,1)
-
(3,1,2)
-
(3,2,1)
4.2 逆序
逆序是指在一个排列中,如果一个较大的数排在一个较小的数前面,则称这两个数构成一个逆序。逆序的总数称为逆序数。逆序数可以帮助我们理解排列的“混乱”程度。
例如,在排列 (3,1,4,2) 中,逆序有:
-
3 和 1 构成一个逆序
-
3 和 2 构成一个逆序
-
4 和 2 构成一个逆序
因此,这个排列的逆序数是 3。逆序的表示符号为N或者为τ(读作涛)
逆序数的计算
计算一个排列的逆序数可以通过遍历排列中的每一对元素来实现。具体步骤如下:
-
对于排列中的每一个元素,计算它后面有多少个比它小的元素。
-
将这些计数相加,得到总的逆序数。
例如,计算排列 (3,1,4,2)的逆序数:
-
元素 3 后面有2比它小的元素(1, 2),逆序数为 2。
-
元素 1 后面没有比它大的元素,逆序数为 0。
-
元素 4 后面有1个比它大的元素(1),逆序数为 1。
-
元素 2 是最后一个元素,逆序数为 0。
总的逆序数为N2+0+1+0=3
4.3 奇排列和偶排列
如果一个排列的逆序数是奇数,则称该排列为奇排列;如果是偶数,则称该排列为偶排列。
例如:
N(1432) = 3,则1432为奇排列;N(4321)=6,则4321为偶排列
4.4 对换
对排列中的任意两个元素进行交换(称为对换),会改变排列的奇偶性。即,奇排列经过一次对换变成偶排列,偶排列经过一次对换变成奇排列。
例如:
N(651243)=10,为偶排列,将5和1兑换,则N(615243)=9,为奇排列
4.5 n阶行列式定义
以3阶行列式为例:
从上述公式可以看出:
3阶行列式按行展开后为6项,每项为3个不同行不同列的3个元素相乘
aij元素的行标i都是123的自然排列
aij元素列标j则为:123、231、312、321、213、132,总数为3!=6
分别计算列标排列的逆序数:
N(123) = 0 偶数
N(231) = 1 + 1 = 2 偶数
N(312) = 2 偶数
N(321) = 2 + 1 = 3 奇数
N(213) = 1 奇数
N(132) = 1 奇数
通过观察公式可以看出,逆序数为偶数的排列的运算符号为+
,为奇数的排列的运算符号为-
总结:
1.行标取自然排列
2.不同行不同列的3个元素相乘
3.列标取排列的所有可能
4.列标排列的逆序数的奇偶性决定运算符号,逆序数为偶数的运算符号为+
,奇数的运算符号为-
从3阶行列式扩展到n阶行列式:
其中,aij是行列式的元素,i是行标,j是列标
定义:
1.按行展开:
-
行标取自然排列
-
不同行不同列的n个元素相乘
-
列标取排列的所有可能
-
列标排列的逆序数的奇偶性决定运算符号,逆序数为偶数的运算符号为
+
,奇数的运算符号为-
2.按列展开
与按行展开类似,只是展开时行变成列:
-
列标取自然排列
-
不同行不同列的n个元素相乘
-
行标取排列的所有可能
-
行标排列的逆序数的奇偶性决定运算符号,逆序数为偶数的运算符号为
+
,奇数的运算符号为-
4.6 特殊n阶行列式
1.行列式某一行(列)全为0,则行列式为0
2.三角形行列式等于对角线元素的乘积
思考:
按行展开:
逆序数N(n(n-1)...1)=(n-1)+(n-2)+...+1=n(n-1)/2
5.行列式性质
性质1:行列式的转置等于行列式本身。
其中,A是一个方阵,A^T表示 A 的转置矩阵。
这个性质的证明可以通过行列式的定义和性质来进行。转置行列式的列是行列式的行,即转置行列式按列展开得到的排列和逆序数与行列式按行展开得到的排列和逆序数一样,因此行列式的值保持不变。
性质2:交换行列式的两行会导致行列式的值变为其原来的相反数。
设 A是一个 n×n的行列式,如果交换 A的第 i 行和第 j 行(其中 i≠j),得到的新矩阵记为 B,那么有:
交换两行相当于在排列中交换两个元素,这会改变逆序数的奇偶性,从而使得行列式的值变为其原来的相反数。
假设:
现在将第一行和第二行交换
此时交换前行列式的逆序数为
交换后行列式的逆序数为
从逆序数中看出,i1和i2进行了互换,则奇偶性也会发生改变,因此得出:
推论:行列式两行(列)相等,则行列式为0
设 A 是一个 n×n的矩阵,如果 AA 的第 i行和第 j行(其中 i≠j)相等,那么有:
这个性质的证明可以通过行列式的性质来进行。具体来说,我们可以利用行列式的线性性质和交换两行行列式值变符号的性质来证明这一点。
假设 A 的第 i行和第 j行相等,我们可以交换这两行得到一个新的矩阵 B。根据行列式的性质,交换两行会导致行列式的值变为其原来的相反数,即:
但是,由于 A的第i行和第j行相等,矩阵 B实际上与矩阵A是相同的。因此,我们有:
结合这两个等式,我们得到:
这意味着:
从而得出:
性质3:用k乘以行列式某一行的所有元素,等于用k乘以行列式
将k提取出来
思考:下列计算是否正确?
错误,每行提取k,提取3次,为k的3次方。
推论:如果行列式的某一行(或某一列)的所有元素都有公因子 k,那么这个公因子 k可以提取到行列式外面一次。
数学符号表示为:
设 A 是一个 n×n 的矩阵,如果 A 的第 i行的所有元素都有公因子 k,那么可以将k 提取到行列式外面,得到的新矩阵记为B,那么有:
行列式的值是通过对所有排列求和得到的,每个排列对应一个项。如果某一行(或某一列)的所有元素都有公因子k,会使得每个项都乘以k,从而使得整个行列式的值乘以k。
推论:如果一个 n×n的行列式的所有行的所有元素都有公因子 k,那么这个公因子 k 可以提取到行列式外面 n次。
所以
推论:如果一个行列式的两行(或两列)对应成比例,那么这个行列式的值必定为零。
数学符号表示为:
设 A 是一个 n×n 的矩阵,如果 A 的第 i 行和第 j 行(其中 i≠j)对应成比例,即第i 行的每个元素是第j行对应元素的k 倍,那么有:
假设 A 的第 i 行和第 j 行对应成比例,即第i行的每个元素是第j 行对应元素的k 倍。我们可以将第 i行的所有元素提取公因子 k,得到一个新的矩阵B,其中第i行的元素与第 j 行的元素相等。根据行列式的性质,提取公因子k 后,行列式的值变为原来的 k 倍。
由于B 的第i 行和第j行相等,根据之前的性质,行列式的值为零。因此,我们有:
性质4:如果一个行列式的某一行(或某一列)是两个数之和,那么这个行列式可以表示为两个行列式的和。
数学符号表示为:
设 A 是一个 n×n的矩阵,如果 A 的第 i行的每个元素是两个数之和,即第i行的每个元素可以表示为
那么矩阵 A 可以分解为两个矩阵 B 和 B,其中 B 的第 i 行的每个元素是bij,C 的第 i行的每个元素是 cij,其余行与A 相同。那么有:
性质:将行列式的某一行(列)乘以一个数加到另一行(列)上,行列式的值保持不变。(常用)
数学符号表示为:
设 A 是一个 n×n的矩阵,如果将 A 的第i 行的每个元素乘以一个数k,然后将得到的结果加到第j行的对应元素上,得到的新矩阵记为 B,那么有:
这个性质的证明可以通过行列式的性质来进行。我们可以利用行列式的线性性质和交换两行行列式值变符号的性质来证明这一点。
假设 A
将A的第i行的每个元素乘以一个数 k,然后将得到的结果加到第 j 行的对应元素上,得到的新矩阵 B。
将B再进行拆分:
结合这两个等式,我们得到:
6.代数余子式
余子式:
给定一个 n×n的矩阵 A,其第 i 行第j 列的元素 aij的余子式 Mij是指去掉第i行和第j列后得到的 (n−1)×(n−1) 子矩阵的行列式。
具体步骤如下:
-
选择元素:选择矩阵 AA 中的一个元素 aij。
-
构造余子矩阵:去掉矩阵 AA 的第 i 行和第 j 列,得到一个 (n−1)×(n−1) 的子矩阵。
-
计算行列式:计算这个 (n−1)×(n−1) 子矩阵的行列式,这个行列式就是元素 aij 的余子式 Mij。
余子式的一个重要应用是计算行列式的值。行列式 det(A)可以通过任意一行或一列的元素与其对应的余子式和代数余子式的乘积之和来计算。
代数余子式:
给定一个 n×n 的矩阵 A,其第i行第j列的元素 aij 的代数余子式 Cij定义为:
其中,Mij是元素 aij 的余子式,即去掉矩阵 A的第i 行和第 j 列后得到的 (n−1)×(n−1子矩阵的行列式。
具体步骤如下:
-
选择元素:选择矩阵 A 中的一个元素 aij。
-
构造余子矩阵:去掉矩阵 A 的第i 行和第 j 列,得到一个 (n−1)×(n−1)的子矩阵。
-
计算行列式:计算这个 (n−1)×(n−1)子矩阵的行列式,这个行列式就是元素 aij 的余子式 Mij。
-
计算代数余子式:根据公式
计算代数余子式。
代数余子式的一个重要应用是计算行列式的值。根据拉普拉斯展开定理,行列式 det(A)可以通过任意一行或一列的元素与其对应的代数余子式的乘积之和来计算。
7.克莱姆法则
基本概念
假设有一个由 n 个线性方程组成的n 元线性方程组:
我们可以将这个方程组写成AX=B,其中:
克莱姆法则
根据克莱姆法则,如果系数矩阵 A 的行列式 det(A)≠0,那么方程组有唯一解,且解 X 的每一个分量 xi可以通过以下公式计算:
其中,Ai是将矩阵 A 的第i 列替换为向量 B 后得到的新矩阵。
注意:克莱姆法则前提:1.方程个数=未知数个数;2.系数行列式det(A)!=0
克莱姆法则在处理小规模、非奇异线性方程组时是一个有用的工具,尤其在理论推导和解析解求解中。然而,对于大规模或数值稳定性要求高的实际问题,通常会选择其他更高效的数值方法,如高斯消元法、LU分解或矩阵求逆等。
三.矩阵
1.矩阵定义
1.1 矩阵的定义
矩阵是由一组数按照矩形排列而成的数表。矩阵通常用大写字母表示,例如 AA、BB 等。矩阵中的每个数称为矩阵的元素或元。
一个 m×n的矩阵 AA 可以表示为:
其中 aij表示矩阵 A中第i行第j列的元素。
1.2 矩阵的维度
矩阵的维度由它的行数和列数决定,记作 m×n,其中 m是行数,n 是列数,m不一定与n相等。例如,一个 3×2 的矩阵有 3 行和 2 列。
1.3 矩阵和行列式的区别
矩阵 | 行列式 | |
---|---|---|
符号 | ()或[] | | | |
形状 | 方阵或非方阵 | 方阵 |
本质 | 数表 | 数 |
属性 | A | |A|是A诸多属性中的一种 |
2 同型矩阵
设矩阵 AA 和 BB 分别为:
如果 A 和 B 的维度相同,即 A 和 B 都是 m×n 矩阵,那么A 和 B 就是同型矩阵。
矩阵相等
如果A 和 B 的维度相同,即 A 和 B 都是 m×n矩阵,并且对于所有 i 和 j,都有 aij=bij,那么我们称矩阵 A 和 B 相等,记作 A=B。
矩阵相等的条件
-
维度相同:两个矩阵的行数和列数必须相同。
-
对应元素相等:所有对应位置的元素必须相等。
3 特殊类型的矩阵
1.3.1 方阵
一个 n×n 的方阵 A 可以表示为:矩阵的行数=列数
其中 aij 表示矩阵 A 中第 i 行第 j 列的元素。
方阵有主对角线和副对角线,非方阵没有主对角线和副对角线。
1.3.2 特殊的方阵
1.3.2.1 单位矩阵
主对角线上的元素都是 1,其余元素都是 0 的方阵,记作 I 或 E。例如,3 阶单位矩阵为:
1.3.2.2 对角矩阵
主对角线上的元素可以是任意值,其余元素都是 0 的方阵。例如:
1.3.2.3 上三角矩阵
主对角线及其上方的元素可以是任意值,主对角线下方的元素都是 0 的方阵。例如:
1.3.2.4 下三角矩阵
主对角线及其下方的元素可以是任意值,主对角线上方的元素都是 0 的方阵。例如:
1.3.2 零矩阵
一个 m×n的零矩阵 O 可以表示为:
其中所有元素都是零。零矩阵的维度由它的行数和列数决定,记作 m×n。
思考:两个零矩阵相等?
错误,两个同型的零矩阵相等。
1.3.3 行矩阵
行矩阵(Row Matrix),也称为行向量(Row Vector),是线性代数中的一种特殊矩阵,它只有一行,但可以有多列。具体来说,一个
1×n 的矩阵称为行矩阵或行向量。行矩阵的维度是 1×n,其中 n 是列数。
一个 1×n的行矩阵 R 可以表示为:
其中 r1j 表示行矩阵R 中第 1 行第 j 列的元素。
1.3.4 列矩阵
列矩阵(Column Matrix),也称为列向量(Column Vector),是线性代数中的一种特殊矩阵,它只有一列,但可以有多行。具体来
说,一个 m×1 的矩阵称为列矩阵或列向量。列矩阵的维度是 m×1,其中 m 是行数。
一个 m×1 的列矩阵 C 可以表示为:
其中 ci1 表示列矩阵 C 中第 i 行第 1 列的元素。
4.矩阵的加法
矩阵的加法是指两个相同维度的矩阵对应位置上的元素相加,得到一个新的矩阵。具体来说,如果两个矩阵 A 和 B 的维度相同,即都是
m×n矩阵,那么它们的和 C=A+B也是一个 m×n 矩阵,其中 C 的每个元素 cij 是 A 和 B 对应位置元素的和,即 cij=aij+bij。
设矩阵 AA 和 BB 分别为:
如果 A 和 B 的维度相同,即 A 和 B 都是 m×n 矩阵,那么它们的和 C=A+B 也是一个 m×n 矩阵,即:
其中:
矩阵加法的性质
-
交换律:矩阵加法满足交换律,即 A+B=B+A。
-
结合律:矩阵加法满足结合律,即 (A+B)+C=A+(B+C)。
-
零矩阵:零矩阵 O 是矩阵加法的单位元,即对于任何矩阵 A,有 A+O=A。
-
负矩阵:对于任何矩阵 A,存在一个负矩阵 −A,使得 A+(−A)=O。
5.矩阵的减法
矩阵的减法是指两个相同维度的矩阵对应位置上的元素相减,得到一个新的矩阵。具体来说,如果两个矩阵 A 和 B 的维度相同,即都是
m×n 矩阵,那么它们的差 C=A−B 也是一个 m×n 矩阵,其中 C 的每个元素 cij是 A 和 B 对应位置元素的差,即
设矩阵 AA 和 BB 分别为:
如果 A和 B 的维度相同,即 A 和 B都是 m×n 矩阵,那么它们的差 C=A−B也是一个 m×n矩阵,其中:
其中:
矩阵减法的性质
-
反交换律:矩阵减法不满足交换律,即 A − B ≠ B − A。
-
结合律:矩阵减法满足结合律,即 (A − B) − C = A − (B + C)。
-
零矩阵:零矩阵 O 在矩阵减法中扮演着类似于数字零的角色,即对于任何矩阵 A,有 A − O = A。
6.矩阵的数乘
矩阵的数乘(Scalar Multiplication)是指一个矩阵与一个标量(即一个实数或复数)相乘,结果是一个新的矩阵。具体来说,如果A 是
一个 m×n 的矩阵,k 是一个标量,那么它们的数乘 kA 也是一个 m×n 的矩阵,其中 kA 的每个元素是 A 对应位置元素与标量 k 的乘积。
设矩阵 A 为:
如果 k 是一个标量,那么矩阵A 与标量 k 的数乘 kA 是一个 m×n 的矩阵,即:
其中
矩阵提公因子:矩阵的所有元素均有公因子k,则k向外提一次。
行列式提公因子:行列式的某一行有公因子k,则k向外提一次。
矩阵数乘的性质
-
结合律:矩阵数乘满足结合律,即对于任何标量 k 和 l,以及任何矩阵 A,有 (kl)A = k(lA)=l(kA)。
-
分配律:矩阵数乘满足分配律,即对于任何标量 k 和 l,以及任何矩阵 A,有 (k+l)A = kA + lA。
-
标量乘法与矩阵加法的分配律:对于任何标量 k,以及任何矩阵 A 和 B,有 k(A+B) = kA + kB。
-
单位标量:标量 1 是矩阵数乘的单位元,即对于任何矩阵 A,有 1A=A。
-
零标量:标量 0 是矩阵数乘的零元,即对于任何矩阵 A,有 0A=O,其中 O 是零矩阵。
7.矩阵的乘法
矩阵的乘法是线性代数中的一个基本运算,它将两个矩阵相乘得到一个新的矩阵。
矩阵乘法的条件
两个矩阵A 和 B 能够相乘的条件是:矩阵 A 的列数必须等于矩阵 B 的行数。具体来说,如果矩阵 A 是 m×n 的矩阵(即 m
行 n 列),矩阵 B 是 n×p 的矩阵(即 n 行 p 列),那么它们可以相乘,并且乘积矩阵 C 将是 m×p 的矩阵。即乘积矩阵C的行数等于矩
阵A的行数,矩阵C的列数等于矩阵B的列数(中间相等,取两端)。
矩阵乘法的定义
设 A 是一个 m×n 的矩阵,B 是一个 n×p 的矩阵,那么它们的乘积 C=A×B 是一个 m×p 的矩阵,其中 C 的第 i 行
第 j 列的元素 cij 定义为:
其中 aik 是矩阵 A 的第i行第 k 列的元素,bk 是矩阵 B 的第 k 行第j 列的元素。
矩阵乘法的性质
-
结合律:对于任意三个矩阵 A、B 和 C,如果它们的维度使得乘法有意义,那么 (A×B)×C=A×(B×C)。
-
分配律:对于任意三个矩阵 A、B 和 C,如果它们的维度使得乘法有意义,那么 A×(B+C)=A×B+A×C 和 (A+B)×C=A×C+B×C。
-
单位矩阵:对于任意矩阵 A,如果存在一个单位矩阵 E(维度与A 相匹配),那么 A×E=E×A=A,注意两个E的维度不一定一样。
矩阵乘法不满足的性质
-
交换律:AXB一般不等于BXA,如矩阵A维度2x2,B维度2x3,AxB的维度=2x3,BxA则不能相乘,因为B的列数不等于A的行数。如果AXB等于BXA,则矩阵A和B是同阶的方阵,并称A和B是可交换的矩阵。
-
消去律:由AXB=AXC,不能推导出B=C
-
由AxB=O,不能推出A=O或B=O
8.矩阵的幂
矩阵的幂是指将一个矩阵自身相乘多次的操作。具体来说,如果 A 是一个 n×n 的方阵,那么 A 的 k 次幂 A^k 定义为 A 自身相乘 k 次的结
果。
定义
设 A 是一个 n×n 的方阵,那么 A 的 k 次幂 A^k 定义为:
其中 k 是一个正整数。
性质
矩阵幂具有以下性质:
-
结合律:对于任意正整数 k 和 l,
-
分配律:对于任意正整数 k 和 l,
(除非 AA 和 BB 是可交换的)例如A+B的平方:
如果A和B可交换,则AB=BA,所以
如果A和B不可交换,则AB与BA不等,则上述公式不能合并为2AB。
-
单位矩阵:对于任意方阵A,A^0=E,其中 E 是单位矩阵。
9.矩阵的转置
矩阵的转置(Transpose)是矩阵操作中的一种基本运算。它通过交换矩阵的行和列来生成一个新的矩阵。具体来说,如果 A 是一个
m×n 的矩阵,那么它的转置矩阵 A^T 是一个 n×m 的矩阵,其中 A^T 的第 i 行第 j 列的元素等于 A 的第 j 行第i 列的元素。
定义
设 A 是一个 m×n 的矩阵,其元素为 aij,那么 A 的转置矩阵 A^T 是一个 n×m 的矩阵,其元素为 aji。
性质
矩阵转置具有以下性质:
-
(A^T)^T = A:一个矩阵的转置的转置等于原矩阵。
-
(A + B)^T = A^T + B^T:两个矩阵和的转置等于它们各自转置的和。
-
(kA)^T = kA^T:一个矩阵乘以一个标量的转置等于该矩阵的转置乘以该标量。
-
(AB)^T = B^T A^T:两个矩阵乘积的转置等于它们各自转置的乘积,但顺序相反。
特殊矩阵
-
对称矩阵:如果一个矩阵 A 满足 A^T=A,那么 A 是对称矩阵。对称矩阵的元素关于主对角线对称。
-
反对称矩阵:如果一个矩阵 A 满足 A^T=−A,那么 A 是反对称矩阵。反对称矩阵的主对角线元素必须为零,且关于主对角线对称的元素互为相反数。
对称矩阵和反对称矩阵都是方阵。
矩阵A和B为同阶对称矩阵,AB对称的充要条件为AB=BA
10.方阵的行列式
要计算行列式的前提为矩阵A为方阵。
性质:A为n阶的方阵