矩阵分析与多元统计1 线性空间与线性变换3

线性变换

从线性空间 $V$到它自身的线性映射叫做线性变换，在基 $\alpha_1,\cdots,\alpha_n$下表示线性变换为
$\mathcal{A}(\alpha_1,\cdots,\alpha_n) = (\alpha_1,\cdots,\alpha_n)A$
线性变换的加、减、乘积、数乘与逆都是线性变换，他们的矩阵表示就是这些线性变换的加、减、乘积、数乘与逆。

假设 $\alpha_1',\cdots,\alpha_n'$是线性空间中的另一组基，从 $\alpha_1,\cdots,\alpha_n$到 $\alpha_1',\cdots,\alpha_n'$的过渡矩阵为 $P$，线性变换在基 $\alpha_1,\cdots,\alpha_n$下的矩阵表示为 $B$，则
$B = P^{-1}AP$
此时称矩阵 $A$与 $B$相似，记为 $A \sim B$，矩阵相似是一种二元关系。

线性空间的同构

假设 $\sigma$是线性空间 $V_1$到 $V_2$的线性一一对应，则称 $V_1$与 $V_2$同构， $\sigma$是 $V_1$到 $V_2$的同构映射。

定理 数域 $F$上两个有限维线性空间同构的充要条件是他们的维数相等。

这个定理的意义相当重要，这说明我们在研究线性空间的时候不用在意线性空间的构造以及线性运算的定义，只需要关注线性空间这种代数结构的普适性质。

线性变换的特征值与特征向量

$\mathcal{A}:V \to V$是数域 $F$上的线性变换， $\exists \alpha \ne 0$
$\mathcal{A}(\alpha) = \lambda_0 \alpha,\lambda_0 \in F$
称 $\lambda_0$是 $\mathcal{A}$的特征值， $\alpha$是属于 $\lambda_0$的一个特征向量。假设 $\alpha$在基 $\alpha_1,\cdots,\alpha_n$中的坐标为 $x=[x_1,\cdots,x_n]'$，则
$\alpha = (\alpha_1,\cdots,\alpha_n)x$
如果线性变换 $\mathcal{A}$的矩阵表示为 $A$，则
$\mathcal{A}(\alpha) = (\alpha_1,\cdots,\alpha_n)A$
根据特征值的定义
$(\alpha_1,\cdots,\alpha_n)Ax = \lambda_0 (\alpha_1,\cdots,\alpha_n)x$
因为 $\alpha_1,\cdots,\alpha_n$线性无关，因此
$Ax = \lambda_0 x$
这个方程给说明特征向量满足 $(\lambda_0 I_n - A)X=0$，并且是这个齐次线性方程的非零解，而这个齐次线性方程有非零解的条件为 $|\lambda_0 I_n -A|=0$。注意到
$|\lambda_0 I_n -A| = \lambda_0^n - E_1(A)\lambda_0^{n-1} +E_2(A) \lambda_0^{n-2}+\cdots + (-1)^n E_n(A) \lambda_0^0$
其中 $E_1(A),\cdots,E_n(A)$的系数，他们依次是 $A$的 $1,2,\cdots,n$阶子式之和，比较特殊的是
$E_1(A) = trA,E_2(A) = \det(A)$

称 $\lambda I_n - A$是矩阵 $A$的特征矩阵， $|\lambda I_n - A|$是矩阵 $A$的特征多项式， $|\lambda I_n - A|=0$是矩阵 $A$的特征方程，它的根是矩阵 $A$的特征值。某个特征值 $\lambda_0$对应的 $(\lambda_0 I_n - A)X=0$的解是矩阵 $A$属于特征值 $\lambda_0$的特征向量。 $n$阶多项式方程有 $n$个根（复数域上），称这 $n$个根是矩阵 $A$的谱，记为 $\lambda(A)$。

关于特征值与特征向量有两个重要性质：

1. 相似矩阵有相同的特征值，比如 $\exists B = P^{-1}AP$， $A$和 $B$有相同特征值；
2. 假设 $\xi$是 $A$的属于特征值 $\lambda$的特征向量，则 $P^{-1}\xi$是 $B$的属于特征值 $\lambda$的特征向量。

证明
假设 $\lambda_0 \in F$满足 $Ax = \lambda_0 x,\exists x$，记 $y = P^{-1}x$，则
$APy = P\lambda_0 y \Rightarrow By = P^{-1}APy = P^{-1}P \lambda_0 y = \lambda_0 y, \exists y$
证毕

几何重数与代数重数

假设 $A$的谱为 $\lambda_1,\cdots,\lambda_r$对应的重根数为 $p_1,\cdots,p_r$，则
$p_1+\cdots+p_r = n$
称 $p_1,\cdots,p_r$为代数重数。属于特征值 $\lambda_i,i=1,\cdots,r$的特征向量张成的子空间叫做 $A$的属于特征值 $\lambda_i$的特征子空间，记为 $V_{\lambda_i}$，定义 $q_i = \dim V_{\lambda_i}$，称 $q_i,i=1,\cdots,r$为几何重数。 $A$的特征向量有如下性质：

1. 属于不同特征值的特征向量线性无关；
2. $q_i \le p_i,\forall i$