人工智能之机器学习线代基础——特征值

1. 特征值和矩阵秩的关系

对于一个 n×n 的矩阵 A，特征值和秩有以下关系：

1. 非零特征值的个数等于矩阵的秩：
   • 矩阵的秩等于其非零特征值（考虑重数）的数量。
2. 零特征值的存在与秩的关系：
   • 若矩阵 A 有零特征值，则说明 A 是奇异的，秩小于 n。

公式化关系

设矩阵 A 的特征值为 λ1,λ2,…,λn，矩阵的秩 rank(A)满足：

rank(A)=n−dim(ker⁡(A))=n−(零特征值的个数).

在矩阵的上下文中，ker⁡(A) 是矩阵 A 的核空间（Kernel Space），也称为零空间（Null Space），它表示在矩阵 A 的线性变换下被映射到零向量的所有输入向量的集合。

2. 示例矩阵

我们来构造一个矩阵，既可以计算特征值，又可以验证其秩。

矩阵示例

矩阵 A：

(1) 计算特征值

求解特征值需要解矩阵的特征方程：

 其中：

 特征方程：

 展开行列式：

det(A−λI) = (4−λ) [ (4−λ)(4−λ) − 2⋅2 ]   −  2 [ 2(4−λ) − 2⋅2 ]  +  2 [ 2⋅2 − (4−λ)⋅2 ].

化简：

det(A−λI)=(4−λ)[(4−λ)²−4]  −  4(4−λ−2)  +  4(2−(4−λ)).

进一步整理得：

det(A−λI)=−λ³+12λ²−36λ.

提取公因式：

det(A−λI)=−λ(λ²−12λ+36).

因式分解：

det(A−λI)=−λ(λ−6)².

特征值为：

λ_1​=0,λ_2​=6,λ₃​=6.

(2) 验证矩阵的秩

根据特征值与秩的关系：

• 非零特征值有 2 个（λ₂=6,λ₃=6）。
• 矩阵的秩为 2。

我们可以通过行变换直接验证： 

 将第 2 行减去第 1 行的 0.5 倍：

 将第 3 行减去第 1 行的 0.5 倍：

将第 3 行减去第 2 行的 1/3倍：

 矩阵有 3 个主元，因此秩为 3。

3. 应用场景

• 特征值与秩的联系：
  • 特征值分布可以直观地描述矩阵的秩；
  • 零特征值的个数表示矩阵的零空间维数。
• 数值验证：
  • 通过特征值计算可以快速判断矩阵是否满秩；
  • 特征值为零说明矩阵降秩。