特征值分解外积展开：原理、实现与应用

1. 特征值分解的外积展开：矩阵分析的瑞士军刀

第一次接触特征值分解的外积展开形式时，那种醍醐灌顶的感觉至今难忘。就像突然获得了一把万能钥匙，能够解开各种复杂的矩阵结构。这种表达方式不仅数学上优雅，在实际应用中更是展现出惊人的实用性——从图像压缩到推荐系统，从量子力学到金融风险分析，它无处不在。

特征值分解的标准形式A = PDP⁻¹大家都很熟悉，但外积展开A = Σλᵢuᵢvᵢᵀ才是真正体现其几何本质的表达。想象一下，一个复杂的线性变换被分解为一系列"方向拉伸"操作的叠加，每个特征向量代表一个方向，对应的特征值就是拉伸系数。这种直观理解在数据分析、信号处理等领域具有不可替代的价值。

2. 数学基础与几何解释

2.1 特征值分解的标准形式回顾

任何可对角化的n×n矩阵A都可以表示为：

A = PDP⁻¹

其中P是由特征向量组成的矩阵，D是对角线上排列特征值的对角矩阵。这个表达式虽然简洁，但隐藏了矩阵作用的几何本质。

2.2 外积展开的推导过程

从标准形式出发，我们可以进行如下推导：

1. 将P的列向量记为u₁,u₂,...,uₙ（右特征向量）
2. P⁻¹的行向量记为v₁ᵀ,v₂ᵀ,...,vₙᵀ（左特征向量）
3. 则A = P D P⁻¹ = [u₁ u₂ ... uₙ] diag(λ₁,...,λₙ) [v₁ᵀ; v₂ᵀ; ... ; vₙᵀ]
4. 展开矩阵乘法得到：A = Σ λᵢ uᵢ vᵢᵀ (i从1到n)

这个推导揭示了特征值分解的"原子结构"——每个λᵢuᵢvᵢᵀ都是一个秩1矩阵，整个矩阵就是这些秩1矩阵的加权和。

2.3 几何意义可视化

想象在三维空间中：

• 每个uᵢvᵢᵀ定义了一个"作用方向"
• λᵢ决定了在这个方向上的缩放程度
• 矩阵对任意向量x的作用就是：x在各个uᵢ方向的分量被λᵢ倍放大后，再按vᵢ方向重组

这种解释在理解主成分分析(PCA)时特别有用，PCA本质上就是保留最大的几个λᵢuᵢvᵢᵀ项来近似原矩阵。

3. 数值计算与算法实现

3.1 基本算法步骤

实现特征值分解的外积展开需要以下步骤：

1. 计算特征值和特征向量：
   • 使用QR算法或Jacobi方法计算所有特征值λᵢ
   • 对每个λᵢ求解(A - λᵢI)x = 0得到右特