特征方程: $\det(\lambda I - A) = (\lambda-2)^2 - 1 = 0$ → $\lambda^2 - 4\lambda + 3 = 0$
$\lambda_{1} = 3$, $v_{1} = (1,1)^T$；$\lambda_{2} = 1$, $v_{2} = (1,-1)^T$
两个特征值都 > 0，且 $A$ 对称，所以 $A$ 正定。
如果把矩阵看作线性变换，特征值就是拉伸系数，特征向量就是拉伸方向——这是理解 Kalman Filter 一切数学的起点。
💡 建议先看 0000–0003 建立 KF 学习的动机，再进入本讲。
矩阵 $A \in \mathbb{R}^{n \times n}$ 可以看作一个线性变换：它将一个向量 $v$ 映射为 $Av$。变换的效果可能是旋转、拉伸、剪切或者它们的组合。
💡 核心直觉：特征向量 $v_{i}$ 是"被 $A$ 变换后方向不变的向量"，特征值 $\lambda_{i}$ 是对应的"拉伸倍数"。
也就是说：在 $v_{i}$ 这个方向上，矩阵 $A$ 的效果退化为标量乘法。
考虑 $A = \begin{bmatrix}0 & -1 \\ 1 & 0\end{bmatrix}$（旋转 90°）。任何非零向量被旋转后方向都变了，所以没有实特征值。
解特征多项式得到 $n$ 个特征值（可能有重复、可能有复数）。
$$ \sum_{i=1}^n \lambda_{i} = \operatorname{Tr}(A) $$
$$ \prod_{i=1}^n \lambda_{i} = \det(A) $$
| 变换 | 特征值变化 |
|---|---|
| $A^{-1}$ | $\{\lambda_{i}^{-1}\}$ |
| $A^{T}$ | $\{\lambda_{i}\}$（相同） |
| $A^{2}$ | $\{\lambda_{i}^{2}\}$ |
| $A^{k}$ | $\{\lambda_{i}^{k}\}$ |
| $cI + A$ | $\{c + \lambda_{i}\}$ |
这些性质后面在分析系统稳定性时非常有用——KF L3 会用到。
如果 $A$ 有 $n$ 个线性无关的特征向量，则 $A$ 可以对角化：
其中 $P$ 的列是特征向量。
⚠️ 注意：并非所有矩阵都可对角化。
这个矩阵只有一个特征向量 $(1,0)^T$，无法张成二维空间。如果能对角化，则 $P^{-1}AP = I \Rightarrow A = I$，矛盾！
🔗 连接 KF：谱分解是理解系统稳定性的关键——$A^k = P D^k P^{-1}$，因此 $x_{k} \to 0$ 当且仅当所有 $|\lambda_{i}| < 1$。
SVD 是线性代数中最优美的分解之一，适用于任何矩阵（不要求方阵、不要求可对角化）：
其中 $\sigma_{i}$ 是奇异值（$A A^T$ 的特征值的平方根），$U$ 和 $V$ 是正交矩阵。
💡 三层理解：
施老师在课堂上用 SVD 做低秩近似：只保留前 $k$ 个最大的奇异值：
这在图像压缩、PCA、数据降维中都是核心思想。
设 $A \in \mathbb{R}^{n \times n}$ 是对称矩阵。
| 性质 | 定义 | 特征值条件 |
|---|---|---|
| 正定 (p.d.) | $x^T A x > 0,\; \forall x \neq 0$ | $\lambda_{i} > 0$ |
| 半正定 (p.s.d.) | $x^T A x \ge 0,\; \forall x \neq 0$ | $\lambda_{i} \ge 0$ |
🌰 通俗例子：$A = \begin{bmatrix}1 & 0 \\ 0 & 1\end{bmatrix}$ 是正定的。因为 $x^T A x = x_{1}^2 + x_{2}^2 > 0$ 对任意非零 $x$ 成立。而 $A = \begin{bmatrix}1 & 1 \\ 0 & 1\end{bmatrix}$ 不是正定的——它不对称！
🔗 连接 KF：协方差矩阵一定是半正定的（$P \ge 0$）。正定性保证了二次型优化有唯一最小值——KF L3 中你会看到 $P$ 的正定性如何影响 Kalman Gain 的计算。
如果 $A$ 是半正定矩阵，则存在下三角矩阵 $L$（实对角元非负）使得：
Cholesky 分解将求解转化为两步回代（无需计算逆矩阵）：
不断对右下角子矩阵递归，直到 $n \to 1$。这是数值线性代数的经典算法。
设 $A \in \mathbb{R}^{n \times m}$，$B \in \mathbb{R}^{m \times n}$，$n > m$。则：
说明 $AB$ 有 $n$ 个特征值，其中 $n-m$ 个为零；$BA$ 有 $m$ 个非零特征值，与 $AB$ 的相同。
构造相似变换 $P^{-1}MP$，其中 $P = \begin{bmatrix} I_n & A \\ 0 & I_m \end{bmatrix}$，$M = \begin{bmatrix} AB & 0 \\ B & 0 \end{bmatrix}$：
这里 $P$ 可逆，故 $M$ 与 $\begin{bmatrix} 0 & 0 \\ B & BA \end{bmatrix}$ 相似，特征值相同。
两个矩阵相似，故特征值相同。于是 $\lambda(AB) \cup \{0\} = \lambda(BA) \cup \{0\}$。
推论：$\operatorname{Tr}(AB) = \operatorname{Tr}(BA)$。更一般地，$\operatorname{Tr}(ABCD) = \operatorname{Tr}(DABC)$（循环不变性）。
💡 直觉：这个引理在后面矩阵求逆引理（KF L2）的推导中非常关键。
【数值计算】给定 $A = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$，求其特征值和特征向量，并判断 $A$ 是否正定。
特征方程: $\det(\lambda I - A) = (\lambda-2)^2 - 1 = 0$ → $\lambda^2 - 4\lambda + 3 = 0$
$\lambda_{1} = 3$, $v_{1} = (1,1)^T$；$\lambda_{2} = 1$, $v_{2} = (1,-1)^T$
两个特征值都 > 0，且 $A$ 对称，所以 $A$ 正定。
【正定性判断】为什么协方差矩阵 $\Sigma = E[(X-\mu)(X-\mu)^T]$ 一定是半正定的？
对任意 $y \neq 0$，$y^T \Sigma y = E[y^T(X-\mu)(X-\mu)^T y] = E[(y^T(X-\mu))^2] \ge 0$。平方的期望非负，所以半正定。
【推导】若 $A$ 正定，证明 $A^{-1}$ 也正定。（板书留作 homework）
$A$ 正定 $\Rightarrow$ $\lambda_{i}(A) > 0$ $\Rightarrow$ $\lambda_{i}(A^{-1}) = 1/\lambda_{i}(A) > 0$。对称性继承，所以 $A^{-1}$ 正定。
【编程思考】用 Python/NumPy 对随机生成的数据矩阵做 SVD，观察奇异值的衰减速度。保留前 $k$ 个奇异值重构原矩阵，看看重构误差如何随 $k$ 变化。
特征向量是"不变方向"，特征值是"拉伸倍数"。
$A = U\Sigma V^T$：旋转→拉伸→旋转。任何矩阵都能分解。
对称矩阵 + 所有特征值 > 0 = 正定。协方差矩阵天然半正定。
👉 下节预告：KF L2 将学习矩阵求逆引理（MIL）——这是后面推导 Kalman Gain 的关键工具。你会看到 MIL 如何把"大矩阵求逆"转化为"小矩阵求逆"，大幅降低计算量。
施老师大课堂 · 研讨会系列 4 · KF L1 矩阵特征值、SVD 与正定性
字幕来源：subtitles/20251115_施凌_研讨会系列4_KF_L1_audio_34eaee802b23f1a1.srt
板书来源：pdf-md/20251122_施凌_研讨会系列4_KF_L1 md文档/