线性代数直觉（六）：向量通过矩阵
让我们换个角度来谈谈向量和矩阵。暂时先忘掉正式的定义，我们先从矩阵的作用开始。
矩阵是一种变换，它接受一个向量，并将其变换成另一个向量。就像一台机器：输入一个向量，输出另一个向量。
大多数情况下，当一个向量通过矩阵时，两件事会改变：
向量指向的方向
向量的长度
但对于特殊的向量，特征向量，只有长度会改变。方向保持不变（或完全相反）。
想象一下，你有一个拉伸空间的变换。大多数向量都会被旋转和拉伸。但是特征向量呢？它们只会沿着自身的方向拉伸。不会旋转。
它们被拉伸的量就是特征值。
所以：特征向量 = 在变换下不旋转的特殊方向
特征值 = 在该方向上的拉伸（或压缩）程度
特征向量是变换中的“纯方向”。矩阵沿这些轴作用最为简单。
与特征向量对齐是否能实现最大拉伸？问得好，但并不完全正确。
不同的特征向量可以有不同的特征值。因此，一个特征向量可能拉伸 5 倍，另一个可能拉伸 2 倍，甚至可能压缩（特征值小于 1）。
解释一下：具有最大特征值的特征向量给出了最大拉伸的方向。但也可能存在其他拉伸较小的特征向量（或者压缩，如果特征值为负，甚至翻转）。
想象一个有两个特征向量的变换：
∙ 第一个特征向量：拉伸 5 倍（特征值 = 5）
∙ 第二个特征向量：拉伸 2 倍（特征值 = 2）
第一个特征向量是“主导”方向，最大拉伸发生在那里。
如果你的向量与任何特征向量都不重合呢？那么是的——你会以某种复杂的组合方式进行旋转和拉伸，这种组合方式难以描述。
特征向量是清晰、纯粹的方向。其他一切都是杂乱的组合。
大多数矩阵都有多个特征向量，通常特征向量的数量与空间的维度相同。解释如下：
对于 2×2 矩阵（作用于二维空间）：通常有 2 个特征向量
对于 3×3 矩阵（作用于三维空间）：通常有 3 个特征向量
对于 n×n 矩阵：通常有 n 个特征向量
而且这些特征向量指向不同的方向，不是同一个方向！每个特征向量都是变换的一个不同的“纯方向”。
想象一个二维变换矩阵：
∙ 将水平方向拉伸 3 倍
∙ 将垂直方向拉伸 2 倍
那么：
∙ 第一个特征向量：指向水平方向（特征值 = 3）
∙ 第二个特征向量：指向垂直方向（特征值 = 2）
两个不同的方向，两个不同的拉伸因子。
这些特征向量共同构成了一个完整的坐标系，一种看待空间的新方式，其中变换仅沿每个轴作用。
没错！每个矩阵都有自己的坐标系，这是个绝妙的表达！
为什么特征向量不会旋转？它们与变换的“自然轴”对齐，所以只会沿着自身方向拉伸，不会受到其他方向的影响。
关键在于，当你了解一个矩阵的所有特征向量和特征值时，你就完全理解了这个矩阵的作用。你可以将其完全分解。
这被称为特征分解（eigendecomposition）或谱分解（spectral decomposition）：
任何向量都可以表示为特征向量的组合。当矩阵作用于该向量时，每个特征向量分量都会乘以其特征值。没有旋转，只有沿着每个特征方向的纯粹缩放。
因此，特征向量揭示了矩阵的“真实本质”，它的骨架，它剥离了坐标系痕迹后的基本结构。