跳转至

转置、置换和向量空间⚓︎

约 1388 个字 预计阅读时间 5 分钟

大纲

  1. 置换矩阵
  2. 转置矩阵和对称矩阵
  3. 向量空间（重难点）
  4. 子空间（重难点）
  5. 通过矩阵的列向量构造一个子空间

置换矩阵⚓︎

在MIT线性代数第四章 最后的部分已经讲过其基本的定义了，这里略过。一般来说，置换矩阵用 \(P\) 表示。具体用到它的时候是：消元过程中，\(0\) 出现在主元位置，这个时候就需要把非\(0\)行换上来。

比如，现在在处理A = LU 的时候，如果需要行互换，原公式需要改写成： \(PA = LU\)。

对于任何可逆的矩阵\(A\)，都有\(PA = LU\)。

转置矩阵（transpose）⚓︎

\(R = \begin{bmatrix} 1 & 3 \\ 2 & 3 \\ 4 & 1 \end{bmatrix}^T \rightarrow \begin{bmatrix} 1 & 2 & 4 \\ 3 & 3 & 1 \end{bmatrix} \rightarrow (A^T)_{ij} = A_{ji}\)

转置矩阵是一类应用很广，性质很好的矩阵。根据转置矩阵的定义，我们可以给出对称矩阵（Symmetric matrix）的定义：

满足\(A^T = A\) 的矩阵\(A\)就是对称矩阵。

实际上，你可以通过任意一个矩阵创造出一个对称矩阵来。例如 \(\begin{bmatrix} 1 & 3 \\ 2 & 3 \\ 4 &1 \end{bmatrix}\)

方法：用这个矩阵乘以这个矩阵的转置矩阵。

\(\begin{bmatrix} 1 & 3 \\ 2 & 3 \\ 4 &1 \end{bmatrix} \begin{bmatrix} 1 & 2 &3 \\ 3 & 3 & 1 \end{bmatrix} = \begin{bmatrix} 10 & 11 & 7 \\ 11 & 13 & 11 \\ 7 & 11 & 17 \end{bmatrix}\)

证明：假设原矩阵为 \(R\)，结果即为 \(R^TR\)，结果的转置：\((R^TR)^T = R^TR^{TT} = R^TR\)。也就证明了 \(R^TR\) 是一个对称矩阵。

向量空间⚓︎

什么是“向量空间（vector space）”？

什么是“空间”？

空间必须要允许加法和数乘运算；空间可以进行线性组合。Space的意思是a bunch of vectors, a space of vectors. 但是并不是any bunch of vectors. Space是一些向量的组合，但是并不是任意向量的组合。这个空间必须满足一定的规则，空间里的向量必须是能进行线性组合。换句话说，空间中的向量线性组合后，还在空间里。

首先回顾一下向量有哪些运算：加法；数乘。（这两个结合起来就是“线性组合”（就是先数乘后加法的结合））。向量空间就是一种向量的集合，集合满足：其中的向量 \(v\) 和 \(w\)，其向量加法、数乘的结果，依然在这个集合中。正因为要满足数乘，所以向量空间一定需要包括原点。

向量空间就是一些向量的集合，它们对加法、数乘封闭。

举个例子

\(\mathbb{R}^2\): 二维实向量组成的向量空间。（\(\begin{bmatrix} 3 \\ 2 \end{bmatrix} \begin{bmatrix} 0 \\ 0 \end{bmatrix} \begin{bmatrix} \pi \\ e \end{bmatrix}\) 等），这些二维向量组成了 "x-y平面"。

\(\mathbb{R}^3\): 三维实向量组成的向量空间。

\(\mathbb{R}^n\): \(n\)维实向量组成的向量空间。这里面每个向量都是具有 \(n\) 个实数分量。

一些不是向量空间的例子：

\(\mathbb{R}^2\) 的第一象限。我们在里面取一个 \(\begin{bmatrix} a \\ b \end{bmatrix} \times (-1)\)， 结果不在第一象限内，所以它不是一个向量空间，它对于实数的数乘是不封闭的。

子空间⚓︎

\(R^n\)肯定是最重要的向量空间，但是我们其实更关心的是\(R^n\)内部的向量空间。这些内部的向量空间满足规则，又无需包含所有向量，是经常出现的。

子空间（Subspace）是什么：是向量空间中（inside）的一种空间，其自身也构成一种向量空间。

子空间举例

\(\mathbb{R}^2\) 中一条过原点的直线：是一个向量空间。为什么？ 1. 一定要经过原点；不然无法封闭 \(0 \times \begin{bmatrix} a \\ b \end{bmatrix}\). 2. 在这个直线上，向量加法的结果一定还在这个直线上，数乘运算也是。

当然了，所有向量空间 / 子空间都必须包含原点。

根据上面的做法我们其实可以把所有的 \(\mathbb{R}^2\) 中的子空间罗列下来。

  1. \(\mathbb{R}^2\) 自身；
  2. 任何经过原点的直线都构成\(\mathbb{R}^2\)的子空间。
  3. \(\begin{bmatrix} 0 \\ 0 \end{bmatrix}\)

注意把它和\(\mathbb{R}^1\) 空间做区分，虽然\(\mathbb{R}^1\)空间也是一个直线（想象一下初中的数轴），但是\(\mathbb{R}^2\)的直线都有两个分量，而\(\mathbb{R}^1\)只有一个。

如果你接着套娃还可以进一步把所有\(\mathbb{R}^3\)的子空间罗列下来。

  1. \(\mathbb{R}^3\) 自己；
  2. 一个过 \(\begin{bmatrix} 0 \\ 0 \\ 0 \end{bmatrix}\) 的直线；
  3. 一个过 \(\begin{bmatrix} 0 \\ 0 \\ 0 \end{bmatrix}\) 的平面；
  4. \(\begin{bmatrix} 0 \\ 0 \\ 0\end{bmatrix}\)

通过矩阵的列向量构造一个子空间⚓︎

\(\begin{bmatrix} 1 & 3 \\ 3 & 3 \\ 4 & 1 \end{bmatrix}\)，它的两列都在 \(\mathbb{R}^3\) 中，它们的和、乘以任何实数的结果也在 \(\mathbb{R}^3\) 中，这两列所有的线性组合构成了一个子空间，称作： \(A\) 矩阵的列空间，记作\(C(A)\)。在图像上，这个空间实际上是一个经过原点的平面。

Take columns, the linear combination form a column subspace.

简短总结

  1. 这一讲的核心思想：通过某些向量构成一个空间，这些向量线性组合的结果依然在这个空间内，那么就构成一个向量空间。

  2. 通过矩阵列向量构造一个列空间，这是从更高的维度来审视线性代数了。