这部分进入矩阵空间, 很多概念都和向量空间类似.
矩阵空间
我们可以想象一个空间, 它由矩阵组成, 而不是之前说的向量. 只要满足线性空间的封闭性原则即可.
将所有的 $3 \times 3$ 矩阵看做了一个线性空间，那么它的子空间有:
- 上三角矩阵
- 对称矩阵
- 对角矩阵。
仔细观察可以发现, 上三角矩阵与对称矩阵的交集为对角矩阵
初步了解一下矩阵空间的基, 看下面例子:
可以发现，任何三阶对角矩阵均可用这三个矩阵的线性组合生成，因此，他们生成了三阶对角矩阵空间，即这三个矩阵是三阶对角矩阵空间的一组基。
也可以换个角度看待矩阵空间的问题, 我们可以将矩阵看成若干列, 然后将这些列再组成一个长长的列, 那么这个列就等效于之前那个矩阵了. 然后我们就可以使用之前学过的向量空间的概念来理解矩阵空间了. 其实很多算法也是这么实现的.
基与维数
假设一个 $3 \times 3$ 矩阵，其矩阵空间 $M$
则 $M$ 的一组基为：
很容易知道, 维数就是 $9$ (九个基)
仔细看看就知道, 三阶对称矩阵空间有 $dim (S)=6$ 、上三角矩阵空间有 $dim (U)=6$、对角矩阵空间有 $dim (D)=3$
上三角矩阵与对称矩阵的交集为对角矩阵, 即 $S \cap U=D$, 而且其秩为 $3$.
那么并集呢? 回忆之前的介绍, 并集不能构成子集, 不过我们可以考虑另一个情况, 两个空间的和: $S + U$:
将 $S$ 与 $U$ 进行线性组合, 这个集合就是 $M$, 秩为 $9$.
秩一矩阵
对于矩阵:
行空间和列空间的维数都为 $1$，秩一矩阵都可以写为: $A=UV^T$，这里的$U$ 和 $V$ 都是列向量.
可以将秩一矩阵看成是”积木”, 用它可以搭建任何矩阵
秩一矩阵类似“积木”，可以搭建任何矩阵，如对于一个 $5 \times 17$ 秩为 $4$ 的矩阵，只需要 $4$ 个秩一矩阵就可以组合出来.
举一个例子,在 $R^4$ 中, 假设 $v=\begin{bmatrix}v_1\\v_2\\v_3\\v_4\end{bmatrix}$，$S$ 是满足条件 $v_1+v_2+v_3+v_4=0$ 的所有向量组成的空间.
为什么 $S$ 是一个空间呢? 因为 $v_1+v_2+v_3+v_4=0$ 这个特点说明它对加法和数乘封闭, 而且 $S$ 包含零.
从上面秩一矩阵的方法来看，$v_1+v_2+v_3+v_4=0$ 等价于:
$S$ 就成为了 $A=\begin{bmatrix}1&1&1&1\end{bmatrix}$ 的零空间。
$rank(A)=1$，它的零空间的维数就是 $n-r=3$
