biscuitの博客

速通#

矩阵 $A: \mathbb{R}^{m \times n},rank(A)=r$

直和分解关系：

• 列空间 Col($A$)：所有 $Ax$ 的集合（A能产生的所有输出）
• 零空间 Null($A$)：所有满足 $Ax=0$ 的解
• 行空间 Row($A$)：A的行向量张成的空间
• 左零空间 Null($A^T$)：所有满足 $A^T y=0$ 的向量

简单来说，线性空间不仅仅是一堆箭头的集合，它是一套游戏规则。只要满足这套规则的数学对象（无论是坐标、函数、矩阵还是多项式），我们都可以用统一的线性代数语言去处理它们。

线性空间的定义#

线性空间是一个由 “加法” 和 “数乘” 定义的封闭世界：

设 $V$ 是一个非空集合，$F$ 是一个数域：

1. 存在加法运算：对 $V$ 中任意两个元素 $\alpha$ 与 $\beta$，在 $V$ 中都有唯一的元素 $v$ 与之相对应， 称之为 $\alpha$ 与 $\beta$ 的和，记为 $v = \alpha + \beta$，且满足下面四条法则：

   • a) 交换律：$\alpha + \beta = \beta + \alpha$
   • b) 结合律：$\alpha + (\beta + \gamma) = (\alpha + \beta) + \gamma$，其中 $\gamma \in V$
   • c) 零元素：在 $V$ 中有一元素 $0$，对于 $\forall \alpha \in V$，$\alpha + 0 = \alpha$
   • d) 负元素：对于 $\forall \alpha \in V$，都存在 $\beta \in V$，使得 $\alpha + \beta = 0$
   • 注意这里的 0 是指零元素（0 ∈ V）

2. 存在数乘运算：对 $V$ 中任意元素 $\alpha$ 与 F 中任意元素 $k$，在 $V$ 中都有唯一的元素 $\eta$ 与 它们相对应，称之为 $\alpha$ 与 $k$ 的数乘，记为 $\eta = k \cdot \alpha = k\alpha$，且满足下面四条法则：

   • a) 数 1 的乘法：$1 \cdot \alpha = \alpha$
   • b) 数域 F 中的乘法关系：$k(l\alpha) = (kl)\alpha$
   • c) 对 F 中数的加法分配律：$(k + l)\alpha = k\alpha + l\alpha$
   • d) 对 V 中元素的加法分配律：对于 $k(\alpha + \beta) = k\alpha + k\beta$
   • 其中，$k, l$ 为数域 $F$ 中的任意数，$\alpha$, $\beta$ 为集合 $V$ 中的任意元素。

线性映射#

假设 $V$ 和 $W$ 为 $F$ 上的线性空间。若存在函数 $T : V \rightarrow W$，满足下列的齐次和可加性：

1. 对任意的 $\alpha, \beta \in V$，均有 $T(\alpha + \beta) = T(\alpha) + T(\beta)$。
2. 对任意的 $\alpha \in V$，$k \in F$，均有 $T(k\alpha) = kT(\alpha)$。

称 $T$ 为 $V$ 到 $W$ 的线性映射

矩阵张成的空间#

NOTE

注意这里定义列空间的时候并没有强调矩阵 $A$ 列向量的相关性，因为无论列向量是否相关，列空间都是由这些列向量的线性组合构成的。 其他空间同理

• 列空间/值域空间：包含了 $A$ 列向量所有可能的组合，维度由秩决定，属于 $R^m$

• 行空间：包含了 $A^T$ 列向量（$A$ 行向量）所有可能的组合,维度由秩决定，属于 $R^n$

• (右)零空间: $A\mathbf{x} = 0$ 的所有解$\mathbf{x}$所构成的空间，维度是 $n-r$ ，属于 $R^n$：

• 左零空间: $A^T\mathbf{x} = \mathbf{0}$ 且 $\mathbf{x}^T A = \mathbf{0}^T$ 的所有解 $\mathbf{x}$ 所构成的空间，维度是 $m-r$ ，属于 $R^m$：

The Big Picture#

这个图揭示了任何矩阵 $A$ 背后的四个核心子空间，以及它们如何精妙地分布在输入空间 $\mathbb{R}^n$ 和输出空间 $\mathbb{R}^m$ 中。