1.2. 线性子空间

1.2.1. 线性子空间

什么是线性子空间

Definition 1.5 (线性子空间)

设 \({\mathbb V}_1\) 是数域 \({\mathbb K}\) 上的线性空间 \({\mathbb V}\) 的非空子集，若对任意的 \(k\in {\mathbb K}\)，\({\bm x}, {\bm y} \in {\mathbb V}_1\)，满足 \({\mathbb V}\) 中加法与数乘运算的封闭性，则称 \({\mathbb V}_1\) 是 \({\mathbb V}\) 的 线性子空间 (Linear Subspace) ，即满足：

  1. 加法运算\(\oplus\)封闭性: \({\bm x} \oplus {\bm y} \in {\mathbb V}_1\)

  2. 数乘运算\(\odot\)封闭性: \(k \odot {\bm x} \in {\mathbb V}_1\)

注解

举例: 对于三维欧式线性空间 \({\mathbb V}^3\) :

  1. \({\mathbb V}^3\) 中的任意一条直线构成其子空间 \({\mathbb V}_1\)

  2. \({\mathbb V}^3\) 中的任意两条不同的直线不构成其子空间

../../../_images/xxzkjsl.png

子空间的运算及其性质

设\({\mathbb V}_1 , {\mathbb V}_2\) 是 \({\mathbb V}\) 的子空间，定义如下三种运算：

  • 交(\(\cap\)): \({\mathbb V}_1 \cap {\mathbb V}_2\);

  • 并(\(\cup\)): \({\mathbb V}_1 \cup {\mathbb V}_2\);

  • 和(\(+\)): \({\mathbb V}_1 + {\mathbb V}_2\).

性质：

  • \({\mathbb V}_1 \cap {\mathbb V}_2 \subseteq {\mathbb V}_1 \cup {\mathbb V}_2 \subseteq {\mathbb V}_1 + {\mathbb V}_2\)

  • \({\mathbb V}_1 \cap {\mathbb V}_2 = {\mathbb V}_2 \cap {\mathbb V}_1\), \(({\mathbb V}_1 \cap {\mathbb V}_2) \cap {\mathbb V}_3 = {\mathbb V}_1 \cap ({\mathbb V}_2 \cap {\mathbb V}_3)\)

  • \({\mathbb V}_1 + {\mathbb V}_2 = {\mathbb V}_2 + {\mathbb V}_1\), \(({\mathbb V}_1 + {\mathbb V}_2) + {\mathbb V}_3 = {\mathbb V}_1 + ({\mathbb V}_2 + {\mathbb V}_3)\)

  • 交(\(\cap\)): \({\mathbb V}_1 \cap {\mathbb V}_2\) 是 \({\mathbb V}\) 的子空间;

  • 和(\(+\)): \({\mathbb V}_1 + {\mathbb V}_2\) 是 \({\mathbb V}\) 的子空间.

  • 并(\(\cup\)): \({\mathbb V}_1 \cup {\mathbb V}_2\) 不是 \({\mathbb V}\) 的子空间;

  • 维数公式:

    \[\underbrace{\dim {{\mathbb V}_1} }_{n_1} + \underbrace{\dim {{\mathbb V}_2} }_{n_2} = \underbrace{\dim ({{\mathbb V}_1} + {{\mathbb V}_2}) }_n + \underbrace{\dim ({{\mathbb V}_1} {\cap} {{\mathbb V}_2}) }_m \]

注解

举例：

  • \({\mathbb V}_1\): \(x\) 轴上的点

  • \({\mathbb V}_2\): \(y\) 轴上的点

  • \({\mathbb V}_1 \cap {\mathbb V}_2\): 原点

  • \({\mathbb V}_1 \cup {\mathbb V}_2\): \(x\) 轴和 \(y\) 轴上的点

  • \({\mathbb V}_1 + {\mathbb V}_2\): 二维平面

  • 维数公式： \(n_1 + n_2 = n + m \Rightarrow 1 + 1 = 2 + 0\)

1.2.2. 直和

什么是直和

和的特例，即存在唯一分解.

Definition 1.6 (直和)

若\(\forall {\bm z} \in {\mathbb V}_1 + {\mathbb V}_2\), 有唯一的 \({\bm x}\in {\mathbb V}_1, {\bm y}\in {\mathbb V}_2\), 则称 \({\mathbb V}_1 + {\mathbb V}_2\) 为 直和 (Direct Sum) , 记为 \({\mathbb V}_1 + {\mathbb V}_2\) 或 \({\mathbb V}_1 \oplus {\mathbb V}_2\).

性质

  • \({\mathbb V}_1 \oplus {\mathbb V}_2 \Leftrightarrow {\mathbb V}_1 \cap {\mathbb V}_2 = L({\bm 0}) \Leftrightarrow {\dim} ({\mathbb V}_1) + {\dim} ({\mathbb V}_2) = {\dim} ({\mathbb V}_1+{\mathbb V}2)\)

1.2.3. 生成的子空间

什么是生成子空间

Definition 1.7 (生成子空间)

设 \({\bm x}_1, {\bm x}_2, \cdots, {\bm x}_m\) 是数域 \({\mathbb K}\) 上的线性空间 \({\mathbb V}\) 上的一组向量, 其所有线性组合的集合

\[{\mathbb V}_1 = \left \{ {k_1 {\bm x}_1} + {k_2 {\bm x}_2} + \cdots + {k_m {\bm x}_m} \right \}, k_i \in {\mathbb K}, i = 1, 2, \cdots, m \]

是 \({\mathbb V}\) 的一个线性子空间, 称其为由 \({\bm x}_1, {\bm x}_2, \cdots, {\bm x}_m\) 张成/生成的子空间 (Linear Span) ，记为

\[L({\bm x}_1, {\bm x}_2, \cdots, {\bm x}_m) = \left \{ {k_1 {\bm x}_1 } + {k_2 {\bm x}_2 } + \cdots + {k_m {\bm x}_m} \right \} \]

矩阵的列空间、核空间、秩与零度

设有矩阵 \({\bm A} = (a_{ij})\in {\mathbb R}^{m\times n}\), \({\bm a}_i(i=1,2,\cdots, n)\) 为\({\bm A}\) 的地\(i\)个列向量, 称矩阵 \({\bm A}\) 的所有列向量张成的空间 \(L({\bm a}_1, {\bm a}_2, \cdots, {\bm a}_n)\) 为矩阵 \({\bm A}\) 的列空间(值域), 记为

\[{\mathcal R}({\bm A}) = L({\bm a}_1, {\bm a}_2, \cdots, {\bm a}_n) \]

则矩阵 \({\bm A}\) 列空间的维度定义为矩阵 \({\bm A}\) 的 秩

\[{\rm rank}{\bm A} = {\dim} {\mathcal R}({\bm A}) \]

设有矩阵 \({\bm A} = (a_{ij})\in R^{m\times n}, {\bm a}_i(i=1,2,\cdots,n)\) , 称集合 \(\{ {\bm x} {\lvert} {\bm A} {\bm x} = {\bm 0} \}\) 为矩阵 \({\bm A}\) 的 核空间 (Kernel Space) 或 零空间 (Null Space) , 记为

\[{\mathcal N}({\bm A}) = \{ {\bm x} {\lvert} {\bm A}{\bm x} = {\bm 0} \} \]

则矩阵 \({\bm A}\) 核空间的维度定义为矩阵 \({\bm A}\) 的 零度

\[n({\bm A}) = {\dim} {\mathcal N}({\bm A}) \]

提示

设 \({\bm u}, {\bm v}\) 是方程组 \({\bm A}{\bm x} = {\bm b}\) 的两个解, 则有

\[\begin{aligned} {\bm A}{\bm u} &={\bm b} \\ {\bm A}{\bm v} &={\bm b} \end{aligned} \Rightarrow {\bm A}({\bm u}-{\bm v}) = {\bm b}-{\bm b} = {\bm 0} \]

故任意不同的两个线性方程组的解的差位于矩阵 \(\bm A\) 的零空间中.

进一步地, 设 \({\bm v}\) 是方程组 \({\bm A}{\bm x} = {\bm b}\) 的一个解, 那么其任意解集可表示为

(1.1)\[\{\bm{v}+\bm{x} | {\bm A} \bm{v}=\bm{b} \wedge \bm{x} \in {\mathcal N}({\bm A})\} \]

矩阵的Spark

设有矩阵 \({\bm A}\), 称其列空间中线性相关的向量数目为矩阵 \({\bm A}\) 的 Spark, 记为 \({\rm Spark}({\bm A})\) .

提示

  • 矩阵的Rank是最大线性无关的列数

  • 矩阵的Spark是最小线性相关的列数

\[{\bm A}_{1}=\left[\begin{array}{llll}{1} & {0} & {0} & {1} \\ {0} & {1} & {0} & {0} \\ {0} & {0} & {1} & {0}\end{array}\right] \Leftrightarrow\left\{\begin{array}{l}{\operatorname{Rank}({\bm A})=3} \\ {\operatorname{Spark}({\bm A})=2}\end{array}\right. \]
\[{\bm A}_{2}=\left[\begin{array}{cccc}{1} & {0} & {0} & {1} \\ {0} & {1} & {0} & {1} \\ {0} & {0} & {1} & {0}\end{array}\right] \Leftrightarrow\left\{\begin{array}{l}{\operatorname{Rank}({\bm A})=3} \\ {\operatorname{Spark}({\bm A})=3}\end{array}\right. \]
\[{\bm A}_{3}=\left[\begin{array}{llll}{1} & {0} & {0} & {1} \\ {0} & {1} & {0} & {1} \\ {0} & {0} & {1} & {1}\end{array}\right] \Leftrightarrow\left\{\begin{array}{l}{\operatorname{Rank}({\bm A})=3} \\ {\operatorname {Spark}({\bm A})=4}\end{array}\right. \]

总结

  • 矩阵的列空间/值域:

    \[{\mathcal R}({\bm A}) = \left \{ {\bm A} {\bm x} {\lvert} {\bm x} \in {R^n} \right \} \]

  • 矩阵的核空间/零空间:

    \[{\mathcal N}({\bm A}) = \left \{ {\bm x} {\lvert} {\bm A}{\bm x} = {0} \right \} \]

  • 矩阵的秩(列空间的维度): \({\rm rank} {\bm A} = {\dim} {\mathcal R}({\bm A})\)

  • 矩阵的零度(核空间的维度): \(n({\bm A}) = {\dim} {\mathcal N}({\bm A})\)

  • \({\rm rank} {\bm A} + n({\bm A}) = n\)

  • \({\rm rank} {\bm A^T} + n({\bm A}^T) = m\)

  • \(n({\bm A}) - n({\bm A}^T) = n-m\)