2.1. 向量范数

2.1.1. 概念与内涵

Definition 2.3 (向量范数)

\({\mathbb V}\) 是数域 \({\mathbb K}\) 上的线性空间, 若对于 \({\mathbb V}\) 中的任意元素 \({\bm x}\) , 存在实数 \(\|{\bm x}\|\) 满足:

  1. 非负性: \(\|{\bm x}\| \geq 0\) , 当且仅当 \({\bm x} = {\bm 0}\) 时, 等号成立;

  2. 齐次性: \(\|k \odot \bm x \| = |k|\|\bm x\|\) , ( \(k\in {\mathbb K}\) , \({\bm x} \in {\mathbb V}\) )

  3. 三角不等式: \(\|{\bm x} \oplus {\bm y}\| \leq \|{\bm x}\| + \|{\bm y}\|\) , ( \({\bm{x, y} \in {\mathbb V}}\) )

则称 \(\|{\bm x}\|\) 为向量 \({\bm x}\) 在线性空间 \({\mathbb V}\) 上的 向量范数 .

提示

  • 范数是实数, 为什么不定义复数呢?

  • 注意与内积的定义比较

  • 注意与矩阵范数的定义比较

2.1.2. 向量范数的等价性

\(\|{\bm x}\|_{\alpha}\) , \(\|{\bm x}\|_{\beta}\) 为有限维线性空间 \({\mathbb V}\) 上的任意两种范数, 则存在数 \(c_1, c_2\) 与向量无关, 且使得对于 \(\forall {\bm x}\in {\mathbb V}\) 如下不等式成立

\[c_1\|{\bm x}\|_{\beta} \leq \|{\bm x}\|_{\alpha} \leq c_2\|{\bm x}\|_{\beta} \]

称其为向量范数的等价性质.

提示

如对于向量的 \(\ell_1, \ell_2\) 范数 \(|{\bm x}|, \|{\bm x}\|\)

Norm Equivalence

图 2.1 向量范数的等价性

向量范数的等价性 \(\ell_1\) (蓝, blue), \(\ell_2\) (红, red)

2.1.3. 常见向量范数

普通向量范数

设有线性空间 \({\mathbb V}^n\) , \({\bm x} = (\xi_1, \xi_2, \cdots, \xi_n) \in {\mathbb V}^n\) , 其中, \(\xi_i\)\({\bm x}\) 的第 \(i\) 个坐标, \(|\xi_i|\) 表示 \(\xi\) 的模, 则有以下常见范数

  • p-范数\(\ell_p\) 范数 : \(\|{\bm x}\|_p = \left( \sum_{i=1}^n |\xi|^p \right)^{1/p}\) , \(1 \leq p < +\infty\)

  • ∞-范数\(\ell_{\infty}\) 范数 : \(\|{\bm x}\|_{\infty} = \mathop {\max }\limits_i |\xi_i|\) , ( \(p \to +\infty\) )

  • 1-范数\(\ell_1\) 范数 : \(\|{\bm x}\|_1 = \sum_{i=1}^n|\xi_i|\) , ( \(p = 1\) )

  • 2-范数\(\ell_2\) 范数 : \(\|{\bm x}\|_2 = \sqrt{\sum_{i=1}^n|\xi_i|^2}\) , ( \(p = 2\) )

\({\mathbb V}^n\) 为复空间 \({\mathbb C}^n\) , 或实数空间 \({\mathbb R}^n\) 时也有上述范数.

注解

对区间 \([a, b]\) 上的实值连续函数集合, 和实数域 \({\mathbb R}\) , 定义通常函数的加法, 实数与函数的数乘运算, 构成 \({\mathbb R}\) 上的一个线性空间 \({\mathbb V}\) , 有以下范数:

  • \(\|f(t)\|_p = \left[ \int_a^b |f(t)|^p|{\rm d}t \right]^{1/p}\) , \((1\leq p <+\infty)\)

  • \(\|f(t)\|_{+\infty} = \mathop {\max }\limits_{t\in[a, b]} |f(t)|\)

加权范数

Definition 2.4 (加权范数)

\({\bm A}\)\(n\) 阶对称正定阵, \({\bm x}\in {\mathbb R}^n\) , 则称

\[\|{\bm x}\|_{{\bm A}} = ({\bm x}^T{\bm A}{\bm x})^{1/2} \]

加权范数 (Weighted Norm) 或 椭圆范数 .

同理, 设 \({\bm A}\)\(n\) 阶Hermite对称正定阵, \({\bm x}\in {\mathbb C}^n\) , 则称

\[\|{\bm x}\|_{{\bm A}} = ({\bm x}^H{\bm A}{\bm x})^{1/2} \]

加权范数 (Weighted Norm) 或 椭圆范数 .