Норма (математика)

Пусть ${\displaystyle V}$ — векторное пространство над полем ${\displaystyle K}$, где ${\displaystyle K=\mathbb {R} }$ или ${\displaystyle K=\mathbb {C} }$. Нормой называется функционал ${\displaystyle p\colon V\to \mathbb {R} }$, удовлетворяющий трём условиям (аксиомам нормы)^{[19][20][21][22]}:

1. невырожденность: ${\displaystyle p(x)=0\Longleftrightarrow x=0_{V}}$;
2. неравенство треугольника (субаддитивность): ${\displaystyle p(x+y)\leqslant p(x)+p(y)}$ для всех ${\displaystyle x,y\in V}$;
3. абсолютная однородность: ${\displaystyle p(\alpha x)=|\alpha |\,p(x)}$ для всех ${\displaystyle \alpha \in K}$, ${\displaystyle x\in V}$.

Скаляр ${\displaystyle \alpha }$ берётся из того же поля ${\displaystyle K}$, над которым построено пространство: для вещественного пространства ${\displaystyle \alpha \in \mathbb {R} }$, для комплексного ${\displaystyle \alpha \in \mathbb {C} }$.

Векторное пространство с заданной на нём нормой называется нормированным пространством.

Неотрицательность нормы не постулируется, а выводится из аксиом. Из однородности при ${\displaystyle \alpha =0}$ следует ${\displaystyle p(0_{V})=0}$, а тогда из неравенства треугольника и равенства ${\displaystyle p(-x)=|-1|\,p(x)=p(x)}$ получаем

${\displaystyle 0=p(0_{V})=p(x+(-x))\leqslant p(x)+p(-x)=2p(x),}$

откуда ${\displaystyle p(x)\geqslant 0}$ для всех ${\displaystyle x\in V}$.

Норму чаще всего обозначают двойными вертикальными чертами: ${\displaystyle \|x\|}$ — норма элемента ${\displaystyle x}$. Если на одном пространстве рассматривается несколько норм, их различают индексами: ${\displaystyle \|x\|_{1}}$, ${\displaystyle \|x\|_{2}}$, ${\displaystyle \|x\|_{\infty }}$.

Вектор с единичной нормой ${\displaystyle \|x\|=1}$ называется единичным, или нормированным. Любой ненулевой вектор ${\displaystyle x}$ можно нормировать, разделив его на свою норму: вектор ${\displaystyle {\dfrac {x}{\|x\|}}}$ имеет единичную норму и сонаправлен исходному.

Множество ${\displaystyle \{x\in V:\|x\|\leqslant 1\}}$ называется единичным шаром нормы. Единичный шар любой нормы выпукл и центрально-симметричен; обратно, всякое выпуклое центрально-симметричное ограниченное тело с непустой внутренностью служит единичным шаром некоторой нормы.

Из аксиом непосредственно вытекают следующие свойства^[23][24]:

• обратное неравенство треугольника: ${\displaystyle {\bigl |}\,\|x\|-\|y\|\,{\bigr |}\leqslant \|x\pm y\|\leqslant \|x\|+\|y\|}$;

• норма непрерывна как функция своего аргумента: из ${\displaystyle x_{n}\to x}$ следует ${\displaystyle \|x_{n}\|\to \|x\|}$;
• если норма порождена скалярным произведением, справедливо тождество параллелограмма ${\displaystyle \|x+y\|^{2}+\|x-y\|^{2}=2\|x\|^{2}+2\|y\|^{2}}$. Верно и обратное: норма, удовлетворяющая этому тождеству, порождается скалярным произведением (теорема Йордана — фон Неймана).

Для нормы, порождённой скалярным произведением, величина

${\displaystyle {\frac {\|x\|^{2}+\|y\|^{2}-\|x-y\|^{2}}{2\|x\|\,\|y\|}}={\frac {\langle x,y\rangle }{\|x\|\,\|y\|}}}$

совпадает с косинусом угла между векторами. Для произвольной нормы это выражение также принадлежит отрезку ${\displaystyle [-1;1]}$ (что равносильно паре неравенств треугольника), однако углом в обычном смысле не является: понятие угла требует скалярного произведения.

Две нормы ${\displaystyle p}$ и ${\displaystyle q}$ на пространстве ${\displaystyle V}$ называются эквивалентными, если существуют положительные постоянные ${\displaystyle C_{1}}$ и ${\displaystyle C_{2}}$ такие, что

${\displaystyle C_{1}\,p(x)\leqslant q(x)\leqslant C_{2}\,p(x)}$

для всех ${\displaystyle x\in V}$. Геометрически это означает, что шар одной нормы можно зажать между двумя шарами другой. Эквивалентные нормы задают на пространстве одну и ту же топологию, а значит, одинаковые классы сходящихся последовательностей и непрерывных функций^[25][26].

В конечномерном пространстве все нормы эквивалентны. В бесконечномерном это не так: например, в пространстве непрерывных на отрезке функций нормы ${\displaystyle \|f\|_{C}}$ и ${\displaystyle \|f\|_{1}}$ не эквивалентныТреногин В. А. Функциональный анализ. — М.: Наука. Главная редакция физико-математической литературы, 1980. — С. 31..

Для ${\displaystyle n}$-мерного пространства справедливы точные оценки:

${\displaystyle \|x\|_{\infty }\leqslant \|x\|_{2}\leqslant \|x\|_{1}\leqslant {\sqrt {n}}\,\|x\|_{2}\leqslant n\,\|x\|_{\infty }.}$

Каждая матрица ${\displaystyle A\in K^{m\times n}}$ задаёт линейное отображение ${\displaystyle x\mapsto Ax}$ из ${\displaystyle K^{n}}$ (пространства столбцов высоты ${\displaystyle n}$) в ${\displaystyle K^{m}}$ (пространства столбцов высоты ${\displaystyle m}$). Если в этих пространствах выбраны нормы ${\displaystyle \|\cdot \|_{a}}$ и ${\displaystyle \|\cdot \|_{b}}$, то, рассматривая ${\displaystyle A}$ как оператор, можно определить его операторную норму

${\displaystyle \|A\|_{ab}=\sup _{x\neq 0}{\frac {\|Ax\|_{b}}{\|x\|_{a}}}.}$

Построенную таким образом матричную норму называют подчинённой (индуцированной) векторным нормам ${\displaystyle \|\cdot \|_{a}}$ и ${\displaystyle \|\cdot \|_{b}}$. Иными словами, «составить норму как операторную» означает измерить, во сколько раз матрица способна удлинить вектор^[30].

Матричная норма ${\displaystyle \|\cdot \|_{ab}}$ называется согласованной с векторными нормами ${\displaystyle \|\cdot \|_{a}}$ и ${\displaystyle \|\cdot \|_{b}}$, если

${\displaystyle \|Ax\|_{b}\leqslant \|A\|_{ab}\,\|x\|_{a}\qquad }$ для всех ${\displaystyle A\in K^{m\times n},\ x\in K^{n},}$

где ${\displaystyle Ax}$ — результат умножения матрицы на вектор-столбец, то есть образ вектора ${\displaystyle x}$. Всякая подчинённая норма согласована — по определению супремума она является наименьшей из согласованных. Все подчинённые нормы квадратных матриц субмультипликативны^[31][32][33].

Подчинённые нормы при ${\displaystyle \|\cdot \|_{a}=\|\cdot \|_{b}=\|\cdot \|_{p}}$:

• ${\displaystyle p=1}$ — максимальная сумма модулей по столбцам: ${\displaystyle \|A\|_{1}=\max _{j}\sum _{i}|a_{ij}|}$;
• ${\displaystyle p=\infty }$ — максимальная сумма модулей по строкам: ${\displaystyle \|A\|_{\infty }=\max _{i}\sum _{j}|a_{ij}|}$;
• ${\displaystyle p=2}$ — спектральная норма, равная наибольшему сингулярному числу матрицы:

${\displaystyle \|A\|_{2}={\sqrt {\lambda _{\max }(A^{*}A)}},}$

где ${\displaystyle A^{*}}$ — сопряжённая матрица, а ${\displaystyle \lambda _{\max }}$ — наибольшее собственное значение неотрицательно определённой матрицы ${\displaystyle A^{*}A}$^[34].

Поэлементные нормы получаются, если матрицу рассматривать просто как набор из ${\displaystyle mn}$ чисел:

${\displaystyle \|A\|_{(p)}={\Bigl (}\sum _{i,j}|a_{ij}|^{p}{\Bigr )}^{1/p}.}$

Важнейший частный случай ${\displaystyle p=2}$ — норма Фробениуса

${\displaystyle \|A\|_{F}={\sqrt {\sum _{i,j}|a_{ij}|^{2}}}={\sqrt {\operatorname {tr} \,(A^{*}A)}},}$

где ${\displaystyle \operatorname {tr} }$ — след матрицы. Норма Фробениуса субмультипликативна, но не подчинена никакой векторной норме (уже потому, что ${\displaystyle \|E_{n}\|_{F}={\sqrt {n}}}$, тогда как у любой подчинённой нормы ${\displaystyle \|E_{n}\|=1}$). Для всякой матрицы ${\displaystyle \|A\|_{2}\leqslant \|A\|_{F}\leqslant {\sqrt {r}}\,\|A\|_{2}}$, где ${\displaystyle r}$ — ранг.

Спектральную норму и норму Фробениуса не следует смешивать: обе иногда обозначают ${\displaystyle \|A\|_{2}}$, но это разные величины, совпадающие лишь для матриц ранга 1^[35].

• Гёльдеровы нормы (семейство ${\displaystyle \ell _{p}}$) для ${\displaystyle x\in K^{n}}$:

${\displaystyle \|x\|_{p}={\Bigl (}\sum _{i=1}^{n}|x_{i}|^{p}{\Bigr )}^{1/p},\qquad p\geqslant 1.}$

Условие ${\displaystyle p\geqslant 1}$ существенно: при ${\displaystyle 0<p<1}$ неравенство треугольника нарушается, и единичный «шар» перестаёт быть выпуклым. Показатель ${\displaystyle p}$ не обязан быть целым^[40][41].

* ${\displaystyle \|x\|_{1}=\sum _{i}|x_{i}|}$ — октаэдрическая норма, или манхэттенское расстояние;

* ${\displaystyle \|x\|_{2}={\sqrt {\sum _{i}|x_{i}|^{2}}}}$ — евклидова норма, отвечающая обычному расстоянию по теореме Пифагора;

* ${\displaystyle \|x\|_{\infty }=\max _{i}|x_{i}|}$ — кубическая, или чебышёвская, норма; получается предельным переходом ${\displaystyle p\to \infty }$.

• Всякое предгильбертово пространство нормировано: скалярное произведение порождает норму ${\displaystyle \|x\|={\sqrt {\langle x,x\rangle }}}$.

В пространстве ${\displaystyle C[0,1]}$ вещественных (или комплексных) непрерывных функций на отрезке употребительны нормы:

• ${\displaystyle \|f\|_{C}=\max _{t\in [0,1]}|f(t)|}$ — равномерная (чебышёвская) норма. Относительно неё ${\displaystyle C[0,1]}$ полно, то есть является банаховым пространством;
• ${\displaystyle \|f\|_{1}=\int \limits _{0}^{1}|f(t)|\,dt}$;
• ${\displaystyle \|f\|_{2}={\sqrt {\int \limits _{0}^{1}|f(t)|^{2}\,dt}}}$.

Все три удовлетворяют аксиомам нормы, однако относительно двух последних пространство ${\displaystyle C[0,1]}$ не полно: последовательность непрерывных функций может сходиться в среднем к разрывной. Пополнением служат пространства ${\displaystyle L^{1}}$ и ${\displaystyle L^{2}}$^[42].

Аналогично вводятся нормы для вектор-функций: ${\displaystyle |f(t)|}$ заменяется на ${\displaystyle \|f(t)\|}$, а интегрирование по отрезку — интегрированием по области.

Некоторые употребительные функционалы аксиомам нормы не удовлетворяют, хотя их и называют «нормами» по аналогии.

• ${\displaystyle \ell _{0}}$-«норма» — количество ненулевых компонент вектора. Она нарушает аксиому однородности: ${\displaystyle \|2x\|_{0}=\|x\|_{0}}$, тогда как требуется ${\displaystyle 2\|x\|_{0}}$. Неравенство треугольника при этом выполняется. Величина ${\displaystyle \|x-y\|_{0}}$ совпадает с расстоянием Хэмминга; функционал применяется в задачах разреженного кодирования и сжимающих измерений, где ищется представление сигнала с наибольшим числом нулей. Поскольку минимизация ${\displaystyle \ell _{0}}$ вычислительно трудна, её заменяют минимизацией ${\displaystyle \ell _{1}}$.
• Полунорма — функционал, удовлетворяющий аксиомам 2 и 3, но допускающий ${\displaystyle p(x)=0}$ при ${\displaystyle x\neq 0}$. Полунормы используются при построении локально выпуклых пространств.
• Квазинормы ${\displaystyle \ell _{p}}$ при ${\displaystyle 0<p<1}$ — неравенство треугольника выполняется лишь с постоянной ${\displaystyle C>1}$^[43].

Всякая норма порождает метрику по правилу

${\displaystyle \rho (x,y)=\|x-y\|.}$

Аксиомы метрики проверяются непосредственно: неотрицательность и равенство ${\displaystyle \rho (x,y)=0\Leftrightarrow x=y}$ следуют из первой аксиомы нормы; симметрия ${\displaystyle \rho (x,y)=\rho (y,x)}$ — из однородности, поскольку ${\displaystyle \|y-x\|=|-1|\cdot \|x-y\|}$; неравенство треугольника ${\displaystyle \rho (x,z)\leqslant \rho (x,y)+\rho (y,z)}$ — из второй аксиомы, применённой к разложению ${\displaystyle x-z=(x-y)+(y-z)}$.

Полученная метрика инвариантна относительно сдвигов (${\displaystyle \rho (x+z,y+z)=\rho (x,y)}$) и однородна (${\displaystyle \rho (\alpha x,\alpha y)=|\alpha |\rho (x,y)}$). Не всякая метрика на векторном пространстве порождается нормой — именно этими двумя свойствами нормированная метрика и выделяется.

Метрика, в свою очередь, задаёт топологию, базой которой служат открытые шары ${\displaystyle B(x,r)=\{y:\|x-y\|<r\}}$. Сходимость, определённая на языке нормы (${\displaystyle \|x_{n}-x\|\to 0}$), совпадает со сходимостью в этой топологии. Нормированное пространство, полное относительно порождённой метрики, называется банаховым^[44][45].

Не всякая норма порождается скалярным произведением. Критерий даёт тождество параллелограмма: норма порождена скалярным произведением тогда и только тогда, когда

${\displaystyle \|x+y\|^{2}+\|x-y\|^{2}=2\|x\|^{2}+2\|y\|^{2}}$

для всех ${\displaystyle x,y}$. В этом случае скалярное произведение восстанавливается по норме поляризационным тождеством, в вещественном случае имеющим вид ${\displaystyle \langle x,y\rangle ={\tfrac {1}{4}}{\bigl (}\|x+y\|^{2}-\|x-y\|^{2}{\bigr )}}$. Из гёльдеровых норм этому условию удовлетворяет только ${\displaystyle \ell _{2}}$^[46].