Линейное отображение

Задачи, которые ныне относятся к линейной алгебре и теории линейных отображений, принадлежат к древнейшим в математике: вычисление значения функции ${\displaystyle f(x)=ax}$ и решение уравнения ${\displaystyle ax=b}$ встречаются уже в древнейших памятниках, а вавилоняне умели решать системы линейных уравнений^[11]. В древнегреческой математике сложились две абстрактные теории линейного характера: теория величин (книга V «Начал» Евклида) и теория целых чисел (книга VII)^[12]. Однако отсутствие удобной алгебраической символики сдерживало развитие: в трактатах по алгебре вплоть до XVIII века господствовало убеждение, что в отношении уравнений первой степени «всё уже сделано»^[13].

Прогресс линейной алгебры был связан с развитием алгебраического исчисления и, в частности, с появлением понятия определителя. Идеи, относящиеся к определителям, имелись уже у Лейбница, но остались неопубликованными^[14]; независимо они возникли в связи с задачей о плоской кривой, проходящей через заданные точки, у Крамера и Безу^[15]. Основные свойства определителей получили окончательную форму в работах Коши и Якоби^[16].

Изучение линейных дифференциальных уравнений (д’Аламбер, Эйлер, Лагранж) способствовало осознанию самого понятия линейности: д’Аламбер первым указал, что общее решение неоднородного уравнения есть сумма частного решения и общего решения соответствующего однородного уравнения^[17]. Лагранжу принадлежит также понятие сопряжённого («транспонированного») линей оператора и первые результаты о собственных значениях в теории малых колебаний^[18]. Эйлер отметил линейный характер формул преобразования координат и ввёл термин «аффинность»^[19].

Гаусс ввёл понятие транспонированной (сопряжённой) подстановки и заложил основы арифметической теории квадратичных форм^[20]. Задача о решении систем линейных уравнений в целых числах была решена в общем виде Смитом; его результаты были вновь получены Фробениусом, а Кронекер придал окончательный вид теоремам о системах с действительными коэффициентами; само слово «ранг» введено Фробениусом^[21].

Решающий шаг к современному пониманию линейного отображения сделал Грассман, построивший внешнюю алгебру и давший (почти аксиоматизированное) понятие векторного пространства ${\displaystyle n}$ измерений: он определил линейную независимость векторов, размерность и установил фундаментальное соотношение ${\displaystyle \dim V+\dim W=\dim(V+W)+\dim(V\cap W)}$^[22]. Кэли в 1858 году создал исчисление матриц, заметив, что матрица есть не что иное, как краткая запись линейной подстановки^[23]; Вейерштрасс ввёл элементарные делители и канонические формы пучка ${\displaystyle U+\lambda V}$, доказав, что они характеризуют матрицу с точностью до подобия, а Жордан независимо пришёл к тем же результатам в своём трактате о подстановках^[24].

Современное определение линейного отображения появилось вместе с аксиоматическим методом: в 1888 году Пеано дал аксиоматическое определение векторных пространств (конечного или бесконечного числа измерений) над полем действительных чисел и, пользуясь вполне современной нотацией, определил линейные отображения одного пространства в другое^[25]; несколько позже Пинкерле попытался распространить эти идеи на теорию функций^[26].

Рассмотрение функциональных уравнений как «предельных случаев» алгебраических привело к обобщению понятия линейного отображения на бесконечномерный случай. Теория линейных интегральных уравнений, начатая Фредгольмом и развитая Гильбертом и Шмидтом, выявила геометрическую структуру пространств функций и понятие сопряжённого оператора^[27]. Общее определение нормированных пространств и непрерывных линейных отображений (операторов) было дано в 1920—1922 годах Банахом, Ханом и Хелли; там же были получены теорема о продолжении линейного функционала и основы теории сопряжённых пространств^[28].

Оператор вида

${\displaystyle {\tilde {L}}({\bar {x}})=L({\bar {x}})+{\bar {v}},\qquad {\bar {v}}\neq {\bar {0}},}$

где ${\displaystyle L}$ линеен, в литературе по дифференциальным уравнениям иногда называют линейным неоднородным. Такой оператор линейным не является: для него ${\displaystyle {\tilde {L}}({\bar {0}})={\bar {v}}\neq {\bar {0}}}$, нарушены и аддитивность, и однородность. Название объясняется тем, что уравнение ${\displaystyle L({\bar {x}})=-{\bar {v}}}$ называют линейным неоднородным; правильный термин для самого отображения — аффинное.

Соответственно, линейные отображения в этом контексте называют линейными однородными; в настоящей статье слово «однородный» опускается, поскольку линейность по определению включает условие ${\displaystyle f({\bar {0}})={\bar {0}}}$.

Пусть ${\displaystyle V}$ и ${\displaystyle W}$ конечномерны, ${\displaystyle \dim V=n}$, ${\displaystyle \dim W=m}$, и в них выбраны базисы ${\displaystyle {\bar {e}}_{1},\ldots ,{\bar {e}}_{n}}$ и ${\displaystyle {\bar {g}}_{1},\ldots ,{\bar {g}}_{m}}$.

Линейное отображение полностью определяется образами базисных векторов: если ${\displaystyle {\bar {x}}=\sum _{k}x^{k}{\bar {e}}_{k}}$, то по линейности

${\displaystyle A{\bar {x}}=\sum _{k}x^{k}\,A{\bar {e}}_{k},}$

то есть достаточно знать ${\displaystyle n}$ векторов ${\displaystyle A{\bar {e}}_{k}}$. Разложив каждый из них по базису ${\displaystyle W}$,

${\displaystyle A{\bar {e}}_{k}=\sum _{j=1}^{m}a_{k}^{j}\,{\bar {g}}_{j},}$

получают набор чисел ${\displaystyle a_{k}^{j}}$. Матрица ${\displaystyle A=(a_{k}^{j})}$ размера ${\displaystyle m\times n}$, в ${\displaystyle k}$-м столбце которой стоят координаты образа ${\displaystyle A{\bar {e}}_{k}}$, называется матрицей линейного отображения в выбранной паре базисов^[33].

Слова «матрица выражает отображение» означают следующее: координатный столбец образа получается умножением матрицы на координатный столбец прообраза,

${\displaystyle A{\bar {x}}=\sum _{j}{\Bigl (}\sum _{k}a_{k}^{j}x^{k}{\Bigr )}{\bar {g}}_{j},}$

то есть ${\displaystyle y^{j}=\sum _{k}a_{k}^{j}x^{k}}$. Тем самым задание отображения сводится к задаче о числах: соответствие между линейными отображениями ${\displaystyle V\to W}$ и матрицами размера ${\displaystyle m\times n}$ взаимно однозначно и является изоморфизмом векторных пространств^[34].

Матрица зависит от выбора базисов: при переходе к новым базисам с матрицами перехода ${\displaystyle P}$ и ${\displaystyle Q}$ она заменяется на ${\displaystyle Q^{-1}AP}$. Кроме того, существен порядок базисных векторов: перестановка двух векторов базиса переставляет соответствующие столбцы (или строки) матрицы, давая другую матрицу того же отображения.

В бесконечномерном пространстве положение существенно иное^[35].

Если в пространстве выбран счётный базис Шаудера ${\displaystyle \{{\bar {e}}_{k}\}_{k=1}^{\infty }}$, то по тем же формулам оператору сопоставляется бесконечная матрица ${\displaystyle (a_{k}^{j})}$. Однако:

• столбцы должны быть суммируемы: ряд ${\displaystyle \sum _{j}a_{k}^{j}{\bar {g}}_{j}}$ обязан сходиться, что накладывает ограничения на матрицу;
• не всякая матрица задаёт оператор: произвольная бесконечная таблица чисел может не определять отображения пространства в себя;
• произведение матриц может расходиться: сумма ${\displaystyle \sum _{k}a_{k}^{j}b_{i}^{k}}$ — бесконечный ряд, сходимость которого требует проверки;
• матрица не определяет оператор однозначно без указания области определения (см. ниже).

Пример: оператор сдвига в пространстве ${\displaystyle \ell ^{2}}$, действующий по правилу ${\displaystyle (S{\bar {x}})_{1}=0}$, ${\displaystyle (S{\bar {x}})_{k+1}=x_{k}}$, имеет бесконечную матрицу с единицами на первой поддиагонали. Он ограничен, и его матрица корректна. Напротив, оператор дифференцирования в пространстве непрерывных функций матрицей в обычном смысле не описывается: он не определён на всём пространстве.

Поэтому в функциональном анализе матричное представление применяют ограниченно, предпочитая работать с оператором как с отображением, а не с таблицей чисел.

Пусть ${\displaystyle V}$ и ${\displaystyle W}$ — линейные топологические пространства. Оператор называется ограниченным, если он переводит всякое ограниченное множество в ограниченное^[37][38].

Здесь важно точное определение ограниченности множества. Множество ${\displaystyle M}$ в нормированном пространстве называется ограниченным, если существует одна постоянная ${\displaystyle R}$, для которой

${\displaystyle \|{\bar {x}}\|\leqslant R\qquad {\text{для всех }}{\bar {x}}\in M,}$

то есть ${\displaystyle \sup _{{\bar {x}}\in M}\|{\bar {x}}\|<\infty }$. Требование конечности нормы каждого отдельного элемента ничего не даёт: норма конечна у любого вектора по определению, и множество ${\displaystyle \{n{\bar {e}}:n\in \mathbb {N} \}}$ состоит из векторов с конечными нормами, но ограниченным не является.

В нормированных пространствах оператор ограничен тогда и только тогда, когда существует постоянная ${\displaystyle N}$ такая, что

${\displaystyle \|A{\bar {x}}\|_{W}\leqslant N\|{\bar {x}}\|_{V}\qquad {\text{для всех }}{\bar {x}}\in V.}$

Это другое определение, и его равносильность общему требует доказательства. Оно несложно: если выполнено последнее неравенство и ${\displaystyle \|{\bar {x}}\|\leqslant R}$ на множестве ${\displaystyle M}$, то ${\displaystyle \|A{\bar {x}}\|\leqslant NR}$ на ${\displaystyle A(M)}$, то есть образ ограничен. Обратно, если ${\displaystyle A}$ переводит единичный шар в ограниченное множество с постоянной ${\displaystyle N}$, то для любого ${\displaystyle {\bar {x}}\neq {\bar {0}}}$ вектор ${\displaystyle {\bar {x}}/\|{\bar {x}}\|}$ лежит в шаре, откуда ${\displaystyle \|A{\bar {x}}\|\leqslant N\|{\bar {x}}\|}$.

Для линейного оператора между нормированными пространствами ограниченность равносильна непрерывности, причём равносильна и непрерывности в единственной точке — нуле.

Утверждение нетривиально и доказывается так. Если ${\displaystyle A}$ ограничен, то ${\displaystyle \|A{\bar {x}}-A{\bar {y}}\|=\|A({\bar {x}}-{\bar {y}})\|\leqslant N\|{\bar {x}}-{\bar {y}}\|}$, то есть ${\displaystyle A}$ липшицев и потому непрерывен. Обратно, пусть ${\displaystyle A}$ непрерывен в нуле: найдётся ${\displaystyle \delta >0}$, для которого из ${\displaystyle \|{\bar {x}}\|\leqslant \delta }$ следует ${\displaystyle \|A{\bar {x}}\|\leqslant 1}$. Тогда для любого ${\displaystyle {\bar {x}}\neq {\bar {0}}}$

${\displaystyle {\Bigl \|}A{\Bigl (}{\tfrac {\delta {\bar {x}}}{\|{\bar {x}}\|}}{\Bigr )}{\Bigr \|}\leqslant 1\quad \Longrightarrow \quad \|A{\bar {x}}\|\leqslant {\tfrac {1}{\delta }}\|{\bar {x}}\|,}$

то есть ${\displaystyle A}$ ограничен с постоянной ${\displaystyle N=1/\delta }$.

Для нелинейных отображений эквивалентность неверна.

Наименьшая из постоянных ${\displaystyle N}$ называется нормой оператора:

${\displaystyle \|A\|=\sup _{{\bar {x}}\neq {\bar {0}}}{\frac {\|A{\bar {x}}\|_{W}}{\|{\bar {x}}\|_{V}}}=\sup _{\|{\bar {x}}\|_{V}=1}\|A{\bar {x}}\|_{W}.}$

Пространство ограниченных линейных операторов с этой нормой является нормированным; если ${\displaystyle W}$ банахово, то оно тоже банахово, причём полнота ${\displaystyle V}$ не требуется. Норма субмультипликативна: ${\displaystyle \|AB\|\leqslant \|A\|\cdot \|B\|}$ при условии, что композиция определена^[39][40].

Пусть ${\displaystyle A\colon V\to W}$ — линейное отображение, а ${\displaystyle V^{*}}$ и ${\displaystyle W^{*}}$ — двойственные пространства, то есть пространства линейных функционалов. Сопряжённым (двойственным) к ${\displaystyle A}$ называется отображение

${\displaystyle A^{*}\colon W^{*}\to V^{*},}$

действующее в обратную сторону и определяемое равенством

${\displaystyle (A^{*}g)({\bar {x}})=g(A{\bar {x}})\qquad {\text{для всех }}g\in W^{*},\ {\bar {x}}\in V.}$

Иными словами, функционал ${\displaystyle A^{*}g}$ — это композиция ${\displaystyle g\circ A}$. Скобки существенны: ${\displaystyle (A^{*}g)({\bar {x}})}$, а не ${\displaystyle A^{*}{\bigl (}g({\bar {x}}){\bigr )}}$ — последнее выражение лишено смысла, поскольку ${\displaystyle g({\bar {x}})}$ есть число.

В конечномерном случае матрицей сопряжённого отображения служит транспонированная матрица исходного.

В гильбертовом пространстве сопряжённый оператор обычно определяют иначе — через скалярное произведение:

${\displaystyle (A{\bar {x}},{\bar {y}})=({\bar {x}},A^{*}{\bar {y}}),}$

и тогда его матрицей является сопряжённо-транспонированная (эрмитово сопряжённая) матрица. Для комплексных пространств два определения различаются комплексным сопряжением, и их не следует смешивать^[54].

• Умножение вектора на матрицу: ${\displaystyle {\bar {y}}=A{\bar {x}}}$ — общий вид линейного отображения ${\displaystyle K^{n}\to K^{m}}$.
• Поворот плоскости на угол ${\displaystyle \varphi }$ вокруг начала координат.
• Ортогональное проецирование пространства на плоскость.
• Гомотетия ${\displaystyle {\bar {x}}\mapsto k{\bar {x}}}$.
• След ${\displaystyle A\mapsto \operatorname {tr} A}$ — линейный функционал на пространстве матриц.

Все перечисленные ниже операторы линейны; ограниченность указана отдельно, поскольку она зависит от выбора пространств.

• Дифференцирование ${\displaystyle (Ax)(t)=x'(t)}$ — не ограничено; область определения ${\displaystyle C^{1}[0,1]}$ плотна в ${\displaystyle C[0,1]}$.
• Интегрирование ${\displaystyle (Ax)(t)=\int _{0}^{t}x(\tau )\,d\tau }$ — ограничено в ${\displaystyle C[0,1]}$, норма равна единице.
• Умножение на функцию ${\displaystyle (Ax)(t)=\varphi (t)x(t)}$ — ограничено в ${\displaystyle C[0,1]}$ с нормой ${\displaystyle \max |\varphi |}$, если ${\displaystyle \varphi }$ непрерывна; в ${\displaystyle L^{2}(\mathbb {R} )}$ при неограниченной ${\displaystyle \varphi }$ оператор не ограничен.
• Интегральный оператор ${\displaystyle (Ax)(t)=\int _{0}^{1}K(t,\tau )x(\tau )\,d\tau }$ с непрерывным ядром — ограничен и компактен.
• Преобразование Фурье — унитарный оператор в ${\displaystyle L^{2}(\mathbb {R} )}$.
• Оператор сдвига в ${\displaystyle \ell ^{2}}$ — ограничен, норма равна единице.
• Вычисление значения ${\displaystyle x\mapsto x(t_{0})}$ — линейный функционал, ограниченный в ${\displaystyle C[0,1]}$, но не определённый на ${\displaystyle L^{2}}$, где элементы суть классы эквивалентных функций.

Запись задачи в операторном виде ${\displaystyle A{\bar {u}}={\bar {f}}}$ позволяет применять единый аппарат: существование и единственность решения сводятся к обратимости ${\displaystyle A}$, устойчивость — к ограниченности обратного оператора. Классический результат такого рода — альтернатива Фредгольма для уравнений с компактным оператором^[61].

Состояния системы описываются векторами гильбертова пространства, а наблюдаемым величинам сопоставляются самосопряжённые (как правило, неограниченные) операторы; возможные результаты измерений суть точки их спектра. Именно эта задача стимулировала развитие теории неограниченных операторов.

Метод конечных элементов и разностные схемы заменяют дифференциальный оператор конечномерным линейным, сводя краевую задачу к системе линейных уравнений. Устойчивость схемы формулируется как равномерная ограниченность норм степеней оператора перехода.

Отклик стационарной линейной системы есть свёртка входного сигнала с импульсной характеристикой; преобразование Фурье переводит свёртку в умножение, что и объясняет господство частотных методов в цифровой обработке сигналов.

Повороты, масштабирование и проецирование задаются матрицами; переход к однородным координатам позволяет включить в ту же схему и параллельные переносы, представив аффинные преобразования как линейные в пространстве большей размерности.

Метод наименьших квадратов сводится к ортогональному проецированию вектора наблюдений на подпространство, порождённое регрессорами. Метод главных компонент опирается на сингулярное разложение — представление произвольного линейного отображения в виде композиции поворота, растяжения вдоль осей и второго поворота.

Переходы марковской цепи задаются стохастической матрицей, действующей на распределениях как линейный оператор; скорость сходимости к стационарному распределению определяется вторым по модулю собственным значением^[62].