Линейные уравнения: обобщения и применения

При трёх неизвестных уравнение обычно записывают как ${\displaystyle ax+by+cz+d=0}$; множество его решений — плоскость в трёхмерном пространстве, а вектор ${\displaystyle (a,b,c)}$ служит её нормальным вектором^[1][2].

Две плоскости ${\displaystyle a_{1}x+b_{1}y+c_{1}z+d_{1}=0}$ и ${\displaystyle a_{2}x+b_{2}y+c_{2}z+d_{2}=0}$ могут:

• пересекаться по прямой (если их нормальные векторы не коллинеарны);
• быть параллельными (если нормали коллинеарны, но свободные члены не удовлетворяют тому же соотношению);
• совпадать (если пропорциональны все коэффициенты, включая свободные члены).

Угол ${\displaystyle \varphi }$ между плоскостями определяется через их нормали:

${\displaystyle \cos \varphi ={\frac {|a_{1}a_{2}+b_{1}b_{2}+c_{1}c_{2}|}{{\sqrt {a_{1}^{2}+b_{1}^{2}+c_{1}^{2}}}\,{\sqrt {a_{2}^{2}+b_{2}^{2}+c_{2}^{2}}}}}.}$

Плоскости перпендикулярны тогда и только тогда, когда скалярное произведение их нормальных векторов равно нулю.

В общем случае уравнение ${\displaystyle a_{1}x_{1}+\dots +a_{n}x_{n}+b=0}$ при условии, что не все ${\displaystyle a_{i}}$ равны нулю, задаёт гиперплоскость размерности ${\displaystyle n-1}$. Если ${\displaystyle b=0}$, это подпространство; если ${\displaystyle b\neq 0}$ — его параллельный сдвиг, не содержащий начала координат и потому подпространством не являющийся^[3].

Расстояние от точки ${\displaystyle \mathbf {p} =(p_{1},\ldots ,p_{n})\in \mathbb {R} ^{n}}$ до гиперплоскости ${\displaystyle a_{1}x_{1}+\dots +a_{n}x_{n}+b=0}$ вычисляется по формуле

${\displaystyle d={\frac {|a_{1}p_{1}+\dots +a_{n}p_{n}+b|}{\sqrt {a_{1}^{2}+\dots +a_{n}^{2}}}}.}$

Две гиперплоскости либо параллельны (их нормали коллинеарны), либо пересекаются по аффинному подпространству размерности ${\displaystyle n-2}$. Система из ${\displaystyle k}$ линейно независимых уравнений с ${\displaystyle n}$ неизвестными задаёт аффинное подпространство размерности ${\displaystyle n-k}$ — именно этот факт лежит в основе теоремы Кронекера — Капелли и метода Гаусса.

Если ${\displaystyle a_{j}\neq 0}$, уравнение разрешимо относительно ${\displaystyle x_{j}}$:

${\displaystyle x_{j}=-{\frac {b}{a_{j}}}-\sum _{i\neq j}{\frac {a_{i}}{a_{j}}}\,x_{i},}$

и остальные ${\displaystyle n-1}$ неизвестных можно задавать произвольно. Такие свободно выбираемые неизвестные называют свободными переменными, а ${\displaystyle x_{j}}$ — базисной (или главной) переменной. Общее решение записывается через ${\displaystyle n-1}$ параметров, что отражает число степеней свободы множества решений.

Для уравнения

${\displaystyle 3x_{1}+2x_{2}+x_{3}=7}$

выберем ${\displaystyle x_{1}}$ и ${\displaystyle x_{2}}$ свободными, положив ${\displaystyle x_{1}=t_{1}}$, ${\displaystyle x_{2}=t_{2}}$. Тогда

${\displaystyle x_{3}=7-3t_{1}-2t_{2},\qquad t_{1},t_{2}\in \mathbb {R} .}$

Эти формулы описывают все решения — двупараметрическое семейство, геометрически представляющее собой плоскость. Частные значения параметров дают отдельные решения: ${\displaystyle (0;0;7)}$, ${\displaystyle (1;0;4)}$, ${\displaystyle (0;1;5)}$. Вектор ${\displaystyle (3,2,1)}$ перпендикулярен этой плоскости.

Определение линейного уравнения не связано исключительно с вещественными числами. Над любым полем ${\displaystyle K}$ уравнение ${\displaystyle ax=b}$ при ${\displaystyle a\neq 0}$ имеет единственное решение ${\displaystyle x=a^{-1}b}$. Например, в поле вычетов ${\displaystyle \mathbb {Z} _{7}}$ уравнение ${\displaystyle 3x=2}$ имеет решение ${\displaystyle x=3^{-1}\cdot 2=5\cdot 2=10\equiv 3{\pmod {7}}}$, поскольку ${\displaystyle 3\cdot 5=15\equiv 1{\pmod {7}}}$. Проверка: ${\displaystyle 3\cdot 3=9\equiv 2{\pmod {7}}}$. Изучение таких уравнений критически важно для криптографии и теории кодирования.

В конечных полях ${\displaystyle \mathbb {F} _{q}}$ (где ${\displaystyle q=p^{k}}$ — степень простого числа) линейные уравнения лежат в основе кодов, исправляющих ошибки (коды Хэмминга, БЧХ-коды, коды Рида — Соломона). Система линейных уравнений над ${\displaystyle \mathbb {F} _{q}}$ определяет подпространство, элементы которого служат кодовыми словами.

Если решения ищутся среди целых чисел, уравнение называется диофантовым. Линейное диофантово уравнение

${\displaystyle ax+by=c}$

разрешимо в целых числах тогда и только тогда, когда ${\displaystyle c}$ делится на ${\displaystyle d=\gcd(a,b)}$. В этом случае решений бесконечно много, и они описываются формулами

${\displaystyle x=x_{0}+{\frac {b}{d}}\,t,\qquad y=y_{0}-{\frac {a}{d}}\,t,\qquad t\in \mathbb {Z} ,}$

где ${\displaystyle (x_{0},y_{0})}$ — какое-либо частное решение, находимое расширенным алгоритмом Евклида^[4][5][6].

Например, уравнение ${\displaystyle 6x+9y=21}$ разрешимо, так как ${\displaystyle \gcd(6,9)=3}$ делит 21; общее решение имеет вид ${\displaystyle x=-7+3t}$, ${\displaystyle y=7-2t}$. Напротив, уравнение ${\displaystyle 6x+9y=20}$ неразрешимо в целых числах: его левая часть всегда кратна 3, а 20 на 3 не делится. При этом в поле вещественных чисел оно, разумеется, разрешимо — это показывает, что разрешимость существенно зависит от того, где ищутся решения^[7][8].

Множества решений линейных диофантовых уравнений тесно связаны с геометрией чисел: теорема Минковского о выпуклом теле и алгоритм LLL-редукции решёток позволяют находить «короткие» решения и применяются в криптоанализе.

В p-адическом анализе линейные уравнения ${\displaystyle ax=b}$ над полем ${\displaystyle \mathbb {Q} _{p}}$ всегда имеют единственное решение при ${\displaystyle a\neq 0}$, однако структура решений систем уравнений существенно зависит от p-адической нормы коэффициентов. Лемма Гензеля о подъёме решений позволяет переносить решения сравнений ${\displaystyle f(x)\equiv 0{\pmod {p^{k}}}}$ в решения уравнений над ${\displaystyle \mathbb {Z} _{p}}$ — кольцом p-адических целых чисел. Этот аппарат активно используется в современной теории чисел^[9].

Линейные уравнения вида ${\displaystyle A(x)\cdot U(x)+B(x)\cdot V(x)=C(x)}$, где ${\displaystyle A,B,C}$ — заданные многочлены, а ${\displaystyle U,V}$ — неизвестные, возникают в теории кодов и теории управления. Разрешимость такого уравнения эквивалентна делимости ${\displaystyle C}$ на ${\displaystyle \gcd(A,B)}$ в кольце многочленов — это прямое отражение алгоритма Евклида для многочленов.

Уравнение вида ${\displaystyle AX=B}$, где ${\displaystyle A,B}$ — заданные матрицы, а ${\displaystyle X}$ — неизвестная матрица, называется матричным линейным уравнением. При квадратной невырожденной ${\displaystyle A}$ решение единственно: ${\displaystyle X=A^{-1}B}$. Уравнение ${\displaystyle AX-XB=C}$ (уравнение Сильвестра) возникает в теории устойчивости динамических систем и имеет единственное решение тогда и только тогда, когда спектры матриц ${\displaystyle A}$ и ${\displaystyle B}$ не пересекаются^[10].

• Метод Гаусса — приведение расширенной матрицы системы к ступенчатому виду с помощью элементарных преобразований строк. Трудоёмкость — ${\displaystyle O(n^{3})}$ операций для системы из ${\displaystyle n}$ уравнений.
• LU-разложение — представление матрицы ${\displaystyle A}$ в виде произведения нижней (${\displaystyle L}$) и верхней (${\displaystyle U}$) треугольных матриц. Позволяет эффективно решать несколько систем с одной и той же матрицей при разных правых частях.
• Метод Холецкого — вариант LU-разложения для симметричных положительно определённых матриц; вдвое экономичнее общего LU.
• QR-разложение — представление ${\displaystyle A=QR}$, где ${\displaystyle Q}$ — ортогональная, ${\displaystyle R}$ — верхняя треугольная матрица. Численно устойчивее метода Гаусса, особенно для плохо обусловленных систем.

Для больших разреженных систем (возникающих, например, при дискретизации уравнений математической физики) прямые методы часто неэффективны из-за заполнения нулевых элементов. В таких случаях применяют итерационные методы:

• метод Якоби — простейший стационарный итерационный процесс; сходится, если матрица диагонально преобладает.
• метод Гаусса — Зейделя — использует уже обновлённые значения неизвестных внутри итерации; обычно сходится быстрее Якоби.
• Методы Крылова — современные подпространственные методы: сопряжённых градиентов (для симметричных положительно определённых матриц), GMRES, BiCGSTAB (для несимметричных).
• Многосеточные методы — наиболее эффективный класс методов для эллиптических уравнений; используют иерархию сеток для подавления всех частот ошибки.

Число обусловленности матрицы ${\displaystyle \mu (A)=\|A\|\cdot \|A^{-1}\|}$ характеризует чувствительность решения к возмущениям входных данных. При больших ${\displaystyle \mu (A)}$ система называется плохо обусловленной, и даже малые погрешности коэффициентов могут привести к большим ошибкам решения. Регуляризация по Тихонову — стандартный приём работы с такими системами.

Линейное уравнение — простейший и наиболее полно изученный тип уравнений, к которому сводятся многие задачи. Линеаризация — замена нелинейной зависимости линейной вблизи заданной точки — лежит в основе дифференциального исчисления: уравнение касательной ${\displaystyle y=f(x_{0})+f'(x_{0})(x-x_{0})}$ линейно, и именно оно даёт наилучшее приближение функции первого порядка. На той же идее основан метод Ньютона решения уравнений: на каждом шаге нелинейное уравнение заменяется линейным^[13].

Линейная интерполяция восстанавливает промежуточные значения таблично заданной функции по прямой, проведённой через соседние узлы. Метод наименьших квадратов подбирает прямую ${\displaystyle y=kx+m}$, наилучшим образом описывающую опытные данные; параметры ${\displaystyle k}$ и ${\displaystyle m}$ находятся из системы двух линейных уравнений (нормальных уравнений). В современной вычислительной математике решение разреженных систем линейных уравнений (возникающих, например, при конечно-разностной аппроксимации уравнений в частных производных) является одной из ключевых вычислительных задач.

Многие физические законы имеют вид линейных соотношений в определённых пределах: закон Ома ${\displaystyle U=IR}$, закон Гука ${\displaystyle F=-kx}$, второй закон Ньютона при постоянной массе. Расчёт разветвлённых электрических цепей по правилам Кирхгофа сводится к решению системы линейных уравнений.

Уравнения материального и энергетического баланса в химической технологии, уравнения статики в строительной механике, задачи расчёта ферм и рам также приводят к линейным уравнениям. В квантовой механике уравнение Шрёдингера линейно по волновой функции, что обеспечивает принцип суперпозиции квантовых состояний. Стационарные состояния находят как решения линейной задачи на собственные значения ${\displaystyle {\hat {H}}\psi =E\psi }$.

В теории упругости уравнения Навье — Коши линейны по перемещениям; в гидродинамике линеаризованные уравнения Навье — Стокса описывают медленные течения вязкой жидкости (течение Стокса).

Линейные уравнения — основа многих алгоритмов машинного обучения:

• Линейная регрессия — задача аппроксимации данных линейной моделью; сводится к решению нормальных уравнений ${\displaystyle X^{T}X\beta =X^{T}y}$ или к задаче наименьших квадратов.
• Метод опорных векторов (SVM) — линейный классификатор, разделяющий классы гиперплоскостью с максимальным зазором; в основе — задача квадратичного программирования с линейными ограничениями.
• Линейный дискриминант Фишера — находит линейную комбинацию признаков, максимизирующую разделимость классов.

В компьютерной графике все аффинные преобразования (перенос, поворот, масштабирование, сдвиг) записываются как линейные уравнения в однородных координатах: ${\displaystyle \mathbf {x} '=M\mathbf {x} }$, где ${\displaystyle M}$ — матрица ${\displaystyle 4\times 4}$. Это позволяет объединять преобразования через умножение матриц.

В теории кодирования линейные коды (коды Хэмминга, БЧХ, коды Рида — Соломона) определяются как подпространства векторного пространства над конечным полем; проверочная матрица кода задаёт систему линейных уравнений, которой должны удовлетворять кодовые слова.

Линейное программирование — раздел оптимизации, в котором и целевая функция, и ограничения линейны; ограничения-равенства суть линейные уравнения, а ограничения-неравенства задают полупространства, пересечение которых образует многогранник допустимых решений. Классические задачи этого типа — задача о смесях, транспортная задача, задача о раскрое. Алгоритм решения — Симплекс-метод, разработанный Дж. Данцигом в 1947 году.

Модель межотраслевого баланса (модель «затраты — выпуск»), предложенная В. В. Леонтьевым (Нобелевская премия по экономике, 1973), описывает связи между отраслями хозяйства системой линейных уравнений ${\displaystyle x=Ax+y}$, где ${\displaystyle x}$ — вектор валового выпуска, ${\displaystyle A}$ — матрица прямых затрат, а ${\displaystyle y}$ — вектор конечного потребления. Разрешимость модели эквивалентна условию, что матрица ${\displaystyle I-A}$ обратима, а её обратная (матрица Леонтьева) имеет неотрицательные элементы.

В финансовой математике линейные уравнения возникают при оценке портфелей ценных бумаг (модель Марковица), расчёте арбитражных цен и в задачах актуарной математики.

Линейные стационарные системы описываются уравнениями состояния ${\displaystyle {\dot {\mathbf {x} }}=A\mathbf {x} +B\mathbf {u} }$, ${\displaystyle \mathbf {y} =C\mathbf {x} +D\mathbf {u} }$. Условия управляемости и наблюдаемости, критерии устойчивости (Рауса — Гурвица, Найквиста) и синтез регуляторов (LQR, LQG) опираются на свойства решений линейных уравнений и матричных уравнений (Ляпунова, Риккати, Сильвестра).

Многие задачи школьного курса сводятся к одному линейному уравнению. Например: «Турист прошёл расстояние между двумя посёлками за 3 часа, а на обратном пути, увеличив скорость на 1 км/ч, — за 2 часа 30 минут. Найти расстояние». Обозначив первоначальную скорость через ${\displaystyle v}$, получаем ${\displaystyle 3v=2{,}5(v+1)}$, откуда ${\displaystyle 0{,}5v=2{,}5}$, ${\displaystyle v=5}$ км/ч, а расстояние равно 15 км.