Патологические явления в математике

Классическим примером патологии является Функция Вейерштрасса, функция, которая непрерывна всюду, но нигде не дифференцируема^[1]. Сумма дифференцируемой функции и функции Вейерштрасса снова будет непрерывной, но нигде не дифференцируемой; таким образом, таких функций не меньше, чем дифференцируемых функций. Более того, с помощью теоремы о категории Бэра можно показать, что непрерывные функции генерически нигде не дифференцируемы^[2].

Подобные примеры считались патологическими при их открытии. Приведём цитату Анри Пуанкаре:^[3]

С момента Пуанкаре нигде не дифференцируемые функции были обнаружены в базовых физических и биологических процессах, таких как Броуновское движение, а также в приложениях, например, в модели Блэка — Шоулза в финансах.

Книга Counterexamples in Analysis полностью посвящена подобным контрпримерам^[4].

Другим примером патологической функции является функция Дю Буa-Реймона, которая не может быть представлена в виде ряда Фурье^[5].

Известным контрпримером в топологии является Рогатая сфера Александера, показывающая, что топологическое вложение сферы S² в R³ может не разделять пространство на две части. Этот контрпример побудил математиков ввести свойство укротимости, которое исключает дикое поведение, проявляющееся у рогатой сферы, диких узлов и других подобных примеров^[6].

Как и многие другие патологии, рогатая сфера использует бесконечно тонкую, рекурсивно построенную структуру, которая в пределе нарушает обычную интуицию. В этом случае топология бесконечно убывающей цепи взаимно переплетённых петель непрерывных частей сферы в пределе полностью отражает топологию обычной сферы, и можно было бы ожидать, что внешняя область после вложения будет вести себя так же. Однако это не так: она не является просто связной.

Теоретические основы см. в статье Теорема Жордана — Шёнфлиса.

Книга Counterexamples in Topology также посвящена подобным контрпримерам^[7].

В серии из четырёх статей, опубликованных в American Journal of Mathematics с 1961 по 1975 год, Дэвид Мамфорд исследовал «патологическое» поведение в алгебраической геометрии.^{[8][9][10][11]} Его примеры делятся на два типа: (a) плохое поведение в характеристике p и (b) плохое поведение в модули пространствах.

Мамфорд писал в статье 1962 года Further Pathologies in Algebraic Geometry:

Нерегулярное многообразие в характеристике p аналогично общему не-Келеровому комплексному многообразию; в частности, проективное вложение такого многообразия не так сильно, как Келерова метрика на комплексном многообразии, и теоремы Ходжа—Лефшеца—Дольбо о когомологиях пучков нарушаются во всех возможных отношениях^[12].

1. В Pathologies I (Pathologies of Modular Algebraic Surfaces) Мамфорд (a) находит всюду регулярную дифференциальную форму на гладкой проективной поверхности, которая не является замкнутой, и показывает, что Симметрия Ходжа не выполняется для классических поверхностей Энрикеса в характеристике два. Этот пример далее развивается в третьей статье Мамфорда по классификации поверхностей в характеристике p (совместно с Энрико Бомбьери). Это можно объяснить с помощью схемы Пикара поверхности, в частности, её несводимости к редуцированной схеме, что подробно рассматривается в книге Мамфорда Lectures on Curves on an Algebraic Surface. Патологии, связанные с p-кручением в кристаллической когомологии, позднее исследовал Люк Иллюзи^[13].
2. В Pathologies II (Further Pathologies in Algebraic Geometry) Мамфорд (a) приводит простой пример поверхности в характеристике p, где геометрический род не равен нулю, но второе число Бетти равно рангу группы Нерона — Северри. Подобные примеры встречаются в теории поверхностей Зариского. Он также выдвинул гипотезу, что теорема Кодаиры о затухании неверна для поверхностей в характеристике p. Мамфорд также (b) обнаружил, что схема Гильберта, параметризующая пространственные кривые степени 14 и рода 24, имеет кратный компонент. В 2006 году Рави Вакил в своей статье «Murphy's law in algebraic geometry» показал, что схемы Гильберта могут быть сколь угодно «плохими», с неограниченным числом компонент и сколь угодно большими кратностями^[14].
3. В Pathologies III он (a) приводит пример нормальной поверхности, для которой не выполняется затухание Кодаиры. Первый пример гладкой поверхности, для которой не выполняется затухание Кодаиры, был дан Мишелем Рено в 1978 году.
4. В Pathologies IV он (b) находит редуцированные и неприводимые полные кривые, которые не являются специализациями неособых кривых.

Математики (и специалисты смежных наук) часто говорят о том, является ли математический объект — функция, множество, пространство того или иного рода — «хорошо определённым». Хотя этот термин не имеет фиксированного формального определения, обычно он означает выполнение некоторого набора общепринятых условий, которые могут зависеть от контекста, математических интересов, моды и вкуса. Чтобы гарантировать «хорошую определённость» объекта, математики вводят дополнительные аксиомы, сужая область исследования. Это облегчает анализ, но приводит к потере общности получаемых выводов.

В чистой и прикладной математике (например, оптимизация, численное интегрирование, математическая физика) хорошо определённый также означает, что не нарушаются предположения, необходимые для успешного применения рассматриваемого анализа.

Противоположный случай обычно называют «патологическим». Нередко встречаются ситуации, когда большинство случаев (в терминах мощности или меры) являются патологическими, но такие случаи не встречаются на практике — если только не построены специально.

Термин «хорошо определённый» обычно применяется в абсолютном смысле — либо объект хорошо определён, либо нет. Например:

• В алгоритмическом выводе хорошо определённая статистика является монотонной, однозначной и достаточной.
• В теореме Безу два многочлена считаются хорошо определёнными, и формула для числа их пересечений справедлива, если их наибольший общий делитель многочленов — константа.
• Мероморфная функция — это отношение двух хорошо определённых функций, в смысле того, что обе они голоморфны.
• Условия Каруша — Куна — Таккера — необходимые условия первого порядка для оптимальности решения в хорошо определённой задаче нелинейного программирования; задача считается хорошо определённой, если выполнены некоторые регулярные условия.
• В теории вероятностей события, принадлежащие сигма-алгебре вероятностного пространства, считаются хорошо определёнными, как и измеримые функции.

Иногда термин применяется и в сравнительном смысле:

• В анализе:
  • Аналитические функции лучше определены, чем общие гладкие функции.
  • Гладкие функции лучше определены, чем просто дифференцируемые.
  • Непрерывные дифференцируемые функции лучше определены, чем просто непрерывные. Чем больше раз функция дифференцируема, тем она «лучше определена».
  • Непрерывные функции лучше определены, чем риманно-интегрируемые на компакте.
  • Риманно-интегрируемые функции лучше определены, чем лебегово-интегрируемые.
  • Лебегово-интегрируемые функции лучше определены, чем произвольные функции.
• В топологии:
  • Непрерывные функции лучше определены, чем разрывные.
  • Евклидово пространство лучше определено, чем неевклидова геометрия.
  • Притягательные неподвижные точки лучше определены, чем отталкивающие.
  • Гаусдорфовы топологии лучше определены, чем произвольные общие топологии.
  • Борелевские множества лучше определены, чем произвольные множества вещественных чисел.
  • Пространства с целой размерностью лучше определены, чем пространства с фрактальной размерностью.
• В абстрактной алгебре:
  • Группы лучше определены, чем магмы и полугруппы.
  • Абелевы группы лучше определены, чем неабелевы.
  • Конечно порождённые абелевы группы лучше определены, чем бесконечно порождённые.
  • Конечномерные векторные пространства лучше определены, чем бесконечномерные.
  • Поля лучше определены, чем нетривиальные тела или общие кольца.
  • Сепарабельные расширения полей лучше определены, чем несепарабельные.
  • Нормированные дивизионные алгебры лучше определены, чем общие композиционные алгебры.

Патологические примеры часто обладают нежелательными или необычными свойствами, которые затрудняют их включение или объяснение в рамках существующей теории. Такие патологические явления часто становятся стимулом для новых исследований, приводящих к созданию новых теорий и более общих результатов. Некоторые важные исторические примеры:

• Ранжированное голосование часто описывается как патологическая социальная функция выбора, поскольку оно может приводить к исключению кандидатов за слишком большое число голосов^[15].
• Открытие иррациональных чисел школой Пифагора в Древней Греции; например, длина диагонали единичного квадрата, то есть ${\displaystyle {\sqrt {2}}}$.
• Открытие комплексных чисел в XVI веке для нахождения корней кубических и четвёртых степеней многочленов.
• Некоторые числовые поля имеют кольца целых чисел, которые не являются областями уникальной факторизации, например, расширенное поле ${\displaystyle \mathbb {Q} ({\sqrt {-5}})}$.
• Открытие фракталов и других «шероховатых» геометрических объектов (см. Размерность Хаусдорфа).
• Функция Вейерштрасса — вещественнозначная функция на вещественной прямой, которая непрерывна всюду, но нигде не дифференцируема^[1].
• Тестовые функции в реальном анализе и теории распределений — это бесконечно дифференцируемые функции на вещественной прямой, равные нулю вне заданного интервала. Пример такой функции:

$${\displaystyle \varphi (t)={\begin{cases}e^{-1/(1-t^{2})},&-1<t<1,\\0,&{\text{иначе}}.\end{cases}}}$$

• Множество Кантора — подмножество интервала ${\displaystyle [0,1]}$, имеющее меру ноль, но несчётное.
• Жирное множество Кантора — всюду нигде не плотное, но имеет положительную меру.
• Функция Фабиуса — всюду гладкая, но нигде не аналитическая.
• Функция Вольтерра — дифференцируема с ограниченной производной всюду, но производная не риманно-интегрируема.
• Кривая Пеано — непрерывная сюръективная функция, отображающая единичный интервал ${\displaystyle [0,1]}$ на ${\displaystyle [0,1]\times [0,1]}$.
• Функция Дирихле, являющаяся характеристической функцией рациональных чисел, — ограниченная функция, не являющаяся риманно-интегрируемой.
• Функция Кантора — монотонная непрерывная сюръекция из ${\displaystyle [0,1]}$ в ${\displaystyle [0,1]}$, но её производная равна нулю почти всюду.
• Функция вопросительный знак Минковского — непрерывна и строго возрастает, но производная равна нулю почти всюду.
• Классы истинности, содержащие «интуитивно ложные» арифметические утверждения, могут быть построены для счётных, рекурсивно насыщенных моделей арифметики Пеано.
• Кривая Осгуда — кривая Жордана (в отличие от большинства заполняющих пространство кривых) положительной площади.
• Экзотическая сфера — гомеоморфна, но не диффеоморфна стандартной евклидовой n-сфере.

На момент открытия каждый из этих примеров считался крайне патологическим; сегодня все они интегрированы в современную математическую теорию. Эти примеры заставляют пересматривать интуицию и, в некоторых случаях, пересматривать фундаментальные определения и понятия. Со временем они привели к более точной и мощной математике. Например, функция Дирихле лебегово интегрируема, а свёртка с тестовыми функциями позволяет аппроксимировать любую локально интегрируемую функцию гладкими функциями.

Патологичность поведения по определению зависит от личной интуиции. Патологии зависят от контекста, подготовки и опыта, и то, что для одного исследователя является патологией, для другого может быть стандартным поведением.

Патологические примеры могут показывать важность предположений теоремы. Например, в статистике распределение Коши не удовлетворяет центральной предельной теореме, хотя его симметричная колоколообразная кривая похожа на многие другие распределения; оно не удовлетворяет требованию существования конечных среднего и стандартного отклонения.

Некоторые из самых известных парадоксов, такие как Парадокс Банаха — Тарского и Парадокс Хаусдорфа, основаны на существовании немеримых множеств. Математики, если только они не занимают меньшинство, отрицающее аксиому выбора, в целом вынуждены мириться с такими множествами.

В информатике термин патологический имеет немного иной смысл применительно к исследованию алгоритмов. Здесь входные данные (или их набор) называются патологическими, если они вызывают нетипичное поведение алгоритма, например, нарушение его средней сложности или даже корректности. Например, хеш-таблицы обычно имеют патологические входы: наборы ключей, которые коллидируют по хеш-значениям. Быстрая сортировка обычно имеет сложность ${\displaystyle O(n\log {n})}$, но на некоторых входах может работать за ${\displaystyle O(n^{2})}$.

Термин часто используется в уничижительном смысле, чтобы отмахнуться от таких входов как специально сконструированных для «ломки» алгоритма, который в остальном работает корректно (ср. с византийским сбоем). С другой стороны, знание о патологических входах важно, так как их можно использовать для атаки типа «отказ в обслуживании» на компьютерную систему. Кроме того, как и в других случаях, вопрос о патологичности субъективен. При достаточно большом времени работы и разнообразии пользователей (или других факторов) вход, который считался патологическим, может встретиться на практике (как это произошло на первом испытательном запуске Ariane 5).

Похожим, но отличающимся явлением являются исключительные объекты (и исключительные изоморфизмы), когда существует «малое» число исключений из общего правила (например, конечное число исключений из бесконечного правила). В отличие от патологии, часто большинство или почти все случаи явления являются патологическими (например, почти все вещественные числа иррациональны).

Субъективно исключительные объекты (такие как икосаэдр или спорадические простые группы) обычно считаются «красивыми», неожиданными примерами теории, тогда как патологические явления часто воспринимаются как «уродливые», что отражено в названии. Соответственно, теории обычно расширяют, чтобы включить исключительные объекты. Например, исключительные алгебры Ли включаются в теорию полупростых алгебр Ли: аксиомы считаются хорошими, исключительные объекты — неожиданными, но допустимыми.

Патологические примеры, напротив, указывают на недостаточность аксиом, требуя их усиления для исключения патологии. Например, требование укротимости вложения сферы в проблеме Шёнфлиса. В целом можно изучать как более общую теорию, включающую патологии (что может дать свои упрощения: вещественные числа имеют свойства, отличные от рациональных, а непрерывные отображения — от гладких), так и более узкую теорию, из которой исходно были взяты примеры.