Пространство параметров

• Простая модель ухудшения здоровья после развития рака лёгких может включать два параметра: пол^[2]. и курящий/некурящий. В этом случае пространство параметров — это следующее множество из четырёх вариантов: {(Мужчина, Курящий), (Мужчина, Некурящий), (Женщина, Курящий), (Женщина, Некурящий)} .

• Логистическое отображение ${\displaystyle x_{n+1}=rx_{n}(1-x_{n})}$ имеет один параметр r, который может принимать любые положительные значения. Таким образом, пространство параметров — это положительные действительные числа.

Для некоторых значений r эта функция циклически принимает несколько значений или фиксируется на одном значении. Эти долгосрочные значения можно изобразить на графике по оси r в виде диаграммы бифуркаций, чтобы показать различные типы поведения функции при разных значениях r.

• В модели синусоиды ${\displaystyle y(t)=A\cdot \sin(\omega t+\phi ),}$ параметрами являются амплитуда A > 0, циклическая частота ω > 0 и фаза φ ∈ S¹. Таким образом, пространство параметров — ${\displaystyle R^{+}\times R^{+}\times S^{1}.}$

• В комплексной динамике пространство параметров — это комплексная плоскость C = { z = x + y i : x, y ∈ R }, где i² = −1.

Знаменитое множество Мандельброта является подмножеством этого пространства параметров, состоящим из точек на комплексной плоскости, для которых при многократном применении определённой итерационной функции из этой точки получается ограниченное множество чисел. Оставшиеся точки, не входящие в это множество, при повторном применении функции дают неограниченное множество чисел (стремятся к бесконечности).

• В машинном обучении гиперпараметры используются для описания моделей. В глубоком обучении параметры глубокой сети называют весами. Из-за слоистой структуры глубоких сетей их пространство весов обладает сложной структурой и геометрией^[3][4]. Например, в многослойных перцептронах одна и та же функция сохраняется при перестановке узлов скрытого слоя, что эквивалентно перестановке весовых матриц сети. Это свойство известно как эквивариантность к перестановке в глубоких пространствах весов^[3]. Изучается задача оптимизации гиперпараметров.

Понятие пространства параметров способствовало освобождению геометрии от ограничений трёхмерного пространства. Например, пространство параметров сфер в трёхмерном пространстве имеет четыре измерения — три для центра сферы и одно для радиуса. По словам Дирка Струика, именно книга Neue Geometrie des Raumes (1849) Юлиуса Плюккера показала:

...геометрия не обязательно должна основываться только на точках как базовых элементах. Линии, плоскости, окружности, сферы — всё это может быть использовано как элементы (Raumelemente), на которых может строиться геометрия. Эта плодотворная концепция пролила новый свет как на синтетическую, так и на алгебраическую геометрию и создала новые формы двойственности. Число измерений конкретной формы геометрии теперь могло быть любым положительным числом, в зависимости от числа параметров, необходимых для определения «элемента»^[5].

Необходимость в более высоких измерениях иллюстрируется геометрией прямых Плюккера. Струик пишет:

[Геометрия] Плюккера прямых в трёхмерном пространстве может рассматриваться как четырёхмерная геометрия или, как подчёркивал Кляйн, как геометрия четырёхмерного квадрика в пятимерном пространстве^[5].

Таким образом, квадрика Кляйна описывает параметры прямых в пространстве.