Расстояние Итакуры — Сайто

Расстояние Итакуры — Сайто (дивергенция Итакуры — Сайто) — мера разности между оригинальным спектром ${\displaystyle P(\omega )}$ и его приближением ${\displaystyle {\hat {P}}(\omega )}$; предложена 1960-х годах сотрудниками NTT Фумитадой Итакурой и Сюдзо Сайто^[1].

Определяется как^[2]:

${\displaystyle D_{IS}(P(\omega ),{\hat {P}}(\omega ))={\frac {1}{2\pi }}\int _{-\pi }^{\pi }\left[{\frac {P(\omega )}{{\hat {P}}(\omega )}}-\log {\frac {P(\omega )}{{\hat {P}}(\omega )}}-1\right]\,d\omega }$.

Эта метрика не является истинной, поскольку несимметрична^[3] и в ней не выполняется неравенство треугольника.

Иногда применяется^[4] как функционал качества в машинном обучении^[5][6] и неотрицательном матричном разложении, то есть при необходимости представления матрицы ${\displaystyle X}$ как:

${\displaystyle \underbrace {X} _{l\times d}=\underbrace {W} _{l\times r}\cdot \underbrace {H} _{r\times d}}$.

В этом случае метрику можно записать в виде:

${\displaystyle \sum _{i=1}^{l}{\sum _{j=1}^{d}{\left({\frac {X_{ij}}{[WH]_{ij}}}-log{\frac {X_{ij}}{[WH]_{ij}}}-1\right)}}}$.