Дискриминантный анализ

Дискриминантный анализ — раздел вычислительной математики и статистики, включающий методы для классификации объектов по заранее известным группам на основе набора признаков.

Метод, основанный на поиске линейной комбинации признаков, максимизирующей разделение между классами.

Обобщение линейного метода для нескольких групп, использующее канонические переменные.

Вероятностный метод классификации, оценивающий вероятность принадлежности к классам через логистическую функцию.

Дискриминантный анализ позволяет отнести выпускников к одной из трех категорий: поступающие в колледж, профессиональную школу или отказавшиеся от дальнейшего образования, на основе исследуемых переменных.

В медицине метод используется для прогнозирования степени выздоровления пациента (полное, частичное, отсутствие) на основе регистрируемых клинических переменных.

Дискримина́нтный ана́лиз — раздел вычислительной математики, представляющий набор методов статистического анализа для решения задач распознавания образов, который используется для принятия решения о том, какие переменные разделяют (то есть «дискриминируют») возникающие наборы данных (так называемые «группы»). В отличие от кластерного анализа в дискриминантном анализе группы известны априори.

Линейный дискриминант Фишера
Канонический или линейный дискриминантный анализ (англ. Linear Discriminant Analysis, LDA^[1]).
Логистическая регрессия.

Например, некий исследователь в области образования может захотеть исследовать, какие переменные относят выпускника средней школы к одной из трех категорий: поступающий в колледж, поступающий в профессиональную школу, отказывающийся от дальнейшего образования.

Медик может регистрировать различные переменные, относящиеся к состоянию больного, чтобы выяснить, какие переменные лучше показывают, что пациент, вероятно, выздоровел полностью, частично или совсем не выздоровел.

Теорема Байеса

↑ Library: Linear Discriminant Analysis method (недоступная ссылка)

Боровиков В. П. Искусство анализа данных, 2-е издание, ПИТЕР, 2005

Дискриминантный анализ
Модели для прогнозирования
Дискриминантный анализ и нейронные сети в фондовом прогнозировании
[1]

[1] Library: Linear Discriminant Analysis method (недоступная ссылка)

[1]

Машинное обучение и data mining
Задачи	Задача классификации Обучение без учителя Обучение с частичным привлечением учителя Регрессионный анализ AutoML Ассоциативные правила Выделение признаков Обучение признакам Обучение ранжированию Грамматический вывод Онлайновое обучение
Обучение с учителем	Метод k-ближайших соседей Наивный байесовский классификатор Дерево решений Метод опорных векторов Линейная регрессия Логистическая регрессия Перцептрон Ансамблевое обучение Бэггинг Бустинг Random forest Метод релевантных векторов
Кластерный анализ	Метод k-средних Метод нечёткой кластеризации Иерархическая кластеризация EM-алгоритм BIRCH CURE DBSCAN OPTICS Mean-shift
Снижение размерности	Факторный анализ Метод главных компонент CCA ICA LDA Неотрицательное матричное разложение t-SNE
Структурное прогнозирование	Графовая вероятностная модель Байесовская сеть Скрытая марковская модель CRF
Выявление аномалий	Метод k-ближайших соседей Локальный уровень выброса
Графовые вероятностные модели	Байесовская сеть Марковская сеть Скрытая марковская модель
Нейронные сети	Ограниченная машина Больцмана Самоорганизующаяся карта Функция активации Сигмоида Softmax Радиально-базисная функция Метод обратного распространения ошибки Глубокое обучение Многослойный перцептрон Рекуррентная нейронная сеть Долгая краткосрочная память Управляемый рекуррентный блок Свёрточная нейронная сеть U-Net Автокодировщик
Обучение с подкреплением	Марковский процесс Уравнение Беллмана Жадный алгоритм Q-обучение SARSA Temporal difference (TD)
Теория	Теория Вапника — Червоненкиса Дилемма смещения–дисперсии Теория вычислительного обучения Минимизация эмпирического риска Оккамово обучение PAC learning Статистическая теория обучения
Журналы и конференции	NeurIPS ICML ML JMLR ArXiv:cs.LG
Персоналии	Ричард Саттон Эндрю Барто

Дискриминантный анализ

Методы дискриминантного анализа

Примеры

См. также

Примечания

Литература

Ссылки

Дополнительно по теме

Категории