ANFIS

Первый слой сети ANFIS принципиально отличается от многослойных нейронных сетей. В стандартных нейросетях проводится предварительная обработка данных, преобразующая признаки к значениям от 0 до 1. В ANFIS не используется сигмоидальная функция, однако осуществляется преобразование числовых данных в нечёткие значения.

Например, если на вход подается расстояние между двумя точками на плоскости в диапазоне от 0 до 500 пикселей, то преобразование в нечёткое число делается с помощью функции принадлежности с семантическими описаниями: «близко», «средне», «далеко»^[8]. Каждая возможная лингвистическая категория реализована отдельной нейронной единицей: например, "близко" активируется в диапазоне от 0 до 1, если расстояние попадает в эту категорию; аналогично для "средне" и "далеко". Таким образом, входное значение «расстояние в пикселях» представлено тремя нейронами.

Степень принадлежности определяется формулой колоколообразной функции:

${\displaystyle \mu _{A_{i}}(x)={\frac {1}{1+\left({\frac {x-c_{i}}{a_{i}}}\right)^{2b_{i}}}}}$

где ${\displaystyle x}$ — входная переменная, ${\displaystyle A_{i}}$ — i-й лингвистический термин, ${\displaystyle i=1,...,n}$. Аналогично, для входа ${\displaystyle y}$ задаются термины ${\displaystyle B_{j}}$. Нейроны слоя являются адаптивными, параметры ${\displaystyle \{a_{i},b_{i},c_{i}\}}$ оптимизируются в процессе обучения. Выход слоя — соответствующая степень принадлежности:

${\displaystyle O_{i}^{1}=\mu _{A_{i}}(x)}$

Вторая слой вычисляет веса ${\displaystyle w_{i}}$ как произведение степеней принадлежности предыдущего слоя:

${\displaystyle O_{i}^{2}=w_{i}=\mu _{A_{i}}(x)\cdot \mu _{B_{i}}(y)}$

Третий слой осуществляет нормализацию весов для каждого правила:

${\displaystyle O_{i}^{3}={\bar {w}}_{i}={\frac {w_{i}}{\sum _{i}w_{i}}}}$

Этот слой адаптивен — параметры консеквент ${\displaystyle \{p_{i},q_{i},r_{i}\}}$ настраиваются в процессе обучения, их количество на единицу больше числа входов. Применяется полином первого порядка: ${\displaystyle f_{i}=p_{i}x+q_{i}y+r_{i}}$.

${\displaystyle O_{i}^{4}={\bar {w}}_{i}f_{i}}$

Финальный слой АНФИС формирует единственный выход, равный сумме входов с предыдущего слоя:

${\displaystyle O_{i}^{5}=\sum _{i}{\bar {w}}_{i}f_{i}}$

С момента появления ANFIS были предложены различные подходы к обучению, направленные на повышение эффективности. Их обычно делят на производные, эвристические и гибридные методы.