АссистентНовый вопросИсторияОбласти знаний
Партнёрские проектыСпецпроектыСтать автором
Сменить язык
О РУВИКИ

Эволюционное приобретение нейронных топологий

Эволюционное приобретение нейронных топологий (англ. Evolutionary acquisition of neural topologies, EANT, EANT2) — это эволюционный метод обучения с подкреплением, который одновременно оптимизирует топологию и веса искусственных нейронных сетей, начиная с минимально простых структур, постепенно усложняющихся в процессе эволюции[1]. Вторая версия метода (EANT2) использует продвинутый алгоритм CMA-ES специально для оптимизации весов[1]. Метод тесно связан с работами Петера Анжелина[2] и Мийккюляйнена[3].

Вклад EANT в нейроэволюцию

Несмотря на общность вышеуказанных черт, метод обладает рядом важных отличительных особенностей по сравнению с предыдущими работами в области нейроэволюции.

В частности, в 2007 году была предложена концепция общего генетического кодирования (CGE)[4], позволяющая совмещать прямое и косвенное кодирование нейронных сетей в единой теоретической рамке. Это кодирование характеризуется следующими важными свойствами, полезными для эволюции нейросетей:

  1. Оно является полным, то есть способно описывать любые допустимые фенотипические нейронные сети.
  2. Оно является замкнутым: любой допустимый генотип однозначно соответствует допустимому фенотипу (аналогично, кодирование замкнуто и относительно генетических операторов, таких как структурные мутации и кроссовер).

Данные свойства были формально доказаны[5].

Для эволюции структуры и весов нейронных сетей применяется процесс, в котором изучение структуры (структурная эксплорация) происходит на большем временном масштабе, а использование структуры (структурная эксплуатация) — на меньшем. На этапе исследовательской фазы новые нейронные структуры строятся путём постепенного добавления элементов к изначально минимальной сети, используемой в качестве отправной точки. Затем, на этапе эксплуатационной фазы, веса уже имеющихся структур оптимизируются с помощью эволюционной стратегии. В версии EANT2 для оптимизации весов на этом этапе применяется алгоритм CMA-ES[1], а также изменён подход к структурным мутациям — внедрён метод обрезки (pruning) ненужных связей[6].

Производительность

Алгоритм EANT был протестирован на ряде тестовых задач, включая задачу балансировки двойного маятника и RoboCup (тест keepaway)[7]. Во всех случаях EANT показывал высокие результаты. Более новая версия, EANT2, была протестирована на задаче визуального сервоуправления и превзошла алгоритмы NEAT и классический итерационный метод Гаусса — Ньютона[8]. Другие эксперименты касались задач классификации[9]. В 2008 году была предложена модификация Online-EANT, направленная на улучшение производительности в задачах онлайн-обучения с подкреплением за счёт лучшего баланса между исследованием (exploration) и использованием (exploitation)[10].

Примечания

  1. ↑ 1 2 3 Evolutionary Acquisition of Neural Topologies, Version 2 (EANT2). Siebel Research. Дата обращения: 29 мая 2026.
  2. ↑ Peter J. Angeline, Gregory M. Saunders, Jordan B. Pollack. An evolutionary algorithm that constructs recurrent neural networks. IEEE Transactions on Neural Networks, 5:54–65, 1994. [1]
  3. ↑ NeuroEvolution of Augmenting Topologies (NEAT) by Stanley and Miikkulainen, 2005 [2]
  4. ↑ Common Genetic Encoding for Both Direct and Indirect Encodings of Networks. University of York (2007). Дата обращения: 29 мая 2026.
  5. ↑ Yohannes Kassahun, Mark Edgington, Jan Hendrik Metzen, Gerald Sommer, Frank Kirchner. Common Genetic Encoding for Both Direct and Indirect Encodings of Networks. In: Proceedings of the Genetic and Evolutionary Computation Conference (GECCO 2007), London, UK, 1029–1036, 2007. [3]
  6. ↑ fluffy-penguin (EANT2 implementation). GitHub. Дата обращения: 29 мая 2026.
  7. ↑ Jan Hendrik Metzen, Mark Edgington, Yohannes Kassahun, Frank Kirchner. Performance Evaluation of EANT in the RoboCup Keepaway Benchmark. In: Proceedings of the Sixth International Conference on Machine Learning and Applications (ICMLA 2007), 342–347, США, 2007. [4]
  8. ↑ Nils T. Siebel, Gerald Sommer. Evolutionary reinforcement learning of artificial neural networks. International Journal of Hybrid Intelligent Systems 4(3): 171–183, октябрь 2007. [5]
  9. ↑ Nils T. Siebel, Gerald Sommer. Learning Defect Classifiers for Visual Inspection Images by Neuro-evolution using Weakly Labelled Training Data. Proceedings of the IEEE Congress on Evolutionary Computation (CEC 2008), 3926–3932, Гонконг, июнь 2008. [6]
  10. ↑ Online-EANT modification. GECCO 2008 (2008). Дата обращения: 29 мая 2026.

Категории