Нейронный процессор

Нейронные процессоры относятся к вычислительной технике и применяются для аппаратного ускорения эмуляции работы нейронных сетей и цифровой обработки сигналов в режиме реального времени. Обычно нейропроцессор включает регистры, магазинные блоки памяти, коммутатор и вычислительное устройство, в составе которого — матрица умножения, дешифраторы, триггеры и мультиплексоры^[2].

На современном этапе (по состоянию на 2017 год) к классу нейронных процессоров относят различные по устройству и назначению типы чипов, например:

• Нейроморфные процессоры — построенные по кластерной асинхронной архитектуре, разработанной в Корнеллском университете (существенно отличающейся от фон-Неймановской и Гарвардской архитектур, применявшихся последние 70 лет в IT-отрасли). Логика нейроморфных процессоров изначально специализирована под создание и развитие различных видов искусственных нейронных сетей. Используются обычные транзисторы для построения вычислительных ядер, каждое из которых содержит планировщик, собственную память SRAM и маршрутизатор, а ядро эмулирует работу сотен нейронов, что позволяет одной микросхеме с тысячами ядер имитировать поведение сотен тысяч нейронов и гораздо большего числа синапсов. Типично применяются для алгоритмов глубокого машинного обучения^[3].
• Тензорные процессоры — обычно реализуются как сопроцессоры под управлением центрального процессора, обрабатывают тензоры (многомерные массивы чисел, удобные для вычислений в машинном обучении)^[4]. Для повышения производительности операции выполняются над числами сниженной точности (8 или 16 бит), ускоряя такие задачи, как матричное умножение и свёртка, используемые для эмуляции свёрточных нейронных сетей^[5].
• Процессоры машинного зрения — схожи с тензорными, но специализированы для ускорения алгоритмов машинного зрения, включая методы свёрточных нейронных сетей (CNN) и SIFT. Акцент делается на распараллеливание потоков данных между многочисленными ядрами, в том числе с использованием блокнотной памяти, а также на обработку с пониженной точностью, характерную для обработки изображений^[6].

• Беспилотное транспортное средство: автомобиль, корабль, поезд, трамвай, летательный аппарат — это направление развивает компания Nvidia с серией Drive PX^[7][8]. А навигационная система на базе чипов Movidius Myriad 2 успешно управляет автономными беспилотниками^[9].
• Диагностика в здравоохранении.
• Машинный перевод.
• Обработка естественного языка.
• Поисковая система — NPU повышают энергоэффективность центров обработки данных и позволяют использовать более сложные запросы.
• Промышленный робот — NPU расширяют спектр автоматизируемых задач, повышая адаптивность к изменяющимся условиям.
• Распознавание по голосу — например, в смартфонах применяется технология Qualcomm Zeroth^[10].
• Сельскохозяйственный робот — например, автоматизированная борьба с сорняками без применения химикатов^[11].