Дорогов Александр Юрьевич

Санкт-Петербургский государственный электротехнический университет, ПАО «Информационные телекоммуникационные технологии»

В работе исследуется пластичность многослойных модульных нейронных сетей, обладающих характеристическим свойством самоподобия. Для оценки пластичности используется известное из механики понятие степеней свободы. Число степеней свободы сети оценивается максимальной размерностью операторного многообразия нейронной сети, образованного вариацией параметров нейронных модулей и наличием межмодульных связей. Для получения оценок пластичности нейронные модули рассматриваются как линейные операторы фиксированного ранга. Получены расчетные формулы для вычисления размерности операторного многообразия нейронного модуля вне и в составе сети. Нейронная сеть рассматривается, как двойственный оператор сложной структуры, входом и выходом которого являются векторные пространства. На уровне структурной модели вводится понятие модальных состояний сети, характеризующих размерности векторных подпространств на входе и выходе нейронных модулей в составе сети. Оценка размерности многообразия сети выполняется через ее модальные состояния. Отмечено, что самоподобные сети принадлежат классу слабосвязанных сетей, для которых расчет модальных состояний не вызывает трудностей. Получены точные формулы расчета степени пластичности слабосвязанных нейронных сетей, Результаты анализа использованы для оценки пластичности быстрых нейронных сетей (БНС), и их подмножества - пирамидальных БНС прямой и обратной ориентации.

Нейронная сеть, структурная модель, самоподобие, модальные состояния, пластичность, степени свободы