Быстрые преобразования и самоподобные нейронные сети глубокого обучения. Часть 2. Методы обучения быстрых нейронных сетей
Дорогов Александр Юрьевич
ПАО «Информационные телекоммуникационные технологии» («Интелтех»), Санкт-Петербургский государственный электротехнический университет
В работе отмечено, что быстрые нейронные сети (БНС) автомодельны алгоритму быстрого преобразования Фурье (БПФ). Представлен метод построения матричной формы алгоритма быстрого преобразования. Доказана факторизуемость элементов матрицы БНС по элементам нейронных ядер. Предложен метод мультипликативной факторизации произвольных одномерных образов. Показано, что благодаря своей структуре быстрые нейронные сети обладают особыми алгоритмами обучения, которые принципиально отличаются от классического ErrorBackPropagation отсутствием механизма обратного распространения ошибки. Рассмотренные алгоритмы обучения БНС основаны на предложенных в работе методах мультипликативной факторизации образов и быстрых преобразований. Показаны примеры настройки сети к ортогональному базису Адамара, базису Фурье, а также БНС-реализации квазифракталов Кантора и Серпинского. Описан метод настройки быстрых преобразований на эталонную функцию, основанный на методе фрактальной фильтрации сигналов. Предложен метод настройки ортогональных приспособленных преобразований. Приведены примеры. Данная работа является второй частью обобщающей статьи «Быстрые преобразования и самоподобные нейронные сети глубокого обучения». В первой части рассмотрены стратифицированные модели самоподобных нейронных сетей.
быстрые преобразования, быстрые нейронные сети, топологические матрицы, ортогональность, приспособленные преобразования