Методы многоуровневого проектирования быстродействующих модульных нейронных сетей прямого распространения на основе иерархических категорных моделей

Методы многоуровневого проектирования быстродействующих модульных нейронных сетей прямого распространения на основе иерархических категорных моделей

Автор: Дорогов, Александр Юрьевич

Шифр специальности: 05.13.01

Научная степень: Докторская

Год защиты: 2004

Место защиты: Санкт-Петербург

Количество страниц: 402 с. ил.

Артикул: 2636317

Автор: Дорогов, Александр Юрьевич

Стоимость: 250 руб.

ОГЛАВЛЕНИЕ
ВВЕДЕНИЕ
ГЛАВА 1. КОНЦЕПЦИИ СИСТЕМНОГО МОДЕЛИРОВАНИЯ НЕЙРОННЫХ СЕТЕЙ
1.1. Обзор направлений и тенденций развития нейротехнологии
1.2. Принципы системного моделирования нейронных сетей.
1.3. Концептуальный анализ биологических нейронных сетей.
1.3.1. Свойства и функции одиночных нервных клеток.
1.3.2. Структурная организация биологических нейронных сетей.
1.3.3. Концептуальная модель биологической нейронной сети
1.4. Математические модели нейронных сетей.
1.4.1. Модели одиночных нейронов.
1.4.2. Архитектура нейронных сетей прямого распространения.
1.4.3. Структурная оптимизация многослойных нейронных сетей
1.4.4. Методы оценки качественных характеристик нейронных сетей.
1.5. Модульные нейронные сети
1.6. Перестраиваемые спектральные преобразования и ядерные .
НЕЙРОННЫЕ СЕТИ
1.7. Средства технической реализации нейросетевых алгоритмов высокой размерности.
1.8. Концепция системного моделирования модульных нейронных сетей.
1.9. Результаты и выводы по главе
ГЛАВА 2. СИСТЕМНЫЕ МОДЕЛИ МОДУЛЬНЫХ НЕЙРОННЫХ СЕТЕЙ
2.1. Математические модели динамических модульных систем.
2.2. Системные модели общего положения.
2.3. Применение теории категории для исследования модульных систем
2.3.1. Системные характеристики математических категорий.
2.3.2. Геометрия несущих пространств.
2.3.3. Категории несущих пространств.
2.3.4. Категория общих систем.
2.4. Сигнальные категории модульных систем.
2.4.1. Категории модульных систем для объектов с однородными терминальными полями
2.4.2. Сигнальные категории для объектов с не однородными терминальными полями
2.4.3. Ориентированные категории модульных систем.
2.5. Топологические категории модульных систем.
2.6. Ориентированная модульная сеть в пространстве системных состояний.
2.7. Результаты и выводы по главе
ГЛАВА 3. МОДУЛЬНЫЕ НЕЙРОННЫЕ СЕТИ ПРЯМОГО РАСПРОСТРАНЕНИЯ.
3.1. Структурная модель модульной сети.
3.2. Алгоритм построения топологии модульной сети
3.3. Обучение модульных нейронных сетей
3.4. Многослойные ядерные нейронные сети.
3.4.1. Ранговые матрицы
3.4.2. Алгоритм построения топологии ядернои сети
3.4.3. Модель ядернои нейронной сети в операторной форме.
3.4.4. Матричные представления.
3.4.5. Обучение ядерных нейронных сетей
3.5. Результаты и выводы по главе
ГЛАВА 4. СТРУКТУРНЫЙ АНАЛИЗ МОДУЛЬНЫХ НЕЙРОННЫХ СЕТЕЙ.
4.1. Пластичность нейронных сетей
4.1.1. Операторные многообразия нейронных модулей
4.1.2. Модальные множества и отношения.
4.1.3. Модальные категории модульных нейронных сетей.
4.1.4. Ориентированные категории.
4.2. Пластичность модульных нейронных сетей.
4.3. Примеры расчета пластичности.
4.4. Оценка способности нейронной сети к аппроксимации многомерных отображений
4.5. Оценка способности нейронной сети к распознаванию образов .
4.6. Оценка обобщающей способности нейронной сети.
4.7. Операторный ранг модульной сети
4.8. Быстродействие ядерных нейронных сетей.
4.9. Топологическая пластичность нейронных сетей
4 Результаты и выводы по главе
ГЛАВА 5. СТРУКТУРНЫЙ СИНТЕЗ СЛАБОСВЯЗАННЫХ НЕЙРОННЫХ СЕТЕЙ.
5.1. Морфология слабосвязанных сетей
5.2. Генезис слабосвязанных сетей.
5.3. Алгоритмическая модель криэйтора.
5.3.1. Криэйторы общего вида
5.3.2. Криэйторы градуированных нейронных сетей.
5.3.3. Криэйторы ядерных нейронных сетей
5.4. Стратегии синтеза ядерных слабосвязанных сетей.
5.5. Структурный синтез регулярных сетей
5.5.1. Формальный язык регулярных сетей.
5.5.2. Алфавит языка и грамматика слов
5.5.3. Грамматика предложений.
5.5.4. Семантическая интерпретация предложений
5.5.5. Структурные свойства графических интерпретаций.
5.6. Пластичность слабосвязднных сетей
5.7. Результаты и выводы по главе.
ГЛАВА 6. ПРОЕКТИРОВАНИЕ БЫСТРЫХ НЕЙРОННЫХ СЕТЕЙ.
6.1. Структурный анализ алгоритмов БПФ
6.2. Парадигма быстрой нейронной сети.
6.3. Топологическое проектирование быстрых нейронных сетей
6.3.1. Топологии нейронных слоев.
6.3.2. Графическая интерпретация топологий.
6.3.3. Регулярные порождающие схемы
6.3.4. Граничные условия и топологические матрицы
6.3.5. Внешняя траектория топологий
6.4. АЛГОРИТМ ОБРАБОТКИ ДАННЫХ В БНС
6.5. Градиентное обучение БНС.
6.6. Вычислительная эффективность БНС.
6.7. Перестраиваемые спектральные преобразования
6.7. . Настройка перестраиваемых преобразований
6.7.2. Настройка на базис Адамара.
6.7.3. Настройка на базис Фурье.
6.7.4. Быстрое вейвлет преобразование.
6.8. НЕЙРОСЕТЕВАЯ АППРОКСИМАЦИЯ РЕ1УЛЯРНЫХ ФРАКТАЛОВ
6.8.1. Аналитическая форма регулярного фрактала.
6.8.2. Дискретная аппроксимация фракталов.
6.9. ФРАКТАЛЬНАЯ ФИЛЬТРАЦИЯ СИГНАЛОВ
6 Приспособленные быстрые преобразования
. Алгоритм приспособления.
. Приспособленные преобразования в нечетком пространстве
. Спектральные приспособленные преобразования.
6 Быстрые нейронные сети в i новых вычислениях.
6 Многомерные БНС.
6 Результаты и выводы по главе
ГЛАВА 7. НЕЙРОСЕТЕВАЯ КЛАССИФИКАЦИЯ ДВИЖУЩИХСЯ ГРУППОВЫХ ОБЪЕКТОВ. .
7.1. Функциональное описание системы транспортного мониторинга
7.1.1. Информационный канал.
7.1.2. Синхронизация измерений
7.1.3. Информативные признаки.
7.1.4. Постановка задачи классификации
7.2. Формирование лингвистических переменных.
7.2. . Метод фаззификации.
7.2.2. Лингвистическая переменная Структура
7.2.3. Семантика группового объекта
7.2.4. Лингвистическая переменная Длинна объекта.
7.3. Классификация объектов
7.3.1. Архитектура нейронной сети
7.3.2. Контрастирующие функции активации.
7.3.3. Алгоритм обработки данных в нечеткой нейронной сети.
7.3.4. Оценка достоверности классификации групповых объектов.
7.4. Результаты и выводы по главе
ГЛАВА 8. ИНСТРУМЕНТАЛЬНЫЕ СРЕДСТВА ПРОЕКТИРОВАНИЯ ЯДЕРНЫХ НЕЙРОННЫХ СЕТЕЙ.
8.1. Концепция и архитектура программных средств.
8.2. Формат представления ядерной нейронной сети.
8.3. Класс реконфигурируемых регулярных сетей
8.3.1. Изменение размерности нейронных ядер
8.3.2. Изменение ранга межъядерных связей
8.3.3. Изменение числа нейронных слоев.
8.3.4. Объединение и деление нейронных слоев.
8.4. Результаты и выводы по главе
ЗАКЛЮЧЕНИЕ
ЛИТЕРАТУРА


В технических приложениях использую гея более простые модели нейронов, отражающие, как правило, только те свойства, которые явно связаны с обработкой информации. К этим свойствам относятся суммирование сигналов, нелинейная обработка, динамические задержки выходного сигнала. МакКаюка У. С. и Питтс У. ЧЛ Предложенная в году . Рис. КалокаПитса налов. В качестве нелинейной функции активации, обычно, используется сигмоидная функция
е
или функция гиперболического тангенса Л См. Рис. Рис. Архитектура определяется способом представления данных, набором операций допустимых при обработке данных и структурой нейронной сети. В формальных математических моделях способ представления данных и класс допустимых операций устанавливается выбранной моделью сигнального пространства. Для нейронных сетей наибольшее применение нашли три вида сигнальных пространств векторное линейное пространство, вероятностное пространство, нечеткое пространство. Нейронная сеть с архитектурой Розенблата. Одной и первых моделей нейронной сети был персептрон Розенблата однослойная сеть, построенная из формальных нейронов МакКапока рис. Обрабатываемые данные представлены в виде векторов линейного векторного пространства. В этой модели на вход каждого нейрона подаются все координаты входного вектора. Подробный анализ возможностей персе прона выполнил Минский в работе . Убедительные доводы Минского, доказавшего неспособность персептрона выполнять ряд элементарных операций, надолго приостановили работы в области практического использования нейронных сетей. Для многослойных сетей выводы
X
У
У
Рис. Минского оказались неверными. Слоистые сети решали широкий спектр задач, недоступных однослойным персептронам и после появления удобных алгоритмов обучения типа i 9,1 прикладное использование многослойных сетей стало доминирующим. Вероятностные нейронные сети. Вероятностные нейронные сети , iii представляют собой параллельную реализацию статистических методов классификации образов на основе правила Байеса. Идея состоит в том, что для каждого образца можно принять решение на основе выбора наиболее вероятного класса из тех, которым мог бы принадлежать образец. Формальным правилом является то, что класс с наиболее плотным распределением в области неизвестного экземпляра будет иметь преимущество по сравнению с другими классами. Для применения правила Байеса необходимо знать априорные вероятности совместного распределения для классов и образца. X обозначает входной вектор, Х представитель класса. Струкура сети для входного вектора размерности 4 с числом классифицируемых классов М 2 показана на рис. Рис. Слой суммирований имеет по одному элементу для каждого класса. К любому элементу слоя суммирования идут связи только от слоя образцов, при надлежащих соответствующему классу. Весовые значения связей, идущих от нейронов слоя образцов, к нейронам слоя суммирований, фиксируются равными единице. Выход слоя суммирований дает оценку функций апостериорных совместных распределений анализируемого образа с набором классов. Принадлежность неизвестного образа к классу 1 . М определяется по максимальному значению выходных координат. Для сети РГ не требуется обучение в том смысле, какое требуется для сетей с обратным распространением ошибок, так как все параметры сети определяются непосредственно векторами обучающего множества. Значение ег подбирается в результате эксперимента и может отличаться для различных нейронов слоя образцов. При больших размерах обучающих выборок РЫ1Чсети сети весьма требовательны в отношении вычислительных ресурсов. Вероятностные сети можно также интерпретировать как параллельную реализацию метрического метода диагностирования, где мерой расстояния между образцом и классами является потенциальная функция, определенная в виде функции Гаусса . Радиальные нейронные сети. Наиболее распространенный вариант радиальных нейронных сетей иначе называемых ЯВР сетями состоит из двух слоев. X и выбранным центром С,. Во втором слое выполняется взвешенное суммирование выходов радиальных нейронов, при этом каждый выходной нейрон связан со всеми радиальными нейронами.

Рекомендуемые диссертации данного раздела

28.06.2016

+ 100 бесплатных диссертаций

Дорогие друзья, в раздел "Бесплатные диссертации" добавлено 100 новых диссертаций. Желаем новых научных ...

15.02.2015

Добавлено 41611 диссертаций РГБ

В каталог сайта http://new-disser.ru добавлено новые диссертации РГБ 2013-2014 года. Желаем новых научных ...


Все новости

Время генерации: 0.225, запросов: 244