Доменная модель нейронной сети и ее применение в задачах оптимизации

• Автор: Магомедов, Башир Маликович
• Шифр специальности: 05.13.17
• Научная степень: Кандидатская
• Год защиты: 2006
• Место защиты: Москва
• Количество страниц: 82 с. : ил.

Содержание

Глава 1. Введение

1. Актуальность темы

2. Нейронная сеть Хопфилда и задача оптимизации.

3. Цели и задачи диссертационной работы.

Глава 2. Доменная модель нейронной сети

1. Описание модели

2. Распознающая способность доменной модели.

3. Число устойчивых состояний доменной сети.

4. Скорость работы доменного алгоритма

5. Выводы.
Глава 3. Доменная модель в задачах оптимизации
1. Предпосылки применения доменной модели в задачах оптимизации.
2. Описание эксперимента
3. Результаты эксперимента
3.1. Матрицы с разреженным спектром
3.2. Матрицы со смешанным спектром
3.3. Матрицы со сплошным спектром.
3.4. Обсуждение результатов.
4. Выводы
Глава 4. Вероятность обнаружения локальных минимумов в задачах оптимизации.
1. Обобщенная модель Хопфилда.
2. Размер области притяжения
3. Объем памяти обобщенной модели.
4. Энергия локального минимума
5. Вероятность обнаружения минимума.
6. Выводы.
Заключение.
Приложение А. Компьютерное моделирование эксперимента
1. Объектноориентированная модель нейронной сети.
2. Моделирование эксперимента.
Приложение Б. Сводные таблицы результатов экспериментов
Приложение В
Список литературы


Обсуждение результатов. Глава 4. Вероятность обнаружения локальных минимумов в задачах оптимизации. Обобщенная модель Хопфилда. Объем памяти обобщенной модели. Вероятность обнаружения минимума. Выводы. Заключение. Приложение А. Объектно-ориентированная модель нейронной сети. Моделирование эксперимента. Приложение Б. Список литературы. Глава 1. Теория искусственных нейронных сетей (ИНС) - одна из областей математики, существующая уже более полувека и активно развивающаяся по настоящее время. Одним из важных применений ИНС является решение задач оптимизации [1,2,3], особенно тех из них, которые не могут быть решены точными детерминистическими методами [4-7], а также решение ЛГР-полных задач [8]. Основной моделью нейронной сети, с помощью которой решаются такие оптимизационные задачи, является модель Хопфилда [9], предложенная в году. Эта циклическая нейронная сеть, в ходе функционирования меняет свое состояние, понижая при этом значение некоего функционала, называемого энергией, и конвергирует в состояние соответствующее минимуму. Это свойство сети активно используется для случайного поиска оптимального решения: сеть произвольным образом инициализируется (выбирается случайное начальное состояние сети) и затем она, в результате функционирования согласно ее динамической процедуре, переходит в какой-либо локальный минимум энергии. Поскольку наиболее оптимальное решение задачи заранее неизвестно, то описанная процедура случайного поиска повторяется много раз. После большого числа стартов из найденных решений выбирается наиболее оптимальное, т. К сожалению, специфика модели такова, что в процессе поиска она имеет тенденцию сходиться к неглубоким локальным минимумам. Кроме того, реализация алгоритма показывает, что время, затрачиваемое на поиск удовлетворительного решения, может оказаться неприемлемо большим. В этой связи, активно исследуются различные модификации архитектуры и алгоритмы функционирования нейронной сети Хопфилда, которые позволяли бы ускорить поиск, и улучшить ее оптимизационные свойства. Все это свидетельствует о необходимости исследований и разработки новых подходов, которые будут удовлетворять более жестким требованиям по качеству и скорости работы. Нейронная сеть Хопфилда и задана оптимизации Данная модель, названная в честь автора, была предложена в [9] американским ученым - специалистом в области физики твердого тела, Джоном Хопфилдом (John Hopfield). На ее создание Хопфилда подтолкнули его исследования в области спиновых стекол [-]. Т = 0°К) все атомы в решетке ориентируют свои спины параллельно. Такие вещества называются ферромагнетиками (рис. Для других веществ - антиферромагнетиков, каждому положительному направлению спина атома соответствует атом с противоположным направлением спина (рис. Однако существуют такие вещества, в которых характер взаимодействия между магнитными моментами приводит к тому, что в основном состоянии направления спинов хаотичны. Такие вещества носят название спиновых стекол (рис. Для спиновых стекол такое поведение магнитных моментов означает вырождение основного состояния. Спиновое стекло может «замерзнуть» в любом из возможных состояний системы. А г -А п. Рис. Знаки связей между спинами в различных веществах, а) Ферромагнетик; б) Антиферромагнетик; в) Спиновое стекло, ориентация моментов хаотична. При исследовании механизмов распознавания Хопфилд предположил, что аналогичное явление может лежать в основе существования огромного числа состояний памяти, характерного для мозга. Например, можно рассмотреть модель полносвязной нейронной сети с рекуррентными симметричными связями между нейронами. В такой модели, возбуждающим связям будут соответствовать ферромагнитные связи в спиновом стекле, а тормозным - антиферромагнитные связи. Подобно спиновым стеклам, такие сети будут иметь множество стационарных конфигураций активностей нейронов, т. Именно введенная Хопфилдом динамика изменения состояния нейронов наряду с симметричностью связей между ними обусловила новизну описываемой модели (рис.