Нейросетевые и гибридные методы и программные средства повышения эффективности поддержки принятия решений в интеллектуальных системах

• Автор: Ковалев, Иван Витальевич
• Шифр специальности: 05.13.11
• Научная степень: Кандидатская
• Год защиты: 2011
• Место защиты: Калуга
• Количество страниц: 186 с. : ил.

ВВЕДЕНИЕ
ГЛАВА 1. Анализ состояния теории и практики создания интеллектуальных информационных технологий

1.1. Проблемы решения задач в трудно формализуемых областях

1.2. Структурный анализ процесса мониторинга загрязнения атмосферного воздуха как трудно формализуемой задачи

1.2.1. Поддержка принятия решений в задаче мониторинга загрязнения атмосферы города.

1.3. Обзор интеллектуальных технологий решения трудно формализуемых задач

1.3.1. Технологии, основанные на классических системах искусственного интеллекта.

1.3.2. Технологии, основанные на генетических алгоритмах.

1.3.3. Технологии, основанные на нейронных сетях.

1.4. Сравнительный анализ технологий интеллектуальной обработки информации.

1.5. Обзор программных средств для организации поиска решений

1.6. Обзор программных средств для решения задачи мониторинга загрязнения атмосферного воздуха.
1.7. Выводы по главе 1. Цель и задачи диссертационной работы.
ГЛАВА 2. Разработка нейросетевых баз знаний ИСГШР.
2.1. Особенности нейросетевой базы знаний
2.2. Суть алгоритмов обучения НС.
2.2.1. Анализ классического алгоритма обучения НС. Применение адаптивного шага обучения
2.2.2. Разработка эволюционного алгоритма обучения НС
2.2.3. Разработка и оценка многопопуляционной ГА.
2.3. Разработка алгоритмов автоматического построения топологии НС.
2.3.1. Классические алгоритмы построения топологии НС
2.3.2. Модификация конструктивного алгоритма построения топологии НС.
2.3.3. Формирование топологии НС с помощью генетического алгоритма
2.4. Разработка алгоритмов обобщения данных
2.5. Исследование классических моделей прогнозирования.
2.6. Разработка нейросетевой модели прогнозирования
2.7. Разработка алгоритмов многомерного анализа данных.
2 Выводы по главе 2.
ГЛАВА 3. Разработка методов настройки и адаптации интеллектуальных модулей к решению задач
3.1. Разработка алгоритма повышение эффективности предварительной обработки данных.
3.2. Разработка метагенетического алгоритма.
3.3. Разработка гибридного алгоритма обучения НС на основе ГА и имитации отжига.
3.4. Исследование эффективности алгоритмов обучения нейронных сетей
3.5. Разработка алгоритма построения топологии НС, основанного на генетическом программировании.
3.6. Исследование эффективности алгоритмов построения топологии НС
3.7. Выводы по главе
ГЛАВА 4. Применение разработанных методов, алгоритмов и программных средств для решения практических задач
4.1. Цели и методы проводимых исследований
4.2. Этапы разработки системы
4.3. Формирование структурных и функциональных требований к разрабатываемой системе.
4.4. Выбор и разработка архитектуры системы.
4.5. Функциональные характеристики разработанной системы
4.6. Система расчетного мониторинга загрязнения атмосферы.
4.7. Система инструментального мониторинга загрязнения атмосферы
4.8. Система прогнозирования загрязнения атмосферы
4.9. Внедрение в учебный процесс
4 Выводы по главе 4.
ЗАКЛЮЧЕНИЕ.
ПРИЛОЖЕНИЕ
ПРИЛОЖЕНИЕ
ПРИЛОЖЕНИЕ
ПРИЛОЖЕНИЕ
ПРИЛОЖЕНИЕ
ЛИТЕРАТУРА


В качестве ошибки обучения в работе используется среднеквадратичная ошибка или , которая для выбранных типов НС определяется как усредненная сумма квадратов разностей между желаемой величиной выхода и реально полученными на сети значениями для каждого примера из обучающей выборки. Выявлены основные проблемы, возникающие при обучении НС по алгоритму обратного распространения ошибки i медленная сходимость алгоритма, невозможность управления параметрами обучения во время процедуры оптимизации, частое попадание в локальный экстремум и др. Предложены способы решения выявленных проблем использование адаптивного шага обучения для алгоритма ВР использование для обучения алгоритмов глобальной оптимизации, а именно генетических алгоритмов и их модификаций. Для построения алгоритма обучения НС, альтернативного ВР, с целью устранения выявленных проблем проведено экспериментальное исследование генетического алгоритма ГА. Разработаны способы кодирования решений, позволяющие как на этапе инициализации популяции, так и на этапе работы ГА получать только допустимые решения. Робертсоновские транслокации, селекции дальнее и ближнее родство, отбора мягкая схема. Полученные рекомендации использованы при конструировании эффективных ГА для обучения НС. Разработана схема многопопуляционного алгоритма для решения задачи обучения НС. Далее проводится исследование методов по выбору топологии НС с целью минимизации времени, необходимого для получения результатов в ИСППР. Исследованы проблемы применения ГА для решения задачи построения топологии НС. Для повышения эффективности использования нейросетевых технологий в ИСППР предложена иерархическая нейронная сеть на основе объединения алгоритма предварительной обработки данных, основанного на нейросетевой кластеризации и многослойного персептрона. Сеть Кохонена используется для предварительной кластеризации исходных данных, многослойный персептрон для выбора окончательного решения. Такое объединение позволяет добиться более высокой точности работы нейросетевой модели, повысить скорость получения результатов, а также упростить построение обучающего множества. Третья глава посвящена разработке методов и алгоритмов повышения эффективности использования нейросетевых и гибридных технологий в ИСППР. С этой целыо проведено теоретическое и экспериментальное исследование в области построения нейросетевых и гибридных классификаторов, используемых в ИСППР для прогноза возможных решений, и определены пути их создания. Предложен алгоритм построения адаптивного метагенетического ГА, т. ГА внешнего. Экспериментальное исследование алгоритма показало, что скорость сходимости адаптивного ГА увеличивается в два и большее число раз. Для повышения эффективности решения задачи обучения МНС разработан комбинированный алгоритм обучения МНС на основе ГЛ и имитации отжига АИО. Создание такого алгоритма открывает возможность динамически менять скорость сходимости ГА на различных этапах поиска минимума с целью снижения временных затрат и повышения вероятности нахождения глобального экстремума. Это достигается введением в процедуру оптимизации Е0 управляющего параметра температуры, который, постепенно уменьшаясь по заданному закону, позволяет стабилизироваться Е0 в состоянии минимума. Экспериментально установлено, что предложенная модификация позволяет повысить качество обучения МНС на величину до в сравнении с классическим ГА. Отмечается, что наиболее предпочтительным для решения задачи подстройки НС в ИСППР под решаемую задачу является эволюционный метод, позволяющий минимизировать сложность НС при решении конкретных прикладных задач. Для реализации этого подхода в диссертации для решения задачи формирования топологии НС предложен оригинальный метод генетического программирования ГП. Для повышения эффективности предварительной обработки информации, выполняемой, как было показано в главе 2, с использованием сети Кохонена предложен модифицированный алгоритм обновления весов, отличающийся от известных введением латерального торможения, что позволяет ускорить процедуру кластеризации. Модификация заключается в изменении скорости обучения и радиуса окрестности нейрона1 юбедителя по определенному закону для ускорения стабилизации вектора весовых коэффициентов каждого нейрона во время процедуры обучения.