Эволюционные алгоритмы формирования коллективов нейронных сетей для решения задач моделирования и прогнозирования

• Автор: Бухтояров, Владимир Викторович
• Шифр специальности: 05.13.17
• Научная степень: Кандидатская
• Год защиты: 2010
• Место защиты: Красноярск
• Количество страниц: 204 с. : ил.

Содержание
Введение
ГЛАВА 1. Разработка и исследование вероятностного эволюционного метода проектирования структуры нейронных

1.1 Основные понятия теории искусственных нейронных сетей

1.2 Эволюционные алгоритмы обучения нейронных сетей

1.3 Экспериментальное исследование эффективности

эволюционных алгоритмов

1.4 Методы проектирования структур нейронных сетей

1.5 Вероятностный эволюционный метод проектирования структур нейронных сетей

1.6 Экспериментальное исследование эффективности методов проектирования структур нейронных сетей
Выводы
ГЛАВА 2. Разработка и исследование гибридного алгоритма генетического программирования для задач символьной регрессии
2.1 Метод генетического программирования для задачи символьной регрессии ,
2.2 Метод генетического программирования с эволюционными алгоритмами настройки параметров модели
2.3 Разработка гибридного алгоритма генетического программирования для задач символьной регрессии
2.4 Экспериментальное исследование методов генетического программирования
Выводы
ГЛАВА 3. Разработка и исследование эволюционного метода формирования коллективов нейронных сетей
3.1 Коллективы нейронных сетей
3.2 Разработка эволюционного метода формирования коллективов
нейронных сетей
3.3 Исследование эффективности методов формирования
коллективов нейронных сетей
ГЛАВА 4. Практическая реализация разработанных методов
4.1 Программная система для исследования эволюционных алгоритмов оптимизации
4.2 Программная система 1ТРЕСА8 для интеллектуального анализа данных
4.3 Решение практических задач разработанными методами
Выводы
Заключение
Список литературы


Достаточно емко отражает принципы и механизм функционирования нейронных сетей следующее определение искусственной нейронной сети []: нейронная сеть - это распределенный параллельный процессор, состоящий из элементарных единиц обработки информации, накапливающих экспериментальные знания и предоставляющих их для последующей обработки. Нейронные сети имеют ряд преимуществ перед другими методами моделирования и анализа данных. Эти преимущества обусловлены, прежде всего, способностью нейронных сетей к обобщению, т. Внутреннее распараллеливание обработки информации в нейронных сетях. Нелинейность. Адаптивность. Нейронные сети обладают способностью адаптировать свои синаптические веса под изменение окружающей среды. В частности, нейронные сети, обученные в одной среде, могут легко быть переучены для работы в условиях колебания параметров среды. Более того при работе с нестационарными системами могут быть спроектированы нейронные сети, которые сами адаптивно изменяют синаптические веса в реальном времени. Отказоустойчивость. Ввиду распределенного характера хранения информации в нейронной сети, можно утверждать, что только серьезное нарушение структуры сети приведет к существенному падению ее работоспособности. Это особенно актуально при реализации нейронных сетей в электронных схемах и т. Единообразие проектирования и анализа. Нейронные сети можно считать универсальным методом обработки, анализа информации. Это позволяет использовать одни и те же теории и алгоритмы обучения вне зависимости от области применения систем, реализующих обработку данных нейронными сетями. Единицей обработки информации в нейронной сети является нейрон. В ИІІС нейрон является приближенной моделью биологического нейрона и имитирует его функционирование. Набор синаптических связей — набор связей, по которым передается сигнал к нейрону от других нейронов сети. Входной сигнал при прохождении через синапс умножается на число, называемое синаптическим весом и характеризующее силу связи. В отличие от синапсов мозга, синаптический вес искусственного нейрона может иметь как положительное, так и отрицательное значение. Сумматор - рассчитывает взвешенную сумму входных сигналов нейрона в соответствии с весами соответствующих синапсов. Таким образом, на выходе сумматора формируется линейная комбинация входных сигналов, поступающих к нейрону. Функция активации или передаточная функция — функция одного аргумента, определяющая зависимость выходного сигнала нейрона от взвешенной суммы сигналов на его входах. Одна из первых моделей нейрона была предложена У. МакКалоком и В. Питсом в году []. Изначально, в этой модели нейрон считался бинарным элементом, то есть функционировал в соответствии с правилом «все или ничего», а его выходной сигнал принимал лишь двоичные выходные значения: 0 или 1. Рассмотрим модель МакКалока-Питса подробнее. EiLi Wi x inputs). Здесь output — выходной сигнал нейрона, inputi — входной сигнал нейрона с -го синапса, w* - весовой коэффициент на i-м синапсе, п - общее число синапсов рассматриваемого нейрона. Функция f - активационная функция. M _ (1, если у > 0; (1. При уменьшении а сигмоид становится более пологим, в пределе при а — 0 вырождаясь в горизонтальную линию на уровне 0,5. При увеличении параметра наклона а сигмоидальная функция приближается по внешнему виду к пороговой функции. Выходное значение для нейрона, в котором в качестве активационной функции используется логистическая, лежит в диапазоне [0,1]. Для многих алгоритмов обучения искусственных нейронных сетей важным полезным свойством сигмоидальной активационной функции является ее дифференцируемость []. Диапазон выходных значений для нейрона с такой активационной функцией лежит в диапазоне [—1; 1], что оказывается полезным при решении ряда задач []. Таблица 1. Линейная /(? Экспоненциальная Г (V) = еау (О. Линейная с насыщением Г — 1, V < — 1 /(V) = І^-І < V < 1 ( 1. Пороговая . Квадратичная ГМ = г;2 (0. Существует большое число различных типов топологий нейронных сетей, но в примерно % из всех реальных приложений используются многослойные иолносвязные сети прямого распространения — многослойные персеп гроны [,]. Рисунок 1.