Разработка и исследование генетических методов обучения нейронных сетей для задач визуализации в САПР-К

• Автор: Коновалов, Олег Владимирович
• Шифр специальности: 05.13.12
• Научная степень: Кандидатская
• Год защиты: 2003
• Место защиты: Таганрог
• Количество страниц: 138 с.

ОГЛАВЛЕНИЕ
ВВЕДЕНИЕ
1. АНАЛИЗ СУЩЕСТВУЮЩИХ МОДЕЛЕЙ КЛАССИФИКАЦИИ В УСЛОВИЯХ ВИЗУАЛИЗАЦИИ ПРОЕКТНЫХ РЕШЕНИЙ САПРК

1.1 Трехмерные макеты и графические описания в системах САРК

1.2 Постановка задачи визуализации

1.3 Анализ существующих методик моделирования классификационных систем с применением нейросетей и методов генетического поиска

1.4 Эволюционные методы и методы генетического поиска

1.5 Принципы построения нейронных сетей с применением методов

генетического поиска

1.6 Принципы кодирования нейронных сетей

1.7 Системы распределенных вычислений как инструмент

распараллеливания процесса визуализации в САПРК
1.8 Выводы и рекомендации
2. СИНТЕЗ ГИБРИДНОГО АЛГОРИТМА, СОЧЕТАЮЩЕГО ЭВОЛЮЦИОННОЕ ПРОГРАММИРОВАНИЕ И ГРАДИЕНТНОЕ ПРАВИЛО
2.1 Определение основных принципов кооперативного
обучения
2.1.1 Постановка задачи обучения нейронной сети, применительно к проблеме классификации в условиях визуализации сложных графических макетов САПРК
2.1.2 Определение функции ошибки НС
2.1.3 Анализ и оценка функциональной роли различных слоев в многослойном персептроне
2.2 Кооперативная эволюция в сетях с логистической
активационной функцией
2.2.1 Алгоритм на основе эволюции скрытых активаций Алгоритм Прадоса
2.2.2 Разработка гибридного алгоритма, сочетающего эволюционное программирование и градиентное правило
2.2.3 Сравнение эффективности алгоритмов
2.3 Выводы и рекомендации
3. РАЗРАБОТКА МЕТОДА РАСПАРАЛЛЕЛИВАНИЯ ПРОЦЕССА
ВИЗУАЛИЗАЦИИ ПРОЕКТНЫХ РЕШЕНИЙ САПРК
3.1 Особенности нейронных сетей радиального базиса
3.2 Разработка алгоритма классификации элементов проектных решений
САПРК на основе эволюционного программирования
3.3 Построение кооперативносоревновательного генетического
алгоритма обучения сетей радиального базиса
3.4 Синтез алгоритма распараллеливания процесса визуализации сложных
графических макетов в САПРК
3.5 Теоретические оценки разработанных алгоритмов
3.6 Выводы и рекомендации
4. ЭКСПЕРИМЕНТАЛЬНОЕ ИССЛЕДОВАНИЕ РАЗРАБОТАННЫХ
АЛГОРИТМОВ
4.1 Цель экспериментального исследования
4.2 Оценка пространственной и временной сложности алгоритмов
4.3 Определение управляющих параметров нейросетевых алгоритмов классификации объектов, составляющих проектные решения САПРК
4.4 Сравнение результатов, полученных представленными нейросетевыми
алгоритмами классификации объектов
4.5 Выводы и рекомендации
ЗАКЛЮЧЕНИЕ
ЛИТЕРАТУРА


Затем, обученная нейросеть обрабатывает исходные реальные данные и выдает свой прогноз будущего поведения изучаемой системы. Суть нейросетевой модели заключается в стремлении подражать происходящим процессам. По своей структуре нейросетевая модель аналогична мозгу человека и также способна к обучению. В основе моделирования нейронных сетей лежит поведенческий подход к решению задачи - сеть обучается на примерах, подстраивая свои параметры при помощи специальных обучающих алгоритмов. С практической точки зрения методика принятия решения обученной нейросети проста - на входе задаются некоторые числовые данные, и нейросеть ищет похожие в исторических данных, на которых она была обучена. Как правило, нейросети имеют иерархическую внутреннюю структуру. На нижнем уровне находятся датчики (аналоги дендритов), обрабатывающие поступающую первичную информацию и присваивающие ее значимости вес, который сообщается одному из нейронов следующего уровня, который, в свою очередь, получает данные от нескольких датчиков. Таким образом, сигналы проходят до нейрона самого верхнего уровня, который и сообщает исследователю окончательный ответ. Такая общая идея может применяться в самых различных отраслях науки, где необходимо строить прогнозы - от военной техники до медицины и микробиологии, от геофизики до экономики. Способность к моделированию нелинейных процессов, работе с зашумленными данными, делает возможным применение нейронных сетей на самом широком классе задач, как в научных, так и в прикладных областях. Генетические алгоритмы, в свою очередь, предлагают специальную технологию поиска оптимальных решений, которая успешно применяется в различных областях науки. В этих алгоритмах используется идея естественного отбора среди живых организмов в природе. Генетический алгоритм - это простая модель эволюции в природе, реализованная в виде компьютерной программы. В нем используются как аналог механизма генетического наследования, так и аналог естественного отбора. При этом сохраняется биологическая терминология в упрощенном виде. Генетические алгоритмы - это новейший, но не единственно возможный способ решения задач оптимизации. Известны два классических пути решения таких задач - переборный и локально-градиентный. У этих методов есть свои достоинства и недостатки, и в каждом конкретном случае следует решать, какой из них будет оптимальным. Перебор дает точное решение задачи, но применение этого метода осложнено необходимостью рассмотрения огромного количества вариантов решений. Локально-градиентный метод основан на методе градиентного спуска. Вначале выбираются некоторые случайные значения параметров, а затем эти значения постепенно изменяют, добиваясь наибольшей скорости роста целевой функции. Достигнув локального максимума, такой алгоритм останавливается, поэтому для поиска глобального оптимума потребуются дополнительные усилия. Градиентные методы работают очень быстро, но не гарантируют оптимальности найденного решения. Они идеальны для применения в так называемых унимодальных задачах, где целевая функция имеет единственный локальный (по условию постановки вопроса - он же глобальный) максимум. Поэтому при поиске решений для функций, имеющих несколько экстремумов, требуется применение различных вариантов комбинаций переборного и градиентного методов. Генетический алгоритм представляет собой именно такой комбинированный метод. Механизмы скрещивания и мутации в каком-то смысле реализуют переборную часть метода, а отбор лучших решений - градиентный спуск. Так, если на некотором множестве задана сложная функция от нескольких переменных, то генетический алгоритм -^ это программа, которая за разумное время находит точку, где значение функции достаточно близко к максимально возможному. Выбирая приемлемое время расчета, можно получить одно из лучших возможных решений (за это время). САПР-К. Разработан алгоритм классификации объектов, составляющих проектные решения САПР-К, основанный на применении нейронной сети прямого распространения, обучаемой при помощи градиентного правила и генетического программирования.