Модели информационных процессов и структур для повышения эффективности нейросетевого симулятора

• Автор: Крючин, Олег Владимирович
• Шифр специальности: 05.13.17
• Научная степень: Кандидатская
• Год защиты: 2013
• Место защиты: Воронеж
• Количество страниц: 285 с. : ил.

ОГЛАВЛЕНИЕ

Перечень условных обозначений и определений

Введение
1 Состояние проблемы разработки нейросетевых симуляторов и их информационных моделей

1.1 Модели искусственных нейронных сетей

1.1.1 Биологический прототип

1.1.2 Модели искусственного нейрона

1.1.3 Информационные процессы обучения искусственных нейронных сетей

1.1.4 Анализ нейросетевых структур и информационных процессов их выбора

1.2 Анализ методов и подходов к построению нейросетевых симуляторов

1.2.1 Нейросимуляторы для персональных компьютеров
1.2.2 Повышение эффективности построения нейросетевых симуляторов за счет использования параллельных вычислений на кластерных системах
1.3 Выводы по главе 1 и постановка задачи диссертационного исследования
2 Модель информационных процессов обучения и выбора структур нейросетевого симулятора
2.1 Построение модели информационных процессов обучения

2.2 Повышение эффективности информационного процесса обучения на уровне «вычисления значения целевой функции» .
2.3 Повышение эффективности информационного процесса обучения на уровне «подбора весовых коэффициентов»
2.3.1 Метод полного сканирования
2.3.2 Метод Монте-Карло
2.3.3 Градиентные методы
2.4 Повышение эффективности информационного процесса обучения на уровне «подбора активационных функций»
2.4.1 Компоненты нейрона
2.4.2 Подбор активационных функций
2.4.3 Подбор активационных функций всех нейронов
2.4.4 Повышение эффективности информационного процесса обучения
2.5 Повышение эффективности информационного процесса выбора структуры сети
2.5.1 Определение минимальной структуры
2.5.2 Информационный процесс выбора структуры многослойного персептрона
2.5.3 Информационный процесс подбора структуры сети
каскадной корреляции Фальмана и сети Вольтерри .
2.5.4 Повышение эффективности информационных процессов выбора структуры
2.6 Аналитические модели, связывающие эффективность построения ИНС-модели с характеристиками ИР
2.6.1 Вычисление выходных значений сети
2.6.2 Уровень «вычисления значения целевой функции»

2.6.3 Уровень «подбора весовых коэффициентов»
2.6.4 Уровень «подбора активационных функций нейронов»
2.6.5 Уровень «подбора структуры сети»
2.7 Подбор оптимального числа ИР-элементов
2.7.1 Оценка эффективности по временным затратам
2.7.2 Целочисленная задача подбора оптимального числа ИР-элементов
Выводы по главе
3 Вычислительные эксперименты
3.1 Прогнозирование котировок валютных пар
3.1.1 Описание задачи
3.1.2 Вычислительные эксперименты
3.2 Моделирование биоценоза биологической системы
3.2.1 Описание задачи
3.2.2 Вычислительные эксперименты
3.3 Прогнозирование температуры воздуха в городе Тамбове
3.3.1 Описание задачи
3.3.2 Вычислительный эксперимент
3.4 Определение зависимости профессиональной предрасположенности школьников от их личностных качеств
3.4.1 Описание задачи
3.4.2 Вычислительный эксперимент
3.5 Выводы по главе
4 Техническая реализация нейросетевого симулятора
4.1 Нейросетевой комплекс

Таблица 1.1: Сравнительные характеристики нейростевых симуляторов.
Название Ограниче- ния ИНС-модели Имеет дальней- шее развитие Поддержка класте- ризации Способ распространения
ВгагпМакег нет да нет коммерческий
Deductor S. Académie нет да нет для учебных целей
JavaNNS нет да нет свободный
Neural WorksPredict нет да нет коммерческий
Neuro Office нет да нет коммерческий
Neuro Pro да да нет демо
Neuro Shell нет нет нет коммерческий
NNC да да нет свободный
NNW нет нет нет для учебных целей
Sim Brain нет да нет свободный
Второй способ представляется более реальным. Высокопроизводительные компьютеры, соединенные интеконектом, - кластерные системы, в последние годы широко используются во всем мире как дешевая альтернатива суперкомпьютерам. Система требуемой производительности собирается из готовых, серийно выпускаемых компьютеров, объединенных опять же с помощью некоторого серийно выпускаемого коммуникационного оборудования [6]. Однако использование кластерных систем налагает на нейросимуляторы определенные требования, которым не отвечает ни один из перечисленных выше продуктов.
1.2.2 Повышение эффективности построения нейросетевых симуляторов за счет использования параллельных вычислений на кластерных системах
На данный момент существует несколько реализаций ИНС для кластерных систем. Их особенность заключается в том, что они не являются