Разработка математического и программного обеспечения среды моделирования нейронных сетей для решения задач прогнозирования

• Автор: Восьмирко, Сергей Олегович
• Шифр специальности: 05.13.11
• Научная степень: Кандидатская
• Год защиты: 2004
• Место защиты: Москва
• Количество страниц: 158 с. : ил.

ВВЕДЕНИЕ
ГЛАВА 1. СРАВНИТЕЛЬНЫЙ АНАЛИЗ СРЕД МОДЕЛИРОВАНИЯ ИНС. ПОСТАНОВКА ЗАДАЧИ ИССЛЕДОВАНИЯ .

1.1. ОБЗОР СРЕД МОДЕЛИРОВАНИЯ ИНС, ПРИМЕНЯЕМЫХ ДЛЯ РЕШЕНИЯ ЗАДАЧ ПРОГНОЗИ РОВ А Н ИЯ

1.2. СРАВНЕНИЕ СИСТЕМНЫХ ХАРАКТЕРИСТИК

РАССМАТРИВАЕМЫХ ПРОГРАММНЫХ ПРОДУКТОВ

1.3. СРАВНЕНИЕ ФУНКЦИОНАЛЬНЫХ И ПОТРЕБИТЕЛЬСКИХ ХАРАКТЕРИСТИК РАССМАТРИВАЕМЫХ ПРОГРАММНЫХ ПРОДУКТОВ. .

1.4. ОСНОВНЫЕ ОГРАНИЧЕНИЯ И НЕДОСТАТКИ

АНАЛИЗИРУЕМЫХ ПРОГРАММНЫХ ПРОДУКТОВ

1.5. ВЫВОДЫ
ГЛАВА 2. РАЗРАБОТКА МЕТОДИКИ ПОВЫШЕНИЯ ОПЕРАТИВНОСТИ ПРОГНОЗА, ОСУЩЕСТВЛЯЕМОГО С ИСПОЛЬЗОВАНИЕМ ИНС .

2.1. ПОСТАНОВКА ЗАДАЧИ ПРОГНОЗИРОВАНИЯ С ИСПОЛЬЗОВАНИЕМ ИНС

2.1.1. ОСОБЕННОСТИ ПРИМЕНЕНИЯ ИНС В ЗАДАЧАХ ПРОГНОЗИРОВАНИЯ
2.1.2. АНАЛИЗ ПРИМЕНИМОСТИ РАЗЛИЧНЫХ ТОПОЛОГИЙ ИНС В ЗАДАЧАХ ПРОГНОЗИРОВАНИЯ
2Л.З. ОПИСАНИЕ СЕТИ ТИПА МНОГОСЛОЙНЫЙ Г1ЕРСЕПТРОН. ОБУЧЕНИЕ ИНС МЕТОДОМ НАИСКОРЕЙШЕГО СПУСКА
2.1.4. МЕТОДИКА ОСУЩЕСТВЛЕНИЯ ПРОГНОЗА С ИСПОЛЬЗОВАНИЕМ
2.1.5. ПЕРВИЧНАЯ ОБРАБОТКА ВХОДНОГО ВЕКТОРА ДАННЫХ
2.2. АНАЛИЗ ФАКТОРОВ, ПОВЫШАЮЩИХ ОПЕРАТИВНОСТЬ НЕЙРОПРОГНОЗА. ПОСТАНОВКА ЗАДАЧИ ИССЛЕДОВАНИЯ
2.2.1. ПРОБЛЕМЫ ИСПОЛЬЗОВАНИЯ МЕТОДА НАИСКОРЕЙШЕГО СПУСКА
2.2.2. КРИТЕРИЙ ДОПУСТИМОГО УРОВНЯ ОШИБКИ ОБУЧЕНИЯ ИНС
2.2.3. КОНТРОЛЬ ПЕРЕОБУЧЕНИЯ ИНС. ВАЛИДАЦИЯ НЕЙРОННОЙ СЕТИ.
2.2.4. ИЗБЫТОЧНОСТЬ ВХОДНОГО ВЕКТОРА ДАННЫХ
2.3. РАЗРАБОТКА МЕТОДИКИ ОСУЩЕСТВЛЕНИЯ НЕЙРОПРОГНОЗА, ОБЕСПЕЧИВАЮЩЕЙ ПОВЫШЕНИЕ ПОКАЗАТЕЛЕЙ ОПЕРАТИВНОСТИ
2.3.1. СРАВНИТЕЛЬНЫЙ АНАЛИЗ АЛГОРИТМОВ ОБУЧЕНИЯ ИНС .
.2. ОБЩЕЕ ОПИСАНИЕ И ПРИНЦИПЫ ПРИМЕНЕНИЯ МЕТОДАОБУЧЕНИЯ ИНС ПРИОР
.3. АДАПТИРУЕМЫЙ КРИТЕРИЙ ДОПУСТИМОГО УРОВНЯ ОШИБКИ ИНС ПРИ РЕШЕНИИ ЗАДАЧ ПРОГНОЗИРОВАНИЯ МЕТОДОМ ПОГРУЖЕНИЯ.
2.3.4. АЛГОРИТМ ИСПОЛЬЗОВАНИЯ МЕТОДА КОНТРОЛЯ ОШИБКИ ОБОБЩЕНИЯ
.5. ПОНИЖЕНИЕ РАЗМЕРНОСТИ ВХОДНЫХ ДАННЫХ. МЕТОДИКА АВТОМАТИЗИРОВАННОГО ОПРЕДЕЛЕНИЯ ГЛУБИНЫ ПОГРУЖЕНИЯ
2.3.6. ПРОЦЕДУРА ПРОРЕЖИВАНИЯ СВЯЗЕЙ ИНС
2.3.7. ОПИСАНИЕ МЕТОДИКИ ОСУЩЕСТВЛЕНИЯ ПРОЦЕССА МОДЕЛИРОВАНИЯ ИНС, ОБЕСПЕЧИВАЮЩЕЙ ПОВЫШЕНИЕ ОПЕРАТИВНОСТИ НЕЙРОПРОГНОЗА
2.4. ВЫВОДЫ ПО ГЛАВЕ
ГЛАВА 3. РАЗРАБОТКА СРЕДЫ МОДЕЛИРОВАНИЯ ИНС ОРИЕНТИРОВАННОЙ НА РЕШЕНИЕ ЗАДАЧ ПРОГНОЗИРОВАНИЯ
3.1. РАЗРАБОТКА ТРЕБОВАНИЙ К ПРОГРАММНОМУ
ОБЕСПЕЧЕНИЮ СРЕДЫ НЕЙРОПРОГНОЗА.
3.2. РАЗРАБОТКА СТРУКТУР ПРОГРАММНОГО ОБЕСПЕЧЕНИЯ СРЕДЫ НЕЙРОПРОГНОЗА
3.3. РАЗРАБОТКА ПОДСИСТЕМ СРЕДЫ НЕЙРОПРОГНОЗА
.1. РАЗРАБОТКА ПОДСИСТЕМЫ ПРЕДОБРАБОТКИ И
СТРУКТУРИРОВАНИЯ ИСХОДНЫХ ДАННЫХ
3.3.2. РАЗРАБОТКА ПОДСИСТЕМЫ АНАЛИЗА И ПОДБОРА ИАИЛУЧШЕЙ СТРУКТУРЫ ВХОДНЫХ ДАННЫХ И ПАРАМЕТРОВ ИНС
3.3.4. РАЗРАБОТКА ПОДСИСТЕМЫ СОПРОВОЖДЕНИЯ ПОЛЬЗОВАТЕЛЯ.
3.4. ВЫВОДЫ ПО ГЛАВЕ 3
ГЛАВА 4. ПРАКТИЧЕСКАЯ АПРОБАЦИЯ СРЕДЫ МОДЕЛИРОВАНИЯ ИНС ПРИ РЕШЕНИИ ПРИКЛАДНЫХ ЗАДАЧ ПРОГНОЗИРОВАНИЯ 1
4.1. РЕШЕНИЕ ЗАДАЧИ ПРОГНОЗИРОВАНИЯ КАЧЕСТВА ПЕРЕРАБОТКИ ЛЬНОВОЛОКНА
4.1.1 ОБЩАЯ ХАРАКТЕРИСТИКА И ПОСТАНОВКА ЗАДАЧИ ПРОГНОЗИРОВАНИЯ
4.1.2 ПОСЛЕДОВАТЕЛЬНОСТЬ РЕАЛИЗАЦИИ И РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ.
4.2. РЕШЕНИЕ ЗАДАЧИ ПРОГНОЗИРОВАНИЯ КОТИРОВОК АКЦИЙ КОМПАНИИ СИБНЕФТЬ
4.2.1 ОБЩАЯ ХАРАКТЕРИСТИКА И ПОСТАНОВКА ЗАДАЧИ ПРОГНОЗИРОВАНИЯ
4.2.2 ПОСЛЕДОВАТЕЛЬНОСТЬ РЕАЛИЗАЦИИ И РЕЗУЛЬТАТЫ
I Г1X1 и щи . ВЫВОДЫ ПО ГЛАВЕ 4 1 .
ЗАКЛЮЧЕНИЕ .
СПИСОК ИСПОЛЬЗОВАННЫХ источников
ПРИЛОЖЕНИЯ
ПРИЛОЖЕНИЕ 1. ФРАГМЕНТ ИСХОДНОГО КОДА СРЕДЫ МОДЕЛИРОВАНИЯ ИНС, ОРИЕНТИРОВАННОЙ НА РЕШЕНИЕ ЗАДАЧ ПРОГНОЗИРОВАНИЯ
ПРИЛОЖЕНИЕ 2. АКТЫ ВНЕДРЕНИЯ РЕЗУЛЬТАТОВ ДИССЕРТАЦИОННОГО ИССЛЕДОВАНИЯ.
ПРИЛОЖЕНИЕ 3. СВИДЕТЕЛЬСТВО ОБ ОФИЦИАЛЬНОЙ РЕГИСТРАЦИИ ПРОГРАММ ДЛЯ ЭВМ Система прогнозирования I .
СПИСОК АББРЕВИАТУР
ОВ
ООП
ПО
ПП
ПСМНС
СППР
ВаскРгор


Vi
искусственные нейронные сети обучающая выборка обучающая пара
объектоноореинтированный подход персональный компьютер программное обеспечение программный блок программный продукт
программная среда моделирования нейронных сетей
нейросимулятор
среднеквадратическос значение
система поддержки принятия решений
Метод обучения ИНС с помощью алгоритма наискорейшего спуска
Метод использования допустимого уровня ошибки обучения в процессе обучения ИНС, имеющего постоянный характер
Применение методов понижения размерности входного вектора данных на основе анализа корреляций составляющих входного вектора между собой и прогнозируемой величиной
Метод использования критерия допустимого уровня ошибки изменяющегося характера в процессе обучения ИНС
Метод обучения ИНС с помощью алгоритма i разработка университета г. Штутгарт, ФРГ
Процесс валидации ИНС контроль ошибки обобщения
ВВЕДЕНИЕ


Внедрение и практическая апробация разработанной среды и реализованных в е рамках методов повышения оперативности прогноза при решении прикладных задач прогнозирования. Методы исследования применяемые в диссертационной работе, основаны на использовании элементов искусственного интеллекта нейросетевых технологий, и компьютерного моделирования. Разработана методика осуществления нейропрогноза, основанная на использовании совокупности методов оптимизации процесса построения нейросетевой модели, обеспечивающая повышение показателей оперативности прогноза. Предложено использование сочетания процедур валидации и прореживания ИНС, как средства повышения оперативности нейропрогноза. Разработанная автором1 среда моделирования искусственных нейронных сетей, для решения задач прогнозирования, обеспечивает более высокую оперативность прогноза по сравнению с аналогами, что позволяет расширить круг прикладных задач прогнозирования, имеющих высокие требования к оперативности, решаемых с помощью ИНС и существенно сократить временные затраты на осуществление нерйропрогноза. Созданная автором среда нейропрогноза применяется в ООО Торговая компания СТАНДАРТЪ как средство поддержки принятия решений, в ООО Сонковский льнозавод для осуществления прогноза сельхоз производства доли и качества выхода длинного льноволокна. В обеих организациях внедрение принесло положительный результат, что подтверждено соответствующими документами. VII всероссийской научнотехнической конференции Новые информационные технологии в научных исследованиях и образовании Рязань, РГРТА, г. IX международной1 научнотехнической конференции Москва, МЭИ, г. Информационные средства и технологии Москва, г. Современные технологии в задачах управления, автоматики и обработки информации Алушта г. По результатам диссертационного исследования опубликовано 6 печатных работ. На разработанные продукты получено 3 свидетельства об официальной регистрации программ для ЭВМ в Российском агентстве по патентам и товарным знакам РОСПАТЕНТ. В том числе на Систему прогнозирования I от . ГЛАВА 1. ИНС. Рассматривается ряд наиболее распространенных коммерческих ПП, предназначенных для моделирования ИНС. В обзор вошли ПП двух типов вопервых так называемые, универсальные среды моделирования ИНС нейросимуляторы, применяемые для решения широкого спектра задач, в частности, для решения задач прогнозирования , , вовторых нейросимуляторы ориентированные на решение, непосредственно, задач прогнозирования. В качестве первого примера рассматривается наиболее популярный симулятор среди специалистов ИНС является ПП i рис 1. Штутгардского университета ФРГ . ПП предназначен для генерации, обучения, тестирования и визуализации структуры ИНС, с целью исследования ИНС, применяемых в областях классификации, распознавания, диагностики, прогнозирования, управления и т. ПП состоит из трх структурных частей симуляционного ядра, графической оболочки, для генерации, визуализации и модификации ИНС, компилятора, для описания ИНС на общедоступном языке программирования. Симуляционное ядро обеспечивает проведение операций с ИНС во время рабочей и обучающей фазы моделирования, а также визуальное представление ИНС. МП V1
i i iI. I Оим . Рис. V, алгоритм с временной задержкой i, 1, 2. ПП позволяет пользователю расширять свои функции с помощью языка высокого уровня
Для детального графического представления ИНС в реализованы режимы 2 и 3 отображения структуры ИНС и результатов обучения. ПП x рис 1. ПП компании США обеспечивает поддержку проектирования, обучения и моделирования ряда известных типов ИНС, как простых моделей персептрона, так и ассоциативных и самоорганизующихся ИНС . И., 1. И4ЛЯ4 , 1. Я6. I i . Рис. Среди типов моделируемых ИНС имеются карты Кохонена, сети Хопфилда, Элмана, а также вероятностные и регрессионные ИНС. Применение x основано на использовании встроенного языка , при этом построение моделей ИНС и их использование осуществляется с помощью последовательностей встроенных команд вводимых пользователем в текстовом режиме . ПП компании Великобритания рис 1. ИНС.