Разработка и исследование гибридных нейросетевых моделей для автоматической классификации текстовых документов

• Автор: Мешкова, Екатерина Владимировна
• Шифр специальности: 05.13.01
• Научная степень: Кандидатская
• Год защиты: 2009
• Место защиты: Таганрог
• Количество страниц: 164 с. : ил.

1 АНАЛИТИЧЕСКИЙ ОБЗОР СУЩЕСТВУЮЩИХ ПОДХОДОВ

К АВТОМАТИЧЕСКОЙ КЛАССИФИКАЦИИ ТЕКСТА

1.1 .Постановка задачи автоматической классификации текстов

1.2.Лнализ традиционных подходов к решению задачи автоматиче ской классификации текста
1.3.Решение задачи автоматической классификации текста на базе ассоциативных нейронных сетей

1.4.0боснование выбора гибридного подхода к автоматической классификации

1.5.Выводы

2 РАЗРАБОТКА ГИБРИДНОГО ПОДХОДА К ПОСТРОЕНИЮ

. НЕЙРОННОЙ СЕТИ

2.1. Основные направления созданиягибридных моделей

2.2. Принципы построения гибридной модели

2.3. Разработка основных этапов создания гибридной модели
2.4. Выбор архитектуры гибридной нейронной сети
2.5. Выбор типов семантических отношений и связей для гибридной сети
2.6.Вывод ы
3 ПОСТРОЕНИЕ ГИБРИДНОЙ МОДЕЛИ АВТОМАТИЧЕСКОГО
КЛАССИФИКАТОРА
3.1. Выбор формы представления текста в гибридной нейронной сети
3.2. Разработка структуры гибридной нейронной сети
3.3. Разработка математической моделигибридной сети
3.4. Разработка обобщенного алгоритма создания гибридной модели 1 автоматического классификатора
3.5. Реализация1 и 2 этапов создания гибридной модели
3.6. Разработка преобразование гибридной сети в сеть, аналогичную 5 ассоциативной нейронной сети
3.7. Выводы
4 ВЫЧИСЛИТЕЛЬНЫЙ ЭКСПЕРИМЕНТ И АНАЛИЗ РАБОТЫ
РАЗРАБОТАННОГО ГИБРИДНОГО НЕЙРОСЕТЕВОГО
КЛАССИФИКАТОРА
4.1. Результаты проведения вычислительного эксперимента на тес
товых примерах
4.2. Выводы
ЗАКЛЮЧЕНИЕ
Список использованных источников


Таганроге, при выполнении курсовых и дипломных работах, чтении лекций, проведении практических и лабораторных занятий по учебным дисциплинам Интеллектуальные интернеттехнологии, Методы интеллектуального анализа данных, а также в научноисследовательской работе студентов. Основные теоретические и практические результаты диссертационной работы использованы в научноисследовательской работе, выполненной по гранту при финансовой поддержке Президента Российской Федерации проект МК9. Апробация основных теоретических и практических результатов работы проводилась на IV Международной научнопрактической конференции Моделирование. Теория, методы и средства Новочеркасск, г. Международной научной конференции Анализ и синтез как методы научного познания Таганрог, г. Публикации. Результаты диссертации отражены в 8 печатных работах. Структура и объем диссертационной работы. Диссертационная работа состоит из введения, 4 разделов, заключения, списка литературы из 5 наименований, стр. Во введении обоснована актуальность темы диссертационной работы, поставлена цель работы, приведены основные научные положения, выносимые на защиту, представлены сведения о практической ценности, реализации и внедрении, дано общее описание выполненной работы. В первом разделе приводится постановка задачи автоматической классификации текста. Проводится анализ существующих подходов к решению подобных задач. Рассматривается обобщенная структура автоматической системы классификации текста. Проведен анализ традиционных подходов к решению задачи автоматической классификации текста. Рассмотрено решение задачи автоматической классификации текста на базе ассоциативных нейронных сетей, а также их свойства, строение и различные области применения. Проведено сравнение семантической и нейронной сетей, их сильных и слабых сторон с точки зрения выбора типа сети для решения задачи автоматической классификации текста. На основе проведенного сравнения сделан вывод о ценности гибридной модели, позволяющей компенсировать недостатки обоих подходов. Второй раздел посвящен разработке гибридного подхода к построению ассоциативной нейронной сети, предназначенной для автоматической классификации текстовых документов. Исходя из сопоставления преимуществ и недостатков семантической и нейронной сетей применительно к поставленной задаче, выделен принцип и разработаны основные этапы создания гибридной модели. Приводится анализ и выбор сетевой архитектуры, исходя из поставленных целей разработки системы классификации. Проведен сравнительный анализ семантических и нейросетевых систем, на основе чего сделан вывод о необходимости частичной замены процесса обучения в разрабатываемой гибридной модели заранее установленными семантическимиотношениями между объектами. Выбран тип семантических отношений и способ их отображения на ассоциативной нейронной сети. Сделай вывод о том, что такой подход позволяет, частично компенсировать недостатки обоих парадигм и значительно упростить процедуру создания. В третьем разделе приводится методика создания гибридной нейросетевой модели, позволяющая классифицировать текст, используя заложенную в текст терминологию и ее семантические связи, а также выделение неявных ассоциаций. Представляются основные параметры работы сети, сделан и обоснован выбор активационной функции. Приведен пример работы сети на начальном этапе, а также описание создаваемой гибридной модели, созданной с целью найти гибридную архитектуру, в которой можно компенсировать недостатки каждого из подходов. Представлен алгоритм создания сети. Предлагается принцип преобразования гибридной сети в аналогичную ассоциативной нейронной, благодаря чему нейронная сеть может выделять собственные закономерности, исходя из предоставленных ей примеров. Приведен пример работы сети на начальном этапе. Четвертый раздел посвящен проведению вычислительного эксперимента. Проанализированы данные о работе классификатора, на основании которых делается вывод о его работоспособности. В заключении изложены основные выводы и результаты диссертационной работы. В приложениях приведены копии актов внедрения, исходные тексты основных процедур программы автоматической классификации на языке Vi i, реализующей предложенную модель гибридной сети.