Нейросетевой подход к интегрированному представлению и обработке информации в интеллектуальных системах

• Автор: Харламов, Александр Александрович
• Шифр специальности: 05.13.01
• Научная степень: Докторская
• Год защиты: 2008
• Место защиты: Москва
• Количество страниц: 276 с. : ил.

СОДЕРЖАНИЕ
Введение

Глава 1. Проблемы представления и обработки информации в интеллектуальных системах

1.1. Извлечение ключевой информации

1.2. Системы искусственного интеллекта

1.2.1. Тенденции развития систем искусственного интеллекта

1.2.2. Типы искусственноинтеллектуальных систем

1.3. Интеллектуальные системы

1.4. Анализ интеллектуальных систем с точки зрения эффективности обработки информации

1.4.1. Системы распознавания речи

1.4.2. Системы распознавания изображений

1.4.3. Системы анализа текстов
1.4.4. Семантические представления в интеллектуальных системах
Глава 2. Теоретические основы построения нейросетевых технологий обработки неструктурированной информации разных модальностей
2.1. Преобразование, реализующее свойство ассоциативности обращения к информации
2.1.1. Запоминание информации. Воспроизведение. Авто и гетероассоциативность
2.1.2. Формирование статистической модели. Забывание
2.1.3. Формирование словаря
2.1.4. Формирование синтаксической последовательности. Многоуровневая структура
2.1.5. Расфокусированное преобразование
2.1.6. Механизм локального внимания
2.1.7. Распознавание
2.1.8. Топология сигнального пространства. Устойчивость к разрушению
2.1.9. Передача информации, устойчивая к потерям
2.2. Иерархия, реализующая структурную обработку информации
2.2.1. Концептуальная иерархическая структура
2.2.2. Реальная иерархическая структура
2.3. Фреймовая организация знаний на основе иерархической структуры ассоциативных процессоров обработки информации
2.3.1. Модель мира на основе иерархической структуры ассоциативных процессоров обработки информации семантическая сеть
2.3.2. Семантические представления
2.3.3. Фреймструктура динамическое знание как отклик подмножества семантической сети на входную ситуацию
2.3.4. Механизм внимания механизм формирования фреймструктуры на семантической сети
Глава 3. Нейронные сети для представления информации
3.1. Использование нейронных сетей для представления информации
3 . Представление статической и динамической информации с помощью
нейронных сетей ,
3.1.2. Использование статических нейронных сетей для представления квази
динамической информации
3.2. Использование рекуррентных динамических нейронных сетей для представления информации
3.2.1. Гребенки статических нейронных сетей с задержками для представления динамической информации
3.2.2. Введение обратных связей в нейронных сетях и сохранение временного контекста
3.3. Динамическое ассоциативное запоминающее устройство
3.3.1. Нейроподобный элемент с временной суммацией сигналов
3.3.2. Временная суммация сигналов основа механизма избирательной адресации нейронов .
3.3.3. Сеть из нейроподобных элементов с временной суммацией сигналов
3.3.4. Биологические предпосылки
3.4. Нейронная сеть для переупорядочивания информации
3.4.1. Архитектура гиппокампа
3.4.2. Поле СА3
3.4.3. Поле i. Конкурентная сеть
3.4.4. Функция переупорядочивания информации
Глава 4. Структурный подход с использованием нейросетевой технологии естественный путь решения задачи анализа неструктурированной информации разных модальностей и интеграции их в единую структуру
4.1. Распознавание речи
4.1.1. Многоуровневая иерархия представления лингвистической информации
4.1.2. Формирование многоуровневого языкового представления у человека
4.2. Распознавание изображений
4.2.1. Основные функции элементов зрительного анализатора
4.2.2. Иерархия механизмов обработки информации в модели зрительного анализатора
4.3. Семантический и прагматический уровни представления знаний
4.3.1. Парадигматическая и синтагматическая семантика
4.3.2. Многомодальные семантические представления
4.3.3. Прагматический уровень обработки информации на примере речевого поведения
4.4. Структурная обработка текстовой информации. Подчеркивание существенных элементов модели
4.4.1. Обработка текстовой информации человеком
4.4.2. Структурная обработка текстовой информации
4.4.2. Формирование статистического портрета текста в многомерном пространстве
4.4.3. Формирование ассоциативной сети перенормировкой весовых характеристик слов
4.4.4. Квазисемантическая картина мира на основе текстового представления 0 Г лава 5. Программные приложения на основе нейросетевой технологии обработки информации различных модальностей
5.1. Система для структурного анализа текстов x
5.1.1. Программная реализация технологии
5.1.2. Основные функции системы x
5.1.3. Электронная книга
5.2. Система распознавания речи
5.2.1. Первичная обработка речевого сигнала
5.2.2. Акустикофонетическое преобразование
5.2.3. Нейросетевой анализ акустического текста
5.2.4. Лексический уровень обработки информации
5.3. Система распознавания изображений символов
5.3.1. Предобработка и кодирование изображения
5.3.2. Представление и распознавание эталонов символов
Глава 6. Аппаратные реализации на основе нейросетевою подхода
6.1. Аппаратная реализация адресного блока динамического ассоциативного запоминающего устройства
6.1.1. Режимы обучения и распознавания
6.2. Нейрочип
6.2.1. Моделирование нейрочипа
6.2.2. Функциональное описание СБИС нейрочипа
6.2.3. Внешние выводы
6.2.4. Каскадирование приборов
6.2.5. Конструктивное исполнение
6.3. Модуль ассоциативной памяти для высокопроизводительных нейрокомпьютеров, решающих задачу обработки информации верхних уровней в системе распознавания ключевых слов в потоке слитной речи
6.3.1. Архитектура модуля ассоциативной памяти
6.3.2. Конструкция модуля ассоциативной памяти
6.3.3. Мягкие вычисления на ассоциативной памяти, реализованной с применением САМ
6.4. Модель обработки речевой информации с использованием модулей ассоциативной памяти
6.5. Ассоциативный поисковик с доступом к информации за один такт.
Полнотекстовая индексация на основе динамического ассоциативного
запоминающего устройства
Заключение
Библиография


Эти цепи на вложенном суперграфе семантической сети составляют динамическое знание компоненты фрейма ш данной модальности соответствующие некоторой текущей входной ситуации синтагмы. Компоненты фрейма могут включать в себя конкатенации цепей л также
по ассоциативному принципу. Здесь означает конкатенацию по индексу . Ц
и АК V V. М , где имя фрейма так же как в случае имени субфрейма
слово, например но не обязательно, в вербальной модальности. В третьей главе показано, что для реализации задач обработки и представления различной разномодальной информации, с ассоциативным доступом к ней, эффективно использование искусственных нейронных сетей. Анализ существующих решений показал, что нейронные сети условно можно разделить на два типа статические и динамические Классические сети из нейроподобных элементов позволяют решить задачу распознавания статических пространственных образов. Введение в стационарную сеть обратных связей с элементами задержки с выходов сети на ее входы делает сеть рекуррентной 2. При этом сеть начинает учитывать временной контекст входных сигналов. Такие сети способны автоматически формировать эталоны динамических образов. Использование рекуррентных искусственных нейронных сетей для обработки информации, имеющей временную природу, показало хорошее качество работы таких сетей. Естественная трудность, с которой сталкиваются разработчики, заключается в рутинности ручной настройки структуры нейронных сетей на распознаваемую информацию. Показано, что для эффективного решения этой проблемы необходимо организовать нейронную сеть, реализующую структурную многоуровневую обработку информации. Для анализа временных последовательностей, к которым сводится представление как речевой, так и зрительной и текстовой информации, удобно использовать искусственные нейронные сети, динамические. Они представляют собой множество параллельно включенных нейроподобных элементов с временной суммацией входных сигналов. Каждый нейроподобный элемент, являясь элементом ассоциативной памяти, моделирует одну из точек сигнального пространства, в которое отображается и в котором запоминается в виде последовательности точек траектории входная последовательность. Этот тип сетей получается из более общего, который, в свою очередь конструируется из статических сетей объединением двух статических нейронных сетей, где одна из них включается в прямом направлении, а другая в обратной связи. Сначала сеть сводится к одному нейроподобному элементу, но имеющему цепочку задержек на входе. Это нейрон с синапсами, имеющими передаточную функцию без полюсов такие синапсы можно рассматривать как обобщенные дендриты нейрона и не имеющими обратной связи с выхода. В этом случае эталонная область пространства Ип сводится к одной точке. Координатами этой точки в пространстве является пчленный анализируемый фрагмент последовательности. Для построения эталонов образа, которые строятся как объединение точек траектория, используется набор из таких нейронов нейронный пучок. Объединение нейронов моделирует пмерный единичный гиперкуб в сигнальном пространстве Такая конструкция более удобна для представления информации, поскольку, в отличие от традиционной нейронной сети, где информация об образахэталонах упрятана в весовых коэффициентах синапсов, в такой сети входная информация представляется в удобной и наглядной форме траектории на вершинах гиперкуба. Нейроны с различными распределениями синапсов на дендритах можно избирательно возбуждать, подавая на них последовательности с разным распределением в них импульсов и межимпульсных интервалов. Представлены теоретические основы построения нейросетевых технологий для обработки неструктурированной информации различных модальностей. Рассматривается ассоциативная память на основе нейроподобных элементов с временной суммацией входных сигналов, в которой одним из основных свойств является ассоциативное воспроизведение с динамическим формированием адреса. Такая ассоциативная память называется динамической ассоциативной памятью, а устройства на ее основе динамическими ассоциативными запоминающими устройствами ДАЗУ.