Проблемы построения развивающейся искусственной нейронной сети с ассоциативной памятью

• Автор: Ионов, Сергей Дмитриевич
• Шифр специальности: 05.13.18
• Научная степень: Кандидатская
• Год защиты: 2014
• Место защиты: Екатеринбург
• Количество страниц: 179 с. : ил.

Оглавление
Оглавление
Введение

Глава 1. Теории памяти

1.1. Понятие памяти. Роль памяти в структуре сознания

1.2. Исследования памяти в области психологии

1.2.1. Типология памяти

1.2.2. Процессы и свойства памяти

1.3. Структуры памяти с точки зрения нейробиологии

1.3.1. Основные элементы памяти в мозге и их назначение

1.3.2. Обработка сигналов памятью

1.3.3. Принципы хранения информации в памяти
1.3.4. Принципы развития памяти
1.4. Математические подходы к моделированию психофизических процессов и, в частности, работы памяти
1.4.1. Классический подход
1.4.2. Портретный подход
1.4.3. Структурно-иерархический подход
1.4.4. Функциональный подход
1.4.5. Алгоритмические подходы
Глава 2. Воспроизводящиеся искусственные нейронные сети
2.1. Основные элементы ВИНС
2.1.1. Общая структура элемента
2.1.2. Аддитивный нейрон
2.1.3. Принцип растущих связей
2.1.4. Шаблон
2.1.5. Мультипликативный нейрон
2.2. Построение простых блоков ВИНС
2.2.1. Ячейка памяти
2.2.2. Блок сравнения
2.2.3. Блок ветвления

Оглавление
2.2.4. Блок умножения
2.3. Построение ВИНС для решения алгоритмических задач
2.3.1. Связь ВИНС и классических нейронных сетей
2.3.2. Полнота ВИНС по Тьюрингу
2.3.3. Проверка расстановки скобок
2.3.4. Вычисление числа Фибоначчи
2.3.5. Вычисление факториала
2.4. Обучение ВИНС
2.4.1. Методы обучения однослойного перцептрона
2.4.2. Методы обучения многослойного перцептрона
Глава 3. Язык описания ВИНС
3.1. Языковые единицы
3.1.1. Блоки
3.1.2. Выражения
3.1.3. Шаблоны
3.1.4. Структура имен
3.1.5. Комментарии
3.1.6. Строки
3.2. Особенности построения компилятора
3.2.1. Синхронизация
3.2.2. Экстроспекция имен
3.2.3. Преобразование шаблонов
3.3. Выразительность языка
Глава 4. Система ассоциативной памяти
4.1. Понятие ассоциативной памяти
4.2. Основные блоки ассоциативной памяти
4.2.1. Блок памяти
4.2.2. Блок построения ассоциативных связей
4.2.3. Блок анализа различий сигналов
4.2.4. Блок выбора наилучшей ассоциации

Оглавление
Глава 5. Программный комплекс разработки ВИНС
5.1. Компилятор
5.1.1. Размещение нейронов на плоскости
5.2. Среда разработки
5.2.1. Система контроля версий
5.2.2. Система подключения сторонних редакторов
5.2.3. Система подключения сторонних компиляторов
5.2.4. Редактор для языка ВИНС
5.2.5. Визуальный редактор графа ВИНС
5.3. Система тестирования ВИНС
5.3.1. Файл запуска
5.3.2. Отладочный режим
5.4. Система распределенного запуска ВИНС
5.4.1. Архитектура системы
5.4.2. Реализация системы обработки запросов ВИНС
Глава 6. Интеграция с системой автоматического управления
6.1. Интерфейс взаимодействия с САУ «Умный дом»
6.1.1. Сетевые протоколы
6.1.2. Принципы событийного управления
6.2. Виртуальные контроллеры системы ассоциативной памяти
6.3. Результаты обучения и применения ВИНС
6.3.1. Блок переноса контекста
6.3.2. Экспериментальные данные применения ВИНС
Заключение
Список сокращений и условных обозначений
Литература

Глава 1. Теории памяти
особенностей, иногда подвергаясь мутации признаков, и, продолжая эволюцию, может работать лучше или хуже родителей. Простейшим примером может служить игра Жизнь. Сетка из квадратов раскладывается, и жизнь на ней разрастается или умирает в зависимости от числа занятых соседних клеток. Новые более сложные версии наследуют куски кода от родителей в виде процедур, добавляется элемент случайности, и они начинают соревноваться в выживании в окружающей среде. Цель в том, чтобы после многих поколений зародился интеллект. Искусственные социумы изучаются, чтобы предсказывать поведение общества в реальном мире.
Система черной доски
Система черной доски [28] работает как доска в комнате, полной людей. Некоторые люди, агенты или части программ могут добавлять, изменять, стирать или читать информацию с доски. Обычно есть наблюдатель, запрашивающий заполнение или обновление частей. Также есть система разрешения конфликтов и прекращения споров. Каждый агент или программа выступает экспертом в некоторой области или типе информации. Таким образом, доска является централизованной структурой данных, к которой разные агенты или процедуры имеют доступ.
Машина опорных векторов
Машины Опорных Векторов (МОВ) [29] основаны на нелинейном обобщении алгоритма «Общего портрета», разработанного в России в 1960х годах. Их успешно применяют для распознавания письма, речи, объектов на изображениях. Эти машины разделяют данные на два класса. Если данные не разделимы линейно, то можно увеличить число измерений, хотя при большом числе измерений система начинает, скорее, запоминать объекты, нежели учить их отличительные свойства, что приводит к переученности и неспособности машины работать с новыми данными корректно. Уровень ошибки МОВ можно явно посчитать, что невозможно, например, у нейронных сетей.
Задача обучения заключается в создании гиперплоскости, дающей максимально возможное расстояние между точками двух классов и наибольший свободный отступ вокруг нее. Основным методом для решения этой задачи является метод Множителей Лагранжа.
В режиме работы машина проверяет положение точки относительно этой гиперплоскости и относит ее к тому или иному классу.