Устойчивость моделей нейронных сетей кольцевой и линейной конфигураций с запаздывающими взаимодействиями

• Автор: Хохлова, Татьяна Наилевна
• Шифр специальности: 05.13.18
• Научная степень: Кандидатская
• Год защиты: 2013
• Место защиты: Челябинск
• Количество страниц: 128 с. : ил.

Содержание
Введение
Глава 1 Конус устойчивости для диагностирования устойчивости нейронных сетей. Алгоритмы и программы
1.1 Нейронные сети и дифференциальные уравнения с запаздываниями
1.2 Овал устойчивости
1.3 Конус устойчивости для скалярного уравнения с комплексными коэффициентами
1.4 Конус устойчивости для матричного уравнения
1.5 Алгоритм для определения значений запаздывания, гаранти-
рующих устойчивость дифференциального уравнения с запаздыванием
1.6 Программный продукт«Анализ устойчивости»
1.7 Сравнение результатов главы 1 с известными результатами . .
Глава 2 Численный и теоретический анализ устойчивости моделей нейронных сетей кольцевой и линейной конфигурации
с неограниченным количеством нейронов
2.1 Постановка задачи и алгоритм диагностирования устойчивости
модели кольцевой сети с неограниченным количеством нейронов
2.2 Программный продукт «Устойчивость нейронных сетей»
2.3 Результаты исследования устойчивости кольцевой сети нейронов с неограниченным количеством нейронов
2.4 Модели кольцевых сетей нейронов с неединичным коэффициентом демпфирования
2.5 Разрыв в кольце: модель сети линейной конфигурации с большим количеством нейронов
2.6 Доказательства теорем главы
2.7 Сравнение результатов главы 2 с известными результатами . .
Глава 3 Численное и качественное исследование устойчивости моделей нейронных сетей кольцевой и линейной конфигураций с ограниченным количеством нейронов
3.1 Алгоритм и программа для-построения границ-областей устой-
чивости моделей кольцевых нейронных сетей с ограниченным количеством нейронов
3.2 Границы областей устойчивости моделей кольцевых сетей с ограниченным количеством нейронов и односторонним запаздыванием
3.3 Границы областей устойчивости моделей кольцевых сетей с ограниченным количеством нейронов и двусторонним запаздыванием
3.4 Устойчивость модели нейронной сети линейной конфигурации
с ограниченным количеством нейронов
3.5 Динамика области устойчивости в процессе разрыва кольцевой сети нейронов
3.6 Сравнение результатов главы 3 с известными результатами
Заключение
Литература
Приложение А. Исходный код программы
«Анализ устойчивости»
Приложение Б. Исходный код программы
«Устойчивость нейронных сетей»
Приложение В. Исходный код программы «Построение областей устойчивости
круговых нейронных сетей»
Приложение Г. Общие исходные коды программ

Введение
Общая характеристика работы
Актуальность работы. Всюду, где в математических моделях имеются узлы и связи между ними, есть основания рассматривать их как нейронные сети. В многочисленных теориях узлы (нейроны) представляют природные объекты [26], блоки компьютерных программ [76], личности [64] и, наконец, собственно нейроны в живых организмах [32] или искусственных нейронных сетях [33]. Взаимодействие узлов в нейронной сети зависит от архитектуры и свойств её связей. Важной характеристикой сети является запаздывание во взаимодействии нейронов. Первые исследователи нервных систем живых организмов были удивлены, узнав, как мала скорость движения электрохимических импульсов по нервным волокнам. Поэтому учёт запаздываний в моделях нейронных сетей требует применения теории дифференциальных уравнений с запаздываниями (функционально-дифференциальных уравнений (ФДУ)). Инструментарий ФДУ создали Н.В. Азбелев, В.П. Максимов и Л.Ф. Рахматуллина [1], Н.В. Азбелев и П.М. Симонов [2, 3, 25], Р. Веллман и К. Кук [4], A.B. Ким и В.Г. Пименов [5], H.H. Красовский [9], В.Б. Колма-новский и В.Р. Носов [8], А. Д. Мышкис [10], Дж. Хейл [12], Л.Э. Эльсгольц и С.Б. Норкин [24].
Изучение моделей нейронных сетей посредством дифференциальных уравнений с запаздываниями проведено в монографиях L.O. Chua [35] (1998), L. О. Chua и Т. Roska [33] (2004), K. Gu, V. Kharitonov и J. Chen [41] (2003), J. Wu [80] (2001). Особенно много работ посвящено кольцевым конфигурациям нейронных сетей: S. Guo и L. Huang [42, 43] (2007), Y. Horikawa и
H. Kitajima [47] (2009), С. Huang с соавторами [49] (2008), X. Lu и S. Guo [65] (2008), X. Xu [81] (2008). Кольцевые конфигурации нейронов обычны как в искусственных нейронных сетях [38], так и в биологических. Нейронные кольца обнаружены, например, у нематоды C. elegans [78].
Устойчивость нейронных сетей является их важной характеристикой. Глобальная устойчивость изучалась, например, в работах L. Idels и М. Kipnis [51] (2009), Kaslik и Bahnt [55] (2009), но глобальная устойчивость не всегда желательна в нейронных сетях (например, она неестественна в нейронных

4) Пусть а > — 1 и точка (Rеб, lmb) находится вне овала устойчивости. Тогда точка 6 находится в одной из областей D -разбиения, и для проверки устойчивости достаточно рассмотреть действительные значения 6. Для таких 6 либо б < 6(0)'= —а, либо 6 > b(coi) = S(aJ. В обоих случаях по части 4 Предложения 1.1 уравнение (1.11) неустойчиво. Теорема доказана. ■
Отметим, что положение овала устойчивости на плоскости параметра 6 зависит от значения а. На рис. 1.5 на комплексной плоскости параметра 6 изображены овалы устойчивости при различных значениях параметра а.
(а) (б) (в)
Рис. 1.5. Овал устойчивости: (а) — 1 < а < 0, (б) о = 0, (в) а >
При а ^ — £ овал устойчивости вообще не существует. При 0 > а > — £ овал полностью расположен в полуплоскости Кеб > 0. При а = 0 крайняя левая точка овала лежит в начале координат, а остальные точки овала находится в полуплоскости Ивб > 0. При а > 0 граница овала находится в обеих полуплоскостях.
1.3 Конус устойчивости для скалярного уравнения с комплексными коэффициентами
Вначале рассмотрим, как и в предыдущем разделе, уравнение (1.11) с действительными коэффициентами а и комплексными 6. Для исследования его устойчивости, а в дальнейшем также и для матричного уравнения (1.6), определим в М3 некоторую поверхность, которую назовём конусом устойчивости.