Устойчивость дискретных моделей стандартных конфигураций нейронных сетей с запаздывающими взаимодействиями

• Автор: Иванов, Сергей Александрович
• Шифр специальности: 05.13.18
• Научная степень: Кандидатская
• Год защиты: 2014
• Место защиты: Челябинск
• Количество страниц: 135 с. : ил.

Содержание
Введение

Глава 1 Метод конусов устойчивости

для диагностирования устойчивости нейронных сетей

1.1 Модели нейронных сетей

1.2 Формальное определение нейронных сетей

1.3 Цели главы

1.4 Кривая 19-разбиения для данных к,т,а, р

1.5 Области В{к,т,а,р)

1.6 Конусы устойчивости для матричного уравнения х3 — Ах3_т +

Вх3-і; с одновременно триангулизируемыми матрицами

1.7 Алгоритм диагностирования устойчивости матричных разностных
уравнений с двумя запаздываниями
1.8 Програмный продукт «Устойчивость матричных
разностных уравнений с двумя запаздываниями»
1.9 Сравнение результатов главы 1 с известными результатами
Глава 2 Устойчивость базовых конфигураций нейронных сетей
2.1 Устойчивость нейронной сети кольцевой конфигурации
2.2 Устойчивость нейронной сети линейной конфигурации
2.3 Сравнение областей устойчивости нейронных сетей кольцевой и
линейной конфигураций. Парадоксальные точки
2.4 Устойчивость нейронной сети звездной конфигурации
2.5 Устойчивость нейронной сети двуслойной конфигурации
2.6 Устойчивость полносвязных нейронных сетей
2.7 Сравнение результатов главы 2 с известными результатами

Глава 3 Устойчивость нейронных сетей, полученных из базовых сетей с помощью операции декартова умножения
3.1 Постановка задачи о декартовых произведениях сетей
3.2 Устойчивость нейронной сети планарной конфигурация (нейронной решетки)
3.3 Устойчивость нейронной сети с топологией связей многомерного куба (нейронного гиперкуба)
3.4 Устойчивость нейронной сети тороидальной конфигурации
3.5 Устойчивость нейронной сети цилиндрической конфигурации
3.6 Расширение области устойчивости при разрыве большого кольца нейронных сетей
3.7 Парадоксальные точки в малых кольцах нейронных сетей
3.8 Сравнение результатов главы 3 с известными результатами
Заключение
Литература
Приложение А. Исходный код программы для построения конуса р-устойчивости
Приложение Б. Исходный код программы «Устойчивость
разностных матричных уравнений с запаздываниями»
Приложение В. Исходный код программы для построения областей устойчивости нейронных сетей
Введение
Актуальность темы исследования Нейронные сети изучают международные научные сообщества: International Neural Network Society (INNS), the European Neural Network Society (ENNS), the Japanese Neural Network Society (JNNS). Издаются журналы, посвященные исключительно нейронным сетям: Neural Networks (изд-во Elsevier), IEEE Transactions on Neural Networks and Learning Systems (IEEE, США), Advances in Artificial Neural Systems (изд-во Hindawi), Optical Memory&Neural Networks (Information Optics) (изд-во МАИК НАУКА/INTERPERIODICA), Neural Network World (АН Чехии) и т.д.
Всякую модель, в которой имеются узлы и связи между ними, в настоящее время можно рассматривать как нейронную сеть. Таким образом, нейронными сетями являются модели системы взаимодействующих вулканов [32], компьютерные сети [46, 47, 52], модели процесса извлечения слов из человеческой памяти [5], нервные системы живых существ.
Устойчивость нейронных сетей является одной из главных ее характеристик. Проблема устойчивости осложняется запаздываниями во взаимодействии нейронов. Поэтому ее изучение требует применения теории функционально-дифференциальных уравнений (ФДУ), если модель нейронной сети непрерывна, либо разностных матричных уравнений с запаздываниями, если модель дискретна. В теорию ФДУ внесли вклад Н.В. Азбелев, Р. Веллман, Ю.Ф. Долгий,
H.H. Красовский, A.B. Ким, В.Г. Пименов, З.И. Рехлицкий, П.М. Симонов.
Данная диссертация посвящена устойчивости дискретных моделей нейронных сетей. Такие модели были построены в работах Е. Каслик и ее учителя С. Балинта [58-60] (2007-2009) как аналоги непрерывных моделей.
Общие результаты изучения устойчивости, применимые ко всем сетям, ввиду их общности, не могут дать полное представление о поведении отдельных классов сетей. Поэтому актуальна проблема описания условий устойчиво-

Следующими по сложности за диагональными системами вида (1.31) являются системы с треугольными матрицами А, В. В этих системах устойчивость определяется только диагональными элементами матриц А, В. Естественное расширение класса треугольных систем - это системы с матрицами А, В, совместно приводимыми к треугольному виду. Известно [25], что коммутирующие матрицы этим свойством обладают.
Теорема 1.5. Пусть к > т ^ 1 и числа к,т взаимно просты и р > 0. Пусть A,B,S Є R"xn и S^AS = Ат и S~1BS — Вт, где Ат и Вт — нижние треугольные матрицы с элементами üjs, bjS (1 ^ j, s ^ п). Построим точки Mj = (uj,U2j,uzj) Є IR3, (1 ^ j ^ l), такие что (см. (1.34)J
7 ґ ■ k її
uij + iU2j = bjjex p(—г—argajjj. u^j = o-jj-7ТЬ
Тогда уравнение (1.31) асимптотически р-устойчиво если и только если все точки Mj (1 ^ j ^ п) находятся внутри конуса р-устойчивости для данных к, т, р.
Если существует j (1 ^ j < п), такое что Mj расположено вне конуса р-устойчивости, то уравнение (1.31) р-неустойчиво.
Доказательство. Обозначим ys = Sxs. Уравнение (1.31) переходит в
Уз = ЛТ ys_m + Вт Vs—к- (1-35)
Характеристический полином для (1.35), имеет вид
*(А)=П(А‘-«йА*-”-ад, (1-36)

и совпадает с характеристическим многочленом диагональной системы (1.33). Поэтому из п. 3 Теоремы 1.3 (для m > 1) и п. 2 Теоремы 1.4 (для m = 1) получаем заключение Теоремы 1.5 об асимптотической р-устойчивости, а из п. 4 Теоремы 1.3 (для тп > 1) и п. 3 Теоремы 1.4 (для m = 1) получаем заключение Теоремы 1.5 о р-неустойчивости. Теорема 1.5 доказана. ■