Исследование и разработка однородных вычислительных структур, способов организации вычислений и методики оценки их эффективности для реализации нейронных сетей

• Автор: Васин, Леонид Анатольевич
• Шифр специальности: 05.13.15
• Научная степень: Кандидатская
• Год защиты: 2002
• Место защиты: Пенза
• Количество страниц: 148 с. : ил

Введение
1. Структурная организация нейровычислительных структур и пути повышения эффективности вычислительного процесса

1.1 Основные типы и способы реализации нейровычислительных структур

1.2 Методология оценки производительности и эффективности вычислений

в нейровычислительных структурах

1.3 Способы увеличения производительности нейровычислительных структур

1.4 Основные выводы и направления исследований.

2. Способы организации вычислений в нейровычислительных структурах.

2.1 Концептуальная модель и принципы функционирования нейровычислительных структур с общей шиной
2.2 Концептуальная модель и принципы функционирования нейровычислительных структур с кольцевой шиной
2.3 Способы организации и сложность реализации операций алгебраического сложения в нейровычислительных структурах.
2.4. Способы организации и сложность реализации операций алгебраического
умножения в нейровычислительных структурах
2.5 Способы организации и сложность реализации операции арифметического деления в нейровычислительных структурах
2.6 Основные результаты и выводы.
3. Способы организации вычислений и сложность функционирования нейросетевых структур.
3.1 Способы организации вычислений и сложность реализации нейросети Однослойный персептрон
3.2 Способы организации вычислений и сложность реализации нейросети Макснет.
3.3 Способы организации вычислений и сложность реализации сети Хемминга
3.4 Способы организации вычислений и сложность реализации нейросети Обратного распространения ошибки
3.5 Способы орг анизации вычислений и сложность реализации нейросети
Хопфилд.
3.6 Основные результаты н выводы.
4. Способы повышения эффективности арифметических вычислений в
нейропроцессорных структурах.
4.1 Макроструктурная организация нейровычислительной струкгуры
4.2 Микроструктурная организация нейровынислнтельной структур.
4.3 Основные результаты и выводы
Заключение
Список литературы


Количество уровней НВП определяется количеством типов вычисляемых нейрофункций и частотой их повторений. Количество параллельно используемых ветвей на каждом уровне определяется количеством вычисляемых на этом уровне нейрофункций. НВП является синхронизированными процессами: процесс не может быть корректно продолжен на следующим уровни до момента окончания вычислений на предыдущем уровне и передачи результатов вычислений на следующий уровень. НВП на каждом уровне являются процессами с массивным параллелизмом: в каждой ветви выполняется вычисление нейрофупкций одного и того же типа, процессы вычислений в ветвях нс взаимодействуют между собой ни по данным, ни по управлению. Таким образом, в общем случае НВП являются структурированными процессами с параллелизмом ветвей на макроуровне и параллелизмом объектов на микроуровне. Такие процессы можно интерпретировать ярусно-параллельными информационно-потоковыми графами. В этом случае множество вершин ірафа будет интерпретировать множество независимых вычислительных подпроцессов, а множество ребер - множество процессов обменов данными между вычислительными подпроцессами. На рис. Г|2, гіз - подпроцессы передачи данных на обработку с 1 на 2 уровне, г2|,. Рис. Если вершины графа дополнительно пометить идентификаторами вычисляемых нейрофункций (Г,), то такой граф будет отображать пространственно-временную и функциональную логику реализации нейровычислительного алгоритма. Такие математические модели НВЛ в теории нейровычислений принято называть искусственными нейронными сетями (ИНС), а их технические реализации - нейровычис-лительными структурами (НВС). В связи с этим для сохранения единства терминологии в исследуемой области далее в работе будут использоваться именно эти общеупотребительные термины ИНС и НВС. Современные нейровычислительные структуры классифицируются по следующим группам: аппаратные реализации ИНС, программные эмуляторы ИНС на базе классических ЭВМ, построенных по принципам фон Неймана; программно-аппаратные эмуляторы ИНС на базе классических ЭВМ с нейро-акселератором [4, -]. Аппаратные реализации НВС осуществляются на базе СБИС или БИС общего назначения. Аппаратные реализации используются при проектировании узкоспециализированных НВС, где на аппаратном уровне учитывается специфика организация нейровычие-лений. Основной недостаток аппаратной реализации состоит в том, что подобные структуры способны эффективно решать только конкретную вычислительную задачу, для которой они и спроектированы. Попытка решать задачу другого типа, приводит к тому, что эффективность НВС оказывается низкой. При использование программных эмуляторов осуществляется имитация НВС на персональном компьютере, рабочей станции или мультипроцессорной системе. Преимуществом подобного подхода является возможность перепрограммирования системы под конкретную вычислительную задачу. Основной недостаток программных эмуляторов состоит в том, что при реализации нейросетевых алгоритмов на универсальных вычислительных средствах, вычисления являются малоэффективными []. Для реализации нейросетевых алгоритмов на базе универсальных микропроцессорных средств эффективнее создавать программно-аппаратные архитектуры, ориентированные на выполнение нейросетевых операций, чем использовать стандартные вычислительные структуры []. Существующие современные промышленные реализации НВС можно классифицировать как программно-аппаратные одномерные НВС. Основными типами промышленных реализаций являются НВС с общей и кольцевой шиной данных и внешним устройством управления [4, , -]. К структурам с общей шиной относятся НВС с несколькими шинами, которые служат для ввода данных и вывода полученных результатов вычислений. Особенностью организации такого типа является отсутствие внутренней шины передачи данных для межпроцессорного обмена промежуточными результатами вычислений. В этом случае обмен данными происходит через внешние шины ввода и вывода. НВС с общей шиной как правила включают шины ввода, шины вывода, шины адреса, шины команд и одномерные массивы ЭНП. Эта схема организации применена в НВС, например, 2. Ш М^огк. Так, ЭНП НВС CNAPS 2.