Методы разработки параллельных программ на основе машинного обучения

• Автор: Воронов, Василий Юрьевич
• Шифр специальности: 05.13.11
• Научная степень: Кандидатская
• Год защиты: 2009
• Место защиты: Москва
• Количество страниц: 146 с. : ил.

Введение
1 Разработка и исследование методов построения параллельных программ на основе машинного обучения

1.1 Метод выбора и настройки параметров решателей для параллельной программы.

1.1.1 Модель параллельного решателя

1.1.2 Алгоритм отыскания минимума функции сложности . .

1.2 Метод выбора числа процессоров для запуска решателя.

1.3 Построение классификатора и функции сложности на основе методов опорных векторов .

1.3.1 Классификатор опорных векторов.

1.3.2 Регрессия опорных векторов.

1.3.3 Параметры методов опорных векторов.

1.4 Повышение точности предложенных методов построения параллельной программы .

1.4.1 Скользящий контроль для обучения моделей опорных
векторов.
1.4.2 Алгоритм отбора моделей опорных векторов.
1.4.3 Декомпозиция пространства решателей
1.5 Выводы
2 Методы и алгоритмы инструментальной программной системы для построения параллельных программ на основе предложенных методов и алгоритмов машинного обучения
2.1 Архитектура программной системы
2.2 Распараллеливание предложенных методов построения параллельной программы
2.2.1. Параллельная реализация генетического алгоритма . . .
2.2.2 Параллельная реализация отбора моделей опорных векторов
2.2.3 Оценка ускорения предложенных параллельных реализаций
2.3 Понижение размерности признакового пространства при построении моделей опорных векторов.
2.3.1 Реализация отбора признаков классификаторов опорных векторов
2.3.2 Реализация понижения размерности для регрессии опорных векторов
2.4 Выводы.
3 Исследование .эффективности предложенных методов на примере решения практических задач
3.1 Исследование предложенных методов для решения практических задач на основе систем линейных уравнений
3.1.1 Эффективность метода выбора и настройки параметров решателя .
3.1.2 Точность метода выбора числа процессоров для решателя
3.2 Постановка задачи моделирования сетей распределения питания СБИС большой размерности
3.2.1 Физическая структура и численная модель сетей питания СВИС
3.2.2 Разработка параллельных методов решения задачи для МВС с общей памятью.
3.2.3 Разработка параллельных методов моделирования сетей питания СБИС на МВС с распределенной памятью .
ВВЕДЕНИЕ
3.3 Исследование эффективности предложенных методов для решения задачи моделирования сетей питания СБИС.
3.3.1 Формирование признакового пространства
3.3.2 Эффективность метода выбора и настройки параметров решателя .
3.3.3 Определение числа процессоров для решения задачи моделирования сетей питания СБИС
3.4 Выводы
Заключение
Список литературы


Определения наилучшей комбинации этих параметров из некоторого диапазона значений выполняется путем вариации значений параметров и выбора комбинации параметров, соответствующих получаемому приложению с наименьшим временем счета. Для выбора наилучшего предобусловливателя к линейной системе применяются все доступные реализации и выбирается та, которая соответствует наименьшей величине начальной нормы невязки. Настройка итерационного решателя выполняется за счет запуска решателя с разными значениями параметра перезапуска и реализацией алгоритма ортогонализации, из которых затем выбирается реализация с наилучшей производительностью. Работы , описывают инструментальную систему автоматической настройки производительности параметров прямого решателя СЛАУ . Инструментальная система выполняет настройку производительности прямых реша. СЛАУ из пакета ЭирегЬи . При этом автоматически выбирается тип алгоритма переуиорядочивания. Выбор алгоритма нереупорядочивания осуществляется на основании величины разреженности матрицы СЛАУ тгпгА2, где размерность матрицы СЛАУ, ппгколичество ненулевых элементов матрицы СЛАУ. Выбор основан на применении нечетких правил над некоторым множеством значений характеристик матрицы СЛАУ, определенных экспертом. В качестве основной характеристики в системе используется разреженность доля ненулевых элементов матрицы СЛАУ. В статье представлена методология автоматической настройки производительности функций умножения матрицаматрица Р1ПРЛСК . Вместо настройки параметров в библиотеке функций, 1 РАС К предлагает набор параметризироваиных шаблонов функций, из которых для целевой платформы генерируется адаптированная библиотека функций. Значения параметров определяются переборной стратегией по результатам замеров производительности генерируемых функциикандидатов. Алгоритм поиска параметров учитывает такие характеристики платформы, как количество регистров и иерархия кэшпамяти. Первоначально выполняется поиск размеров блока Мо, Ао, для которого иаилучшим образом используются регистры. Далее для найденного блока выполняется поиск значений пары параметров ЛьЛ I . На примере пакета РШРАСК в работах , авторы представляют статистический подход к настройке производительности операций линейной алгебры. На основании обучающей выборки экспериментальных значений предлагается формировать полиномиальную зависимость времени выполнения задачи в зависимости от параметров, определяющих применяемую реализацию функции. Как было отмечено ранее, по принципу действия системы автоматической настройки производительности могут быть разделены на настраиваемые по особенностям обрабатываемых данных и па основе особенностей вычислительной системы. Механизм автоматической настройки производительности реализован в пакете . В нем представлены алгоритмы преобразования Фурье, которые учитывают особенности вычислительной платформы. Алгоритм преобразования в пакете реализован в виде набора оптимизированных блоков на языке С, называемых подлетами . Каждый кодлет реализует некоторую часть алгоритма преобразования, причем кодлеты для одной и той же части являются взаимозаменяемыми. Специальный алгоритм динамически формирует набор кодлетов, называемый планом, составляющих алгоритм преобразования. Набор планов кандидатов оценивается исходя из минимизации времени выполнения преобразования. Существенное значение в предложенном подходе занимает реализованная автоматическая генерация кодлстов. Пакеты , и I являются наиболее известными и широко применяемыми представителем приложений автоматической настройки параметров численных библиотек. В этих пакетах реализована идея автоматической настройки функций пакета базовых операций линейной алгебры , настройке подвергаются операции вида матрицавектор и матрицаматрица с цслыо более эффективного использования кэшпамяти и других особенностей платформы. В пакете настройка осуществляется двумя основными способами варьирование параметров функций с выбором оптимальных настроек на этапе выполнения программы и создание множества реализаций функции, с выбором определенной реализации функции для дайной архитектуры.