Средства создания параллельных алгоритмов интеллектуального анализа данных

• Автор: Каршиев, Зайнидин Абдувалиевич
• Шифр специальности: 05.13.11
• Научная степень: Кандидатская
• Год защиты: 2013
• Место защиты: Санкт-Петербург
• Количество страниц: 183 с. : ил.

Оглавление
ВВЕДЕНИЕ

ГЛАВА 1 АЛГОРИТМЫ ПАРАЛЛЕЛЬНОГО И РАСПРЕДЕЛЕННОГО ИНТЕЛЛЕКТУАЛЬНОГО АНАЛИЗА ДАННЫХ

1.1 Интеллектуальный анализ данных и решаемые ею задачи

1.2 Существующие подходы к распараллеливанию алгоритмов

АНАЛИЗА ДАННЫХ

1.2Л Методы распараллеливания алгоритмов

1.2.2 Параллельный и распределенный интеллектуальный анализ данных

1.2.3 Существующие стратегии распараллеливания алгоритмов интеллектуального анализа данных
1.2.4 Проект NIMBLE как обобщенный подход к параллельному выполнению алгоритмов интеллектуального анализа данных
1.3 Существующие параллельные алгоритмы интеллектуального АНАЛИЗА ДАННЫХ
1.3.1 Параллельные алгоритмы классификации
1.3.2 Параллельные алгоритмы кластеризации
1.3.3 Параллельные алгоритмы ассоциативных правил
1.4 Методы представления алгоритмов
1.5 Методика распараллеливания
1.6 Выводы
ГЛАВА 2 ФОРМАЛЬНАЯ МОДЕЛЬ И БЛОЧНАЯ СТРУКТУРА АЛГОРИТМОВ ИНТЕЛЛЕКТУАЛЬНОГО АНАЛИЗА ДАННЫХ
2.1. Особенности алгоритмов hi 1теллектуального анализа данных
2.2 Формальная модель алгоритма интеллектуального анализа данных
2.3 Особенности параллельного выполнения алгоритмов интеллектуального анализа данных
2.3.1. Работа алгоритма интеллектуального анализа при распараллеливании по данным и по задачам

2.3.2. Параллельная работа алгоритма интеллектуального анализа
с диспетчером и без диспетчера
2.3.3 Взаимодействие в параллельных алгоритмах
интеллектуального анализа
2.4 Расширение формальной модели параллельных алгоритмов интеллектуального анализа
2.5 Метод построения параллельных алгоритмов интеллектуального
АНАЛИЗА ИЗ ПОТОКОНЕЗАВИСИМЫХ ФУНКЦИОНАЛЬНЫХ БЛОКОВ
2.5.1 Основная идея метода
2.5.2 Типы функциональных блоков
2.5.3. Описание метода
2.5.4 Типы параллельных структур алгоритмов интеллектуального анализа создаваемых методом
2.6 Выводы
ГЛАВА 3 ШАБЛОНЫ И МЕТОДИКА ПОСТРОЕНИЯ ПАРАЛЛЕЛЬНЫХ АЛГОРИТМОВ ИНТЕЛЛЕКТУАЛЬНОГО АНАЛИЗА ДАННЫХ
3.1 Реализация блочной структуры алгоритмов интеллектуального АНАЛИЗА ДАННЫХ
3.1.1 Реализация базовых блоков алгоритмов интеллектуального
анализа данных
3.1.2 Реализация блоков для параллельного выполнения
алгоритмов анализа
3.1.3 Работа параллельного блока при разных видах параллелизма алгоритмов интеллектуального анализа данных
3.2 Адаптеры к средствам выполнения параллельных вычислений
3.2.1 Существующие концепции выполнения параллельных
и распределенных вычислений
3.2.2 Интеграция алгоритмов интеллектуального анализа данных
со средствами выполнения распределенных вычислений

3.3 Методика распараллеливания алгоритмов интеллектуального АНАЛИЗА ДАННЫХ
3.4 Выводы
ГЛАВА 4 РАСПАРАЛЛЕЛИВАНИЕ АЛГОРИТМОВ КЛАССИФИКАЦИИ
И КЛАСТЕРИЗАЦИИ
4.1 Библиотека распределенного анализа данных
4.1.1 Структура проекта
4.1.2 Место стандартов Data mining в библиотеке распределенного анализа данных
4.2 Экспериментальная проверка полученных результатов
4.2.1 Результаты выполнения алгоритма k-means
4.2.2 Результаты выполнения алгоритма 1R
4.3 ВЫВОДЫ
ЗАКЛЮЧЕНИЕ
СПИСОК ЛИТЕРАТУРЫ
ПРИЛОЖЕНИЕ

3. асимптотическая временная сложность алгоритма должна быть меньше или равна асимптотической временной сложности генерирования модели на единственном узле из монолитных данных;
4. наконец глобальная модель должна указывать не только набор кластеров и их членов, но и должна иметь метрику несходства между точками и между кластерами.
Алгоритм требует временную сложность o|]S|n2j, объем памяти 0(| коммуникационную сложность 0(п), где п — количество элементов обучаемых данных и |S| - количество узлов сети.
В общем виде алгоритм описывается следующим образом:
1. на каждом узле применяется выбранный алгоритм кластеризации к набору данных и генерируются локальные денрограммы;
2. отправляются локально сгенерированные денрограммы к центральному компьютеру;
3. используя статистику, основанную на оценках (например, среднее значение), генерируется глобальная денрограмма.
Алгоритм CoFD5 [27] предназначен для кластеризации многомерных (high dimensional) данных и не является алгоритмом, основанным на расстояниях. Он основан по принципу максимального правдоподобия (Maximal Likelihood Principle), где сделана попытка оптимизации своих настроек параметров, чтобы максимизировать вероятность между объектами данных (data points) и моделью сгенерированных параметрами.
Предполагается, что набор данных W с набором признаков S должен кластеризоваться в К классов С,...,Ск с возможностью распознавания, что некоторые объекты данных являются выбросом (outliers). Кластеризация данных тогда
5 CoFD -Co-learning between Feature maps and Data maps.