Методы и алгоритмы беспризнакового распознавания образов

• Автор: Середин, Олег Сергеевич
• Шифр специальности: 05.13.17
• Научная степень: Кандидатская
• Год защиты: 2001
• Место защиты: Москва
• Количество страниц: 141 с. : ил

ОГЛАВЛЕНИЕ
ВВЕДЕНИЕ
1. ПРОБЛЕМА РАСПОЗНАВАНИЯ ОБРАЗОВ ПРИ ОТСУТСТВИИ ЯВНО ВЫРАЖЕННОГО ВЕКТОРА ПРИЗНАКОВ ОБЪЕКТОВ
1.1. Прикладные задачи беспризнакового распознавания образов но критерию сходства объектов

I I I Распознавание рукописных символов

I I 2 Распознавание классов пространственной структуры белков

1.2. Современные методы обучения распознаванию образов в векторных пространствах как теоретическая база беспризнакового распознавания

.1 Общая постановка задачи обучения распознаванию образов

1.2 2. Концепция оптимальной разделяющей гиперплоскости

1.2.3. Обучение на основе понятия опорных векторов

1.2.4. Проблема малой обучающей выборки

1.2 5 Селекция признаков сокращение признакового пространст ва
1.2 6. Регуляризация классификаюров
1.3. Принципы организации обучения беспризнаковому распознаванию образов в гильбертовом пространстве объектов
1.3 I Гильбертово пространство объектов распознавания и парамсгричсс семейство линейных решающих правил
1.3.2. Базисное подпространство в гильбертовом пространстве объектов
1.3.3. Принцип ортогональности главным осям выборки и принцип гладкости для регуляризации построения линейного решающею правила в пространстве проекционных признаков
1.4. Основные шдлчи исследовании
2. ОБУЧЕНИЕ РАСПОЗНАВАНИЮ ОБРАЗОВ В ГИЛЬБЕРТОВОМ ПРОСТРАНСТВЕ ОБЪЕКТОВ
2.1. Гильбертово пространство объектов распознавании и оптимальная разделяющая гиперплоскость
2.2. Метод опорных элементов для обучения распознаванию образов в гильбертовом пространстве
2.2.1. Отсутствие априорных предпочтений о направляющем элементе разделяющей гиперплоскости и гильбертовом пространстве
2.2.2. Предпочтите юная ориентация направляющею ыеменга разделяющей гиперплоскости вдоль осей инерции базисной совокупности
2.3. Распознавание классов пространственной структуры белков в условиях малой обучающей выборки
2.4. Принцип регуляризации, основанный на гладкости проекционных признаков
3. СКОЛЬЗЯЩИЙ КОНТРОЛЬ В ПРОЦЕДУРЕ ОБУЧЕНИЯ
3.1. Метод скользящего кош роля для оценивания экстраполяционных свойств решающего правила по обучающей выборке
3.2. Быстрая реализация процедуры скользящею контроля для метода опорных элементов
3.3. Выбор смещения разделяющей гиперплоскости по результатам скользящего контроля
4. ПРОГРАММНЫЙ КОМПЛЕКС ОБУЧЕНИЯ РАСПОЗНАВАНИЮ ОБРАЗОВ
4.1. Общая характеристика программного комплекса
4.2. Структура файлов данных
4.3. Загрузка и редактирование данных
4.4. Отображение данных и решающего правила распознавания
4.4.1. Построение плоскости проецирования в многомерном пространстве проекционных признаков
4.4.2 Проецирование матрицы близости на двумерную плоскость
4.4.3. Оптимальное проецирование данных на плоскость экрана
4.5. Обучение п распознавание
4.6. Изменение параметров алгоритма
4.7. Сохранение и загрузка решающего правила
4.8. Вывод информации об объекте
5. ПРИМЕНЕНИЕ АЛГОРИТМОВ ОБУЧЕНИЯ ДЛЯ РЕШЕНИЯ ПРИКЛАДНЫХ ЗАДАЧ
5.1. Распознавание классов пространственной структуры белков
5 1.1 Представление величины близости по парному элайнменту белковых последовательностей в качестве скалярною произведения в воображаемом гильбертовом пространстве
5.1.2. Распознавание классов один против одного
5.1.3. Эффект регуляризации ПО
5.2. Распознавание рукописных символов по траектории пера в процессе написания
5.2.1. Распознавание классов один всех
5.2 2 Эффективное смещение порога припиши решения но результатам скользящего контроля 1
6. ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ
ЛИТЕРАТУРА


Специфика именно таких шач обучения распознаванию образов изучается в настоящей рабою Предлагается два подхода. Как и в классическом подходе к проблеме обучения, мы опираемся на гипотезу компактности, которая здесь трактуется непосредственно, а не через промежуточное понятие линейного пространства признаков. Второй подход вместо линейного векторного пространства признаков, в которое объекты распознавания отображаются лишь условно, мы рассматриваем в качестве характеристик объектов отсчеты проекционного пространства, опирающегося на проекционные признаки, роль которых играют похожести на некоторые заранее заданных пространствообразующих объектов. Тем не менее, мы используем здесь принцип формирования решающего правила распознавания , 5 созданный, именно для обучения в линейных пространствах и получивший название метода опорных векторов В начале х годов, работая уже в США, в , В. I Вапник переработал метод обобщенного портрета, созданный им и Л Я Червоненкисом в период их совместной деятельности в Институте проблем управления АН СССР, и предложил красивейший оптимизационный критерий построения решающего правила обучения Сущность предложенного критерия имела настолько глубокий смысл, адекватный природе большинства прикладных задач распознавания образов, что он сразу завладел умами специалистов в области анализа данных. Появился целый поток публикаций ,,. Эксперименты, проводимые в ходе исследований, показали недостаточную статистическую устойчивость решающих правил, построенных в гильбертовом пространстве объектов с нефиксированной размерностью, что объясняется проблемой проклятия малой выборки, характерной для задач распознавания образов в случае, когда число признаков близко к числу объектов обучающей выборки или превосходит его. Кроме того, достаточно детально рассмотрена процедура оценивания экстраполяционных свойств полученного решающего правила, называемая скользящим контролем. Предложен метод ускорения этой процедуры с точки зрения вычислительной эффективности за счет учета специфики критерия обучения по методу опорных векторов. Предложена концепция дообучения с использованием результатов скользящего контроля. Научная новизна работы. В работе впервые предложена концепция погружения множества реально существующих объектов беспризнакового распознавания образов в гипотетическое линейное пространство со скалярным произведением гильбертово пространство. Предложен класс линейных решающих правил и критериев обучения беспризнаковому распознаванию образов в гильберювом пространстве объектов Предложен способ регуляризации обучения беспртпнаковому распознаванию образов е целью повышения статистической стабильности полу чаемого решающего правила. Степень обоснованности результатов. Научные положения, результаты н выводы, сформулированные в диссертационной работе, обоснованы теоретически и обсуждены на семинарах и конференциях. Практическая значимость. Разработанные концепции и алгоритмы существенно расширяют круг прикладных задач, к которым применимы существующие методы обучения распознавания образов. Связь с плановыми научными исследованиями. Работа выполнена в рамках договора о сотрудничестве между кафедрой автоматики и гелемеханики Тульского государственного университета и i государственного университета плата НыоДжерси США, и при поддержке Государственной научнотехнической программы РФ Перспективные информационные технологии, гранта Российского фонда фундаментальных исследований, гранта Министерства образования РФ. Прикладные результаты работы и их реализация. Разработанные алгоритмы реализованы в виде программноалгоритмического комплекса обучения распознаванию образов в беспризнаковмх пространствах. Апробация работы. II международной конференции Распознавание образов и анализ изображений новые информационные технологии Нижний Новгород. IV международной конференции Распознавание образов и анализ изображений. V международной конференции Распознавание образов и анализ изображений новые информационные технологии Самара. Интеллектуализация обработки информации ИОН Алушта. Крым. I i i Ii i iii университет .