Непараметрическое оценивание сигналов с неизвестным распределением

• Автор: Добровидов, Александр Викторович
• Шифр специальности: 05.13.01
• Научная степень: Докторская
• Год защиты: 2003
• Место защиты: Москва
• Количество страниц: 284 с. : ил

1 УСЛОВИЯ СЛАБОЙ ЗАВИСИМОСТИ В МОДЕЛЯХ НАБЛЮДЕНИЙ

1.1. Понятие слабой зависимости.

1.2. Условия сильного перемешивания функции от стационарных процессов

1.3. Перемешивание для динамических моделей

1.4. Свойства выборки с перекрытием.

1.5. Выводы.

2 НЕПАРАМЕТРИЧЕСКОЕ ОЦЕНИВАНИЕ НЕКОТОРЫХ ФУНКЦИОНАЛОВ ОТ РАСПРЕДЕЛЕНИЯ ПО СЛАБОЗАВИСИМОЙ ВЫБОРКЕ

2.1. История вопроса

2.2. Среднеквадратическая сходимость непараметрических оценок плотностей

2.2.1. Смещение.

2.2.2. Дисперсия

2.3. Среднеквадратическая сходимость непараметрической оценки градиента плотности
2.3.1. Критерий.
2.3.2. Смещение.
2.3.3. Дисперсия
2.4. Непараметрическое оценивание логарифмической производной плотности
2.4.1. Предварительные замечания
2.4.2. Ядерные оценки плотности распределения и ее производной для независимой случайной выборки .
2.4.3. Свойства ядерной оценки плотности для с.п. последовательностей .
2.4.4. Свойства ядерной оценки производной плотности
для с.п. последовательностей.
2.4.5. Сходимость четвертых моментов ядерной оценки плотности и ее производной для с.п. последовательностей
2.4.6. Свойства ядерной оценки логарифмической производной плотности распределения для с.п. последовательностей .
2.5. Непараметрическое оценивание логарифмического градиента плотности
2.6. Выводы.
НЕПАРАМЕТРИЧЕСКИЕ МЕТОДЫ НЕЛИНЕЙНОЙ
ФИЛЬТРАЦИИ
3.1. Общие проблемы обработки сигналов
3.2. Постановка задачи фильтрации.
3.2.1. Критерий.
3.2.2. Приближенные методы решения
3.2.3. Эмпирический байесовский подход
3.2.4. Асимптотически оптимальные процедуры
3.3. Условия асимптотической оптимальности оценок
3.3.1. Необходимое и достаточное условие асимптотической оптимальности
3.3.2. Достаточное условие асимптотической оптимальности
3.4. Статические модели наблюдений
3.4.1. Функция потерь.
3.5. Формула преобразования апостериорных вероятностей
3.6. Уравнение оптимальной фильтрации для статических моделей .
3.7. Непараметрический вариант уравнения оптимальной фильтрации для статических моделей
3.8. Динамические модели наблюдений .
3.8.1. Условноэкспонентное семейство.
3.8.2. Функция потерь.
3.9. Уравнение оптимальной фильтрации для динамических моделей
3 Фильтрация некоторых функций от полезного сигнала
3 Асимптотически е оптимальная процедура фильтрации
. Оценка плотности по одной реализации процесса.
. Критерий выбора длины зоны зависимости. . . .
. Фильтр Калмана и асимптотически е оптимальная оценка
. Выбор длины зоны зависимости при конечном п .
. Длина зоны зависимости при неизвестной оптимальной процедуре.
3 Выводы.

4 НЕПАРАМЕТРИЧЕСКИЕ МЕТОДЫ ИНТЕРПОЛЯЦИИ
4.1. Уравнение оптимальной нелинейной
интерполяции
4.2. Непараметрический аналог интерполяционного уравнения 5 ф 4.3. Выводы
5 НЕПАРАМЕТРИЧЕСКИЕ МЕТОДЫ ПРОГНОЗА
5.1. Прогноз наблюдаемой стационарной последовательности
5.2. Прогноз ненаблюдаемой компоненты частично наблюдаемой марковской последовательности
5.3. Примеры задач прогноза
5.4. Выводы
6 РИСК В ЗАДАЧАХ ОБРАБОТКИ СИГНАЛОВ И ЕГО
НЕПАРАМЕТРИЧЕСКОБ ОЦЕНИВАНИЕ
6.1. Постановка задачи
6.2. Формула эмпирического риска для задачи фильтрации
6.3. Эмпирический риск в задачах интерполяции
6.4. Оценка риска в задачах прогноза.
6.5. Сходимость эмпирических оценок рисков.
6.6. Примеры непараметрических оценок рисков.
6.7. Одновременный выбор длины реализации и степени за
висимости наблюдаемого процесса.
6.8. Выводы
7 НЕПАРАМЕТРИЧЕСКИЕ МЕТОДЫ ВЫДЕЛЕНИЯ СКАЧКООБРАЗНЫХ МАРКОВСКИХ ПРОЦЕССОВ
7.1. Модель наблюдений и условие слабой зависимости . . .
7.2. Непараметрическая фильтрация конечнозначных марковских цепей.
7.3. Непараметрическая интерполяция конечнозначных марковских цепей .
7.4. Оценивание моментов изменения свойств случайных про
Ф цессов.
7.5. Выводы
ЗАКЛЮЧЕНИЕ
ПРИЛОЖЕНИЕ
П1. Доказательства результатов раздела 2.4.
П2. Доказательство формулы интегрирования по частям для
многомерных интегралов Стилтьеса.
ЛИТЕРАТУРА

ВВЕДЕНИЕ


Приведены примеры вычисления рисков для каж
дого случая обработки сигнала. Результаты по рискам опубликованы в работах автора , . В седьмой главе изучаются методы выделения стационарных скачкообразных марковских цепей с неизвестными переходными вероятностями состояний. Дискретность множества состояний марковской цепи позволяет изучать более общие, чем авторегрессионные, модели наблюдения. Рассматриваются две задачи фильтрации и интерполяции конечнозначных марковских цепей. Получены уравнения оптимальной обработки для обоих случаев в форме, не зависящей от априорных характеристик марковской цепи. Последнее свойство позволяет выписать непараметрические аналоги этих уравнений. В обоих случаях вычислены непараметрические оценки рисков, смысл которых сводится к вероятности принять ошибочное решение. Исследуется сходимость предложенных процедур. Рассмотренные в этой главе вопросы нашли отражение в работах автора , , . Первые две главы диссертации посвящены математическому обоснованию применения непараметрических процедур оценивания, использующих наблюдения стационарных последовательностей. Исследования показали, что получить требуемые результаты о сходимости непараметрических оценок в общем случае зависимости между случайными переменными стационарного процесса в настоящее время не представляется возможным. Поэтому мы ограничиваемся рассмотрением слабозависимых последовательностей. Математически понятие слабой зависимости между случайными величинами формулируется следующим образом. Э, Р со значениями в Н . Пусть 3 тХиуз и 7 алгебра событий, генерируемых случайными векторами Хи, 5 и , т. Л,1,. Xi Г , где i 2 i 1 а Г есть А мерное борелевское множество. Прошлое последовательности X определяется а алгеброй , , будущее . РЛЯРЛРЛ, г 0. Если теперь т увеличивать, т. РАВ РАРВ будет убывать, стремясь к нулю. Последовательности, удовлетворяющие такому свойству, и называются последовательностями со слабой зависимостью , стр. Число, задаваемое выражением 1. А и В и числа , определяющего размер прошлой а алгебры. Для того, чтобы степень зависимости сделать свойством случайной последовательности в целом, выражению 1. РАВ РЛР, г 0. Функцию аг называют коэффициентом сильного перемешивания с. Если для стационарной в узком смысле последовательности Хп коэффициент перемешивания ат 0 при т оо, то говорят, что последовательность Хп обладает свойством сильного перемешивания с. В ряде случаев аг будет использоваться с индексом процесса, порождающего этот коэффициент. Важные примеры с. Там же приведены и другие способы описания степени зависимости. Обозначим Хр ЕЯР р 0 . В дальнейшем будет использоваться следующее неравенство. Лемма 1. Пусть стационарный процесс Х удовлетворяет условию сильного перемешивания 1. Р1 1 г1 1 . Ет ЕЕг 2тог 7р7,. Впервые неравенство типа 1. В данной работе коэффициент с. Поскольку оценки в задачах выделения сигналов из помех строятся по реализациям наблюдаемых процессов, связанных с полезным сигналом и помехой уравнением наблюдения, то в дальнейшем нам потребуются условия, при которых наблюдаемый процесс является стационарным процессом с с. В диссертации рассматриваются как статические, так и динамические модели наблюдения, и для каждого из этих типов моделей существуют свои условия с. Эти условия рассматриваются в следующих двух разделах. Данный раздел посвящен выяснению условий, при которых борелевская функция от векторных стационарных последовательностей образует последовательность с с. Эти условия будут использованы в дальнейшем для формирования моделей наблюдений в задачах непараметрической обработки сигналов. Лемма 1. Пусть процесс 6 является стационарным процессом с с. Р . Тогда процесс 7 v у где р борелевская функция из о , также является процессом с с. Доказательство. Д1 А и р1В борслсвские множества в по определению измеримых функций. Лемма 1. Пусть дп 6 стационарная последовательность с с. Тогда совместный процесс хп дп,гп, п 1 , заданный на пространстве , 3, Р , где дп и 7 взаимно независимы, будет стационарной векторной последовательностью с с.