Непараметрическое оценивание плотности и функции регрессии для слабо зависимых случайных полей

• Автор: Миллионщиков, Николай Владимирович
• Шифр специальности: 01.01.05
• Научная степень: Кандидатская
• Год защиты: 2005
• Место защиты: Москва
• Количество страниц: 82 с.

Основные обозначения

1 Асимптотическая нормальность ядерных оценок плотности

1.1 Применение техники секционирования к слабо зависимым случайным полям

1.2 Скорость нормального приближения ядерных оценок

плотности

2 Асимптотическая нормальность ядерных оценок функции

регрессии

2.1 Применение метода Стейна к слабо зависимым случайным полям

2.2 Скорость нормального приближения ядерных оценок

функции регрессии

3 Состоятельность ядерных оценок плотности

3.1 Экспоненциальные неравенства
3.2 Неравенства для моментов сумм зависимых случайных величин
3.3 Сходимость почти наверное ядерных оценок плотности
Список литературы

Задача оценивания плотности распределения случайных величин является традиционной задачей статистического анализа данных, представляющей не только теоретический интерес, но и допускающей приложения на практике. Напомним, что имеются два основных типа статистических оценок: параметрические и непараметрические. Непараметрическая процедура обычно определяется как процедура, которая справедлива независимо от типа распределения, которому принадлежит выборка. Привлекательность непараметрических стохастических моделей обусловлена весьма общими условиями, в терминах которых они описываются, например, независимость и одинаковая распределенность изучаемых случайных величин. Именно поэтому основное внимание в диссертации уделяется непараметрическому подходу к оцениванию плотностей. При этом акцент делается на получении результатов, справедливых для зависимых наблюдений. Разумеется, параметрические модели также имеют свои достоинства (часто в большей простоте и законченности статистических выводов). Поэтому целесообразным является взаимодополняющее развитие как параметрических, так и непараметрических методов математической статистики. Имеется множество работ, посвященных изучению свойств непараметрических оценок плотностей и функции регрессии (см., например, [2], [14], [23], [40], [75]-[72]).
Значительное внимание специалистов в области математической статистики уделяется введенным Розеблаттом ([70]) ядерным оценкам плотности, основные свойства которых были изучены Парзеном ([68]).
Далее все используемые случайные величины и векторы считаются определенными на некотором вероятностном пространстве (П,^, Р). Как обычно, Е - усреднение по мере Р, ьаг(У) - дисперсия случайной величины У. В качестве расстояния между точками г = (Д гД и у = (Д,... ,у<г) из всегда будет выступать ||г — у || = тахх-с,^ |г9 — jq|.
Пусть Х Хп - одинаково распределенные случайные векторы со значениями в К3, имеющие общую плотность распределения /. Ядерная оценка, или оценка Парзена-Розенблатта, плотности / задается формулой
7»М:=4 (°'од>
где К - плотность некоторого вероятностного распределения (ядро),

{/гп}п>1 ~ последовательность положительных чисел, стремящаяся к нулю при п —> оо.
Различные примеры ядер можно найти в работах [48], [68]. Выбор функции К в формуле (0.0.1) играет большое значение. На практике этот выбор может осуществляться по-разному, исходя из конкретных условий. При работе с ядерными оценками используются разнообразные численные методы, например, быстрое преобразование Фурье (см. [78]).
Существует много подходов к выбору последовательности {Ьп}п>1 в (0.0.1) (см., например, [2], [14], [53], [77]).
Большое количество работ посвящено исследованию близости /„ к/в различных метриках, например, метриках пространств Ьр, С. Изучению свойств непараметрических, в том числе ядерных, оценок плотности как элементов пространства Ь посвящена книга [14]. Результаты о равномерной в К* почти наверное сходимости /„ к / были получены, например, в статьях [49], [50].
Ядерные оценки плотности применяются и для процессов с непрерывным временем. Уделяется внимание построению доверительных интервалов и асимптотике дисперсий соответствующих оценок (см., например, [52]).
Наряду с ядерными используются и другие непараметрические оценки плотности, такие как проекционные, гистограммные (см. [14], [23], [26], [81]). Применяются также различные модификации ядерных оценок: адаптивные ядерные оценки, рекуррентные ядерные оценки, преобразованные ядерные оценки и другие (см., например, [14] ). Идеи Парзена и Розенблатта нашли свое применение и при построении семипараметрических оценок, которые в определенных условиях обладают одновременно преимуществами непараметрической и параметрической процедур (см. [32], [58]).
Оценки Парзена-Розенблатта являются классическим примером непараметрических статистических оценок, благодаря их появлению в непараметрической статистике стали активно использоваться многие идеи гармонического анализа и теории аппроксимации функций. При работе с ними широко применяются результаты и методы теории суммирования случайных величин. Их удобство и универсальность привели к появлению и последующему детальному изучению ядерных оценок функций распределения, квантилей (см. [39]), моды (см. [63], [67]), функции регрессии (см. [23])'.
Ядерные оценки функции регрессии были введены в работах Надарая и

Положим 6 = е1/2 в соотношении (2.2.49). В результате получим (2.2.47). Предложение доказано.
Лемма 2.2.7. Пусть выполнены условия (В) и (В2). Тогда при всех п £ N
Е||Мо(п)|| < С7#+2)/2. (2.2.50)
Если дополнительно справедливы условия (В5), то
Е||М0(п)|| < СТ^+4)/2 (2.2.51)
Доказательство. В лемме 2.2.5 было установлено, что для всех р = 1 г = 1 функция фр{(х) = /(у* - г^хр))/{{х,у1)ду1

обладает свойством Липшица. Из представления (2.2.39) следует, что если выполнены (В5), то ф]п(х) имеет непрерывные ограниченные производные второго порядка по х. Поскольку
К»+1
имеем
/ (у; - г1{хр))К{х)и{х,у1)дхду1 = д(хр)гг(хр) - п(хр)д(хр) = О,
Е|М0рт| < Н3п/2 / К{х)фр1(хр - хЪ,п) ~ фРг(хр)йх. (2.2.52)
Так как фр{(х) - липшицева, то из (2.2.52) следует Е|Морт| < Ск„+2^2-Пусть теперь справедливы условия (55). Применяя формулу Тейлора к фрфх), а также (2.2.17) и (2.2.52), получаем Е||Мо(га)|| < СТг«+4^2. Лемма доказана.
Доказательство теоремы 2.2.1. Для всех р = 1 к имеем
|Еу„(а:р) - д{хр) <
! (К{у)д{хр - уК) - К{у)д(хр))ду
< СК,
(2.2.53)
здесь С не зависит от п. Из условий (ВЗ) следует, что 2Сх11п < (|С/„|/г^)_1/3 для всех достаточно больших п € N. Таким образом, из (2.2.53) и леммы 2.2.6 следует оценка
Р(№п - т > (ипКГ1/3) < С{ипК)-ф- (2.2.54)
Положим qn = (#„ Яп) е М'1, п е М, где дп фигурируют в (54). Тогда из предположений (53) и (54) следует, что йп(<1п) < 70 и 2*(с1п) < ип для всех достаточно больших п £ N.