Аппроксимативные свойства функциональных классов и их приложения к задачам регрессии

• Автор: Малыхин, Юрий Вячеславович
• Шифр специальности: 01.01.01
• Научная степень: Кандидатская
• Год защиты: 2010
• Место защиты: Москва
• Количество страниц: 63 с.

Оглавление
Введение

Исторический обзор понятий, исследуемых в диссертации

Структура и основные результаты работы

1 Псевдоразмерность и связанные с ней поперечники

1.1 Определения и примеры

1.2 Сравнение рп и

1.3 Сравнение рп и зт, т < п

2 Энтропия

2.1 Локальная энтропия

2.2 Связь энтропии и комбинаторной размерности

2.3 Скобочная энтропия
3 Оценки погрешности в задаче непараметрической регрессии
3.1 Обозначения и вспомогательные утверждения
3.2 Случай неизвестной меры рх
3.3 Случай известной меры рх
Список литературы

Список обозначений
А%, 20 В{1), 16 №е(А, X), 33 Ре(А), 33 с1ітр(Ил), 16 £(/), 53 &(/), 53 £{■),
№є(с, А, X), 34 Рє(с, Л),
Рп(^),
г(/,5), 11,49 уср7, є), 47 г,

Ір, 52
5„(Ж),

Введение
В настоящее время многие методы и идеи теории приближений используются в математической статистике. С середины 20-го века в математической статистике начался переход от классической, “параметрической” парадигмы, в которой оцениваемый параметр принадлежит конечномерному евклидовому пространству, к современной “непараметрической”, в которой это уже не так. Возникла необходимость работы с существенно бесконечномерными объектами, такими как, скажем, множество функций плотности, удовлетворяющих определенному условию гладкости. Это привело статистиков к активному использованию общих понятий из функционального анализа и теории функций, а позже — из теории приближений.
Проиллюстрируем сказанное на примере задачи регрессии. Задача регрессии состоит в аппроксимации функциональной зависимости среднего значения одной случайной величины от другой или нескольких других. Пусть, скажем, мы наблюдаем п значений {х,у),..., (хп,у„) случайных величин х и у с неизвестным нам распределением. Требуется оценить функцию регрессии /(ж) — Е(у|х — х). Обычно предполагается, что / принадлежит известному функциональному классу Т. В этом случае, как методы построения оценок функции регрессии, так и наилучшая возможная точность оценивания определяются аппроксимативными свойствами Т. Отметим также, что в отсутствии шума (у = /(х) почти наверное) имеем Уг = /(Дг), & — 1, • • • ,п, и задача переходит в классическую для теории приближений задачу интерполяции.
С другой стороны, в задачах, возникших внутри теории вероятностей и математической статистики, появились различные объекты, представляющий самостоятельный интерес для теории функций и теории приближений.
В диссертации изучаются некоторые аппроксимативные характеристики, играющие большую роль в теории непараметрической регрессии: энтропия, локальная энтропия, скобочная энтропия, псевдоразмерность и связанные с пей поперечники. Также получен ряд результатов непосредственно по непараметрической регрессии, носящих, впрочем, исключительно теоретический характер.

Мы приведем несколько примеров, иллюстрирующих различия между обычной и локальной энтропией.
Хорошо известна оценка энтропии п-мерного шара В радиуса В, в банаховом пространстве X:
Из этих неравенств следует, что е-энтропия конечномерного шара стремится к бесконечности при £ —> 0, в то время как локальная е-энтропия остается ограниченной.
Другим примером является эллипсоид
Сначала оценим Ы£ сверху. Пусть
Уп = {х € 4: хп+1 = хп+2 = ... = 0}.
Уклонение й(£д, Уп) ^ Яп+1, поэтому при п = \og(2/s)|og{l/q) имеем с1(£д, Уп) ^ е/2, откуда, для любого х Е £2,
В силу (2.1), последняя величина не превосходит (8с+5)п, откуда ogNs -С к^(1/е). Оценим ЛС снизу. Для этого заметим, что £дПУп I) ПУп,
значит, при п х к^(1/е) пересечение £ч П Уп содержит п-мерный шар В радиуса се. Значит, М£ ^ ]Уг(£>,£2) > сп.
Следующий пример составляет основное содержание данного раздела. Мы получим сильные асимптотики ЛД Р£, .ЛД и Р£ класса кусочнополиномиальных функций и увидим, как они различаются.
Возьмём натуральные числа п и т ^ 3. Обозначим через Рп пространство алгебраических многочленов степени меньше п. Рассмотрим класс
(2.1)
0 < д < 1.
Энтропия этого класса известна (см., например, [10]):
Мы установим следующее асимптотическое равенство:
1сщЫе(с,£д,е2) ~ Ьё'(1/е).
Ме(£дГВ(х, се), £2) < Хе/2(У„ГВ(х,с£+£/2)>£2) ^ ЛД(УпП(2с+1)£/(£2), £2)-