Фильтрованная арифметическая мера и минимаксные теоремы

• Автор: Жданов, Денис Александрович
• Шифр специальности: 01.01.05
• Научная степень: Кандидатская
• Год защиты: 2008
• Место защиты: Москва
• Количество страниц: 79 с. : ил.

Оглавление
Введение

1 Необходимые сведения и определения

1.1 Необходимые сведения из теории вероятностей и функционального анализа

1.2 Необходимые сведения из выпуклого анализа

1.3 Необходимые факты и определения из стохастического анализа

2 Общая минимаксная теорема для /-дивергенций

2.1 Определения и постановка задачи

2.2 Вспомогательные утверждения

2.3 Основные теоремы. Случай конечного ©

2.4 Основные теоремы. Общий случай

3 Фильтрованная арифметическая мера
3.1 Введение
3.2 Определение и основные свойства фильтрованной арифметической меры
3.3 Построение фильтрованной арифметической меры
3.4 Применение фильтрованной арифметической меры
Список литературы

Введение
Основной целью математической статистики является выявление на основе "наблюдаемых данных" истинной теории 9, то есть выявление той вероятностной модели, которая "лучше всего" согласуется с "наблюдаемыми данными". В связи с этим, основным объектом исследования является статистический эксперимент Е — (Q,, J7-, Р°, 9 е 0). Для формализации самой постановки вопроса о том, какая из вероятностных мер Р9 (т.е. какая из "теорий" 9) "лучше всего согласуется" с наблюдаемыми данными, каково "качество" принимаемого решения относительно 9, какие при этом возникают "потери" и т.п., А. Вальдом [63] была предложена теория решающих правил, основными компонентами которой являются пространство решений и функция потерь. Статистические игры являются частью теории статистических решающих функций. Теория статистических игр рассматривалась, например, в монографиях Д. Блэкуэлла и М. А. Гиршика [2], Т. Фергюсона [39] и A.A. Боровкова [3].
В 1997 году Д. Хаусслер [44] рассмотрел следующую игру статистика с "природой".
Имеется семейство {Pe}eQ вероятностных распределений на полном сепарабельном метрическом пространстве X. Природа выбирает (априорное) распределение д на множестве 0. После чего выбирается 0 в соответствии с д. Далее статистик, не зная это значение 9 и стратегию д, выбирает некоторое распределение Q на X. Потери статистика описываются информацией Кульбака-Лейблера D{P°\Q).

Варианты этой игры рассматривались несколькими авторами (см., например, [30], [38], [46], [47]). Игра также имеет интерпретации в финансовой математике и теории игр [30], [28], в теории машинного обучения [45], в теории кодирования минимаксное значение в этой игре соответствует емкости канала от 0 к X [30].
Для антагонистических игр принципом оптимальности является принцип минимакса (называемый также принципом гарантированного результата), состоящий в выборе вторым игроком такой стратегии, чтобы минимизировать свой проигрыш в наименее благоприятной ситуации, то есть какую бы стратегию противник ни выбрал. Такие стратегии называются минимаксными [22], [6].
Рассмотрим максимальные потери, которые может понести второй игрок (статистик), пользуясь одной из своих стратегий; их нижняя грань по всем стратегиям называется верхней ценой игры. Аналогично, максимизируя по всем стратегиям первого игрока (природы) тот гарантированный доход, который он может получить, пользуясь одной из своих стратегий, получаем нижнюю цену игры. Важную роль в теории игр имеет минимаксная теорема, которая состоит в том, что верхняя и нижняя цены игры совпадают.
Д. Хаусслер доказал минимаксный результат для рассматриваемой им игры, а также показал, что минимаксная стратегия статистика находится в замыкании множества всех байесовских стратегий [44].
Естественно поставить вопрос об обобщении результата Д. Хаусслера на другие функции потерь.
Подходящими функциями потерь в данной задаче являются потери, задаваемые /-дивергенциями (расходимость выбранного и истинного распределений) , которые обобщают такие известные расстояния между вероятностными распределениями, как информация Кульбака-Лейблера, квадрат расстояния Хеллингера, расстояние по вариации. Для таких функций потерь минимаксный результат для /-дивергенций для случая конечного 0 дока-

Предложение 2.3. [9] Пусть (X, Т) — измеримое пространство. /-дивергенция 1/{Дб) полунепрерывна снизу на ЬахЬа в топологии а(ЬахЬа, £то х
Предложение 2.4. [55, теорема 1.47] Пусть X — польское пространство, Т = В{Х). /-дивергенция 1/(ц,\и) полунепрерывна снизу на Р(Х) х Р{Х), где пространство 'Р(Х) снабжено топологией слабой сходимости.
Предложение 2.3 непосредственно следует из определения 2.3 и утверждения 2) предложения 1.6. Если в качестве области определения рассматривать только вероятностные меры, то, разумеется, полунепрерывность снизу сохранится в индуцированной топологии. При классическом определении /-дивергенции это утверждение доказывается более сложно (см. [55, теорема 1.47]). Однако предложенное Ф. Лизе и И. Вайдой доказательство позволяет доказать и гораздо более тонкое предложение 2.4.
Лемма 2.1. Пусть X — польское пространство, X = В(Х). Функция //(ц, <3) = / 1/(Р\Я) Р) полунепрерывна снизу на Р(Р(Х)) х 'Р(Х), где Р(Р(Х)) и Р{Х) снабжены топологией слабой сходимости.
Доказательство. Будем считать, что функция 1/(Р||<3) принимает конечные значения. В противном случае в приводимом ниже доказательстве надо заменить 1/(Р\Я) на 1/(Р\Я)/к, азатем перейти к пределу по к аналогично переходу к пределу по т в доказательстве.
По предложениям 2.4 и 1.6 существует последовательность непрерывных и ограниченных липшицевых функций дт(Р, Я) Т 1р{Р\Я)- Пусть //„ ц и Яп Я- Тогда
в силу непрерывности и ограниченности дт и определения слабой сходимости, а

п —» оо