Выбор функций потерь в задачах неотрицательного матричного разложения

• Автор: Рябенко, Евгений Алексеевич
• Шифр специальности: 05.13.18
• Научная степень: Кандидатская
• Год защиты: 2014
• Место защиты: Москва
• Количество страниц: 101 с. : ил.

Содержание
Введение

1 Неотрицательное матричное разложение

1.1 Общие сведения

1.2 Функционал потерь

1.3 Выбор оптимальных параметров а и /3 АБ-дивергенции

1.4 Поиск неотрицательного матричного разложения при фиксированных значениях параметров а и (3

1.5 Сходимость мультипликативных методов неотрицательного матричного разложения

1.5.1 Случай а = /3 = 1 (норма Фробениуса)

1.5.2 Случай произвольных а и /

1.6 Особенности оптимизации

1.6.1 Начальное приближение
1.6.2 Критерий останова
1.6.3 Обработка пропусков и выбросов
2 Оценка экспрессии генов по ДНК-микрочипам
2.1 Общие сведения
2.2 Данные
2.3 Модель, учитывающая коэффициенты сродства
2.3.1 Критерии качества
2.3.1.1 Критерии воспроизводимости на разбиениях выборки

2.3.1.2 Критерии качества на данных эксперимента со смесями
2.3.2 Результаты экспериментов
2.4 Модель, учитывающая альтернативный сплайсинг
2.4.1 Результаты экспериментов
2.5 Модель, учитывающая кросс-гибридизацию
2.5.1 Результаты экспериментов
3 Комплекс программ
3.1 Модуль неотрицательного матричного разложения с фиксированным функционалом потерь
3.2 Модуль адаптивного неотрицательного матричного разложения
3.3 Модуль чтения и предобработки данных экспериментов с ДНК-микрочи-пами
3.4 Модуль настройки параметров моделей
3.5 Модуль оценки экспрессии генов на основании настроенных моделей
Заключение
Список иллюстраций
Список таблиц
Список литературы

Введение
Диссертационная работа посвящена проблеме выбора функции потерь в задаче неотрицательного матричного разложения. Предложен способ адаптивного выбора функции потерь из семейства АБ-дивергенций, основанный на методе согласования вклада, а также мультипликативный алгоритм получения неотрицательного матричного разложения с гарантией сходимости. Полученные теоретические результаты применены к задаче анализа данных ДНК-микрочипов, для которой предложены новые модели, и на их основе создан программный комплекс, позволяющий получать более точные оценки экспрессии генов.
Актуальность темы. Развитие сенсорных и компьютерных технологий последних десятилетий привело к увеличению объёмов получаемых экспериментальных данных и возникновению затруднений при использовании многих классических средств их обработки. В связи с этим перед использованием индуктивных методов анализа имеет смысл применить к таким данным преобразования, позволяющие представить их в сжатом виде, снижая тем самым размерность и вычислительные затраты на обработку. В то же время ограниченность динамического диапазона сенсоров, собирающих информацию, приводит к тому, что данные измерены с погрешностью. Во многих практических задачах измеряемый показатель представляет собой результат совместного действия нескольких взаимосвязанных факторов. Если такие факторы и механизмы их функционирования не до конца определены, информация, содержащаяся в получаемых данных, может быть избыточной и противоречивой. В таких случаях также полезно бывает использовать преобразование данных к сжатому вид,7 — это может помочь сделать данные согласованными за счёт потери несущественного количества информации.
Одним из наиболее распространённых способов такого преобразования является переход к аппроксимации данных в некотором подпространстве. Формально, если исходные данные можно записать в виде матрицы (где, например, строки — это различные сенсоры, а столбцы — различные объекты измерения), то их аппроксимация представляет собой произведение двух матриц меньшей размерности, одна из которых задаёт подпространство, а вторая — коэффициенты разложения по нему. Такое представление данных называют факторизованным, а задачу его получения — задачей матричной факторизации.

инициализированы строго положительными, и в ходе мультипликативных обновлений они автоматически будут оставаться такими.
Однако это не избавляет нас от всех проблем: сходимость алгоритма оказывается под вопросом не только тогда, когда какие-то из элементов матриц в точности равны нулю, но и тогда, когда они к нулю стремятся. Оказывается, в этом случае алгоритм также может останавливаться в нестационарных точках. Чтобы показать это, рассмотрим обновление для некоторого столбца Xj матрицы X, обозначая как рj соответствующий столбец матрицы Р, и перепишем мультипликативное обновление в аддитивном виде:
х‘-+1 = х* ® ((ATPj) 0 (ЛтАх))) =
= х^ ® ((ATpj + ATAxtj — АтАх)) 0 (ЛтЛх*)) =
= х) 0 (l - (АтАх) - Лтр;) 0 {Ат Ах))) =
= х) - х] 0 (ЛтЛх^) ® (Ат Ах) — ATpj) =
= x)-d^.VXjD(pj,Axj).

Здесь dXj € R!j_ — вектор-столбец с элементами dk = ■ Чтобы алгоритм обеспечивал
достаточный спуск5, необходимо, чтобы все ф (а, следовательно, и х^) были отделены от нуля [19], что в общем случае неверно; поэтому обновления X могут прекращаться в точке, которая не является стационарной.
Чтобы избежать описанных проблем со сходимостью алгоритма, достаточно оказывается явным образом отделить решения от нуля некоторой положительной константой.
Определение 2. Для любого е > 0 назовём е-модификацией итерационного алгоритма с обновлениями х <— / (х) алгоритм с обновлениями х <— max (е, f (х)).
Для алгоритма (23) е-модификация задаётся следующим образом:
X <— max (е,Х ® )(АТ /у) 0 (ЛТЛХ))) ,
Л <— max (е, Л 0 ((РХТ) 0 (АХХТ))); максимум здесь берётся покомпонентно.
В работе [42] доказаны следующие свойства ^-модифицированного алгоритма.
5В задаче минимизации функции f(x), х е R", направление d € К" является направление»! спуска, если dTVf(x) < 0, и направлением достаточного спуска, если существует такая константа С, что