Wiki - Факультет компьютерных наук - Вклад [ru]

Прикладной статистический анализ данных

2017-02-16T21:15:55Z

Riabenko: /* Домашние задания */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

[https://yadi.sk/i/l-qDTqjV33zMsk '''Причинно-следственные связи'''] (осторожно, слайды неполные!)

Неразрешимость парадокса Симпсона в рамках классической статистики.
Причинные графы, цепочки, вилки, коллайдеры. D-разделимость.
Интервенции. Оценка эффекта по обзервационным данным. Хирургия графа и формула корректировки.
Правило причинного эффекта. Варианты для отсутствия родителей: правило задней двери, правило передней двери.
Propensity score, обратное вероятностное взвешивание.
Графы в линейных моделях. Связь со структурными уравнениями.
Контрфакты и их вычисление.
Восстановление графов: динамические данные (причинность по Грейнджеру), статические данные (алгоритм индуктивной причинности).
:[1.14]
:[2.5], глава 3
:[2.6], глава 2

[https://yadi.sk/d/dhj3zAla33wHez '''Последовательный анализ''']

Применение в задачах проверки гипотез о значениях параметра биномиального распределения: сравнение значения с заданным, сравнение двух значений. Применение в задачах проверки гипотез о значениях параметров нормального распределения: сравнение значения среднего с заданными (симметричный и несимметричный варианты), сравнение значения дисперсии с заданным. Последовательные доверительные интервалы для среднего нормальной совокупности с неизвестной дисперсией (двухэтапная, последовательная процедуры). Процедуры для разности средних двух нормальных совокупностей, случаи равных и неравных дисперсий. Непараметрические последовательные доверительные интервалы для среднего и медианы.
:[1.1], главы 2, 4-9

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/h6cxx14c6je440n/AABc8ZabT-Maj8yOj-Pd6Ftra?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

[https://www.dropbox.com/sh/z8m0kw8wermqhc2/AACYYP5h8AsMp1P_1kWj6AhHa?dl=0 Решение 11-го семинара]

===Семинар 12 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

[https://www.dropbox.com/sh/abwckrl0o2pjq12/AAADNaRDo7-xYoGrPdi_W_dSa?dl=0 Решение 12-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 13 (5-6 декабря) Анализ причинности ===
[https://www.dropbox.com/sh/72vvbbu771mz8xk/AAAPiXeC23XPwga3QYI_4YAha?dl=0 Задание на 13-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — '''23:59 17.12'''.

Необходимо выбрать уникальный ряд и построить его прогноз на 3 сезонных периода вперёд; список требований к решению можно найти в слайдах 11 лекции.


== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.
# Kirchgassner, G., Wolters, J., Hassler, U. Introduction to modern time series analysis. — Heidelberg: Springer, 2013.
# Nagarajan, R., Scutari, M., Lèbre, S. Bayesian Networks in R with Applications in Systems Biology. — New York: Springer, 2013.

Прикладной статистический анализ данных

2016-12-19T00:25:11Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

[https://yadi.sk/i/l-qDTqjV33zMsk '''Причинно-следственные связи'''] (осторожно, слайды неполные!)

Неразрешимость парадокса Симпсона в рамках классической статистики.
Причинные графы, цепочки, вилки, коллайдеры. D-разделимость.
Интервенции. Оценка эффекта по обзервационным данным. Хирургия графа и формула корректировки.
Правило причинного эффекта. Варианты для отсутствия родителей: правило задней двери, правило передней двери.
Propensity score, обратное вероятностное взвешивание.
Графы в линейных моделях. Связь со структурными уравнениями.
Контрфакты и их вычисление.
Восстановление графов: динамические данные (причинность по Грейнджеру), статические данные (алгоритм индуктивной причинности).
:[1.14]
:[2.5], глава 3
:[2.6], глава 2

[https://yadi.sk/d/dhj3zAla33wHez '''Последовательный анализ''']

Применение в задачах проверки гипотез о значениях параметра биномиального распределения: сравнение значения с заданным, сравнение двух значений. Применение в задачах проверки гипотез о значениях параметров нормального распределения: сравнение значения среднего с заданными (симметричный и несимметричный варианты), сравнение значения дисперсии с заданным. Последовательные доверительные интервалы для среднего нормальной совокупности с неизвестной дисперсией (двухэтапная, последовательная процедуры). Процедуры для разности средних двух нормальных совокупностей, случаи равных и неравных дисперсий. Непараметрические последовательные доверительные интервалы для среднего и медианы.
:[1.1], главы 2, 4-9

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/h6cxx14c6je440n/AABc8ZabT-Maj8yOj-Pd6Ftra?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

[https://www.dropbox.com/sh/z8m0kw8wermqhc2/AACYYP5h8AsMp1P_1kWj6AhHa?dl=0 Решение 11-го семинара]

===Семинар 12 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

[https://www.dropbox.com/sh/abwckrl0o2pjq12/AAADNaRDo7-xYoGrPdi_W_dSa?dl=0 Решение 12-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 13 (5-6 декабря) Анализ причинности ===
[https://www.dropbox.com/sh/72vvbbu771mz8xk/AAAPiXeC23XPwga3QYI_4YAha?dl=0 Задание на 13-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — '''23:59 17.12'''.

Необходимо выбрать уникальный ряд и построить его прогноз на 3 сезонных периода вперёд; список требований к решению можно найти в слайдах 11 лекции.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.
# Kirchgassner, G., Wolters, J., Hassler, U. Introduction to modern time series analysis. — Heidelberg: Springer, 2013.
# Nagarajan, R., Scutari, M., Lèbre, S. Bayesian Networks in R with Applications in Systems Biology. — New York: Springer, 2013.

Прикладной статистический анализ данных

2016-12-18T10:43:13Z

Riabenko: /* Лекции */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

'''Причинно-следственные связи'''

Неразрешимость парадокса Симпсона в рамках классической статистики.
Причинные графы, цепочки, вилки, коллайдеры. D-разделимость.
Интервенции. Оценка эффекта по обзервационным данным. Хирургия графа и формула корректировки.
Правило причинного эффекта. Варианты для отсутствия родителей: правило задней двери, правило передней двери.
Propensity score, обратное вероятностное взвешивание.
Графы в линейных моделях. Связь со структурными уравнениями.
Контрфакты и их вычисление.
Восстановление графов: динамические данные (причинность по Грейнджеру), статические данные (алгоритм индуктивной причинности).
:[1.14]
:[2.5], глава 3
:[2.6], глава 2

[https://yadi.sk/d/dhj3zAla33wHez '''Последовательный анализ''']

Применение в задачах проверки гипотез о значениях параметра биномиального распределения: сравнение значения с заданным, сравнение двух значений. Применение в задачах проверки гипотез о значениях параметров нормального распределения: сравнение значения среднего с заданными (симметричный и несимметричный варианты), сравнение значения дисперсии с заданным. Последовательные доверительные интервалы для среднего нормальной совокупности с неизвестной дисперсией (двухэтапная, последовательная процедуры). Процедуры для разности средних двух нормальных совокупностей, случаи равных и неравных дисперсий. Непараметрические последовательные доверительные интервалы для среднего и медианы.
:[1.1], главы 2, 4-9

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/h6cxx14c6je440n/AABc8ZabT-Maj8yOj-Pd6Ftra?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

[https://www.dropbox.com/sh/z8m0kw8wermqhc2/AACYYP5h8AsMp1P_1kWj6AhHa?dl=0 Решение 11-го семинара]

===Семинар 12 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

[https://www.dropbox.com/sh/abwckrl0o2pjq12/AAADNaRDo7-xYoGrPdi_W_dSa?dl=0 Решение 12-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 13 (5-6 декабря) Анализ причинности ===
[https://www.dropbox.com/sh/72vvbbu771mz8xk/AAAPiXeC23XPwga3QYI_4YAha?dl=0 Задание на 13-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — '''23:59 17.12'''.

Необходимо выбрать уникальный ряд и построить его прогноз на 3 сезонных периода вперёд; список требований к решению можно найти в слайдах 11 лекции.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.
# Kirchgassner, G., Wolters, J., Hassler, U. Introduction to modern time series analysis. — Heidelberg: Springer, 2013.
# Nagarajan, R., Scutari, M., Lèbre, S. Bayesian Networks in R with Applications in Systems Biology. — New York: Springer, 2013.

Современные методы машинного обучения (курс майнора)

2016-12-14T14:24:45Z

Riabenko:

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK Слайды]

Лекция 3 (24 ноября). Анализ зависимостей. [https://yadi.sk/d/CcqWXhNWzJKGX Слайды]

Лекция 4 (1 декабря). Регрессия. [https://yadi.sk/d/u4-nuizm32VQfP Слайды]

Лекция 5 (8 декабря). Прогнозирование временных рядов. [https://yadi.sk/d/zhsPRlsh32VQnf Слайды]

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустинг. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 4. [[Современные методы машинного обучения (курс майнора)/ДЗ4|Анализ эффективности удержания]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 5. [[Современные методы машинного обучения (курс майнора)/ДЗ5|Прогнозирование временного ряда]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Прикладной статистический анализ данных

2016-12-12T12:35:04Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

'''Причинно-следственные связи'''

Неразрешимость парадокса Симпсона в рамках классической статистики.
Причинные графы, цепочки, вилки, коллайдеры. D-разделимость.
Интервенции. Оценка эффекта по обзервационным данным. Хирургия графа и формула корректировки.
Правило причинного эффекта. Варианты для отсутствия родителей: правило задней двери, правило передней двери.
Propensity score, обратное вероятностное взвешивание.
Графы в линейных моделях. Связь со структурными уравнениями.
Контрфакты и их вычисление.
Восстановление графов: динамические данные (причинность по Грейнджеру), статические данные (алгоритм индуктивной причинности).
:[1.14]
:[2.5], глава 3
:[2.6], глава 2

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/h6cxx14c6je440n/AABc8ZabT-Maj8yOj-Pd6Ftra?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

[https://www.dropbox.com/sh/z8m0kw8wermqhc2/AACYYP5h8AsMp1P_1kWj6AhHa?dl=0 Решение 11-го семинара]

===Семинар 12 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

[https://www.dropbox.com/sh/abwckrl0o2pjq12/AAADNaRDo7-xYoGrPdi_W_dSa?dl=0 Решение 12-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 13 (5-6 декабря) Анализ причинности ===
[https://www.dropbox.com/sh/72vvbbu771mz8xk/AAAPiXeC23XPwga3QYI_4YAha?dl=0 Задание на 13-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — '''23:59 17.12'''.

Необходимо выбрать уникальный ряд и построить его прогноз на 3 сезонных периода вперёд; список требований к решению можно найти в слайдах 11 лекции.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.
# Kirchgassner, G., Wolters, J., Hassler, U. Introduction to modern time series analysis. — Heidelberg: Springer, 2013.
# Nagarajan, R., Scutari, M., Lèbre, S. Bayesian Networks in R with Applications in Systems Biology. — New York: Springer, 2013.

Современные методы машинного обучения (курс майнора)/ДЗ5

2016-12-09T13:15:38Z

Riabenko:

В этом задании вам необходимо:
* выбрать любой временной ряд, который вы будете прогнозировать; лучше взять ряд с месячным или квартальным разрешением, длиной от 100 отсчётов и не слишком простой (не выглядящий как константа или другая простая функция), иначе вам будет скучно его прогнозировать;
* внести выбранный ряд в [https://docs.google.com/spreadsheets/d/1-xIX7rlkH6Zsv-7vRQoQYkf4jVKtb3ouXAI45drWP-0/edit?usp=sharing таблицу], убедившись, что никто другой его не взял - если несколько студентов будут прогнозировать один и тот же ряд, задача не будет засчитана никому из них;
* проанализировать выбранный ряд по аналогии с примером, разбиравшимся на семинаре, и построить его прогноз на 3 года вперёд с помощью модели класса ARIMA.
Если вы не знаете, где можно брать ряды, вот несколько источников:
* [https://datamarket.com/data/list/?q=cat:edb%20interval:month%20provider:tsdl https://datamarket.com/data/list/?q=cat:edb interval:month provider:tsdl]
* http://sophist.hse.ru/hse/nindex.shtml
* https://stat.yandex.ru/
* https://www.quandl.com/browse?idx=database-browser_economic-data

Современные методы машинного обучения (курс майнора)/ДЗ5

2016-12-09T13:12:33Z

Riabenko: Новая страница: «В этом задании вам необходимо: * выбрать любой временной ряд, который вы будете прогнозир…»

В этом задании вам необходимо:
* выбрать любой временной ряд, который вы будете прогнозировать; лучше взять ряд с месячным или квартальным разрешением, длиной от 100 отсчётов и не слишком простой (не выглядящий как константа или другая простая функция), иначе вам будет скучно его прогнозировать;
* внести выбранный ряд в [https://docs.google.com/spreadsheets/d/1-xIX7rlkH6Zsv-7vRQoQYkf4jVKtb3ouXAI45drWP-0/edit?usp=sharing таблицу], убедившись, что никто другой его не взял
* проанализировать выбранный ряд по аналогии с примером, разбиравшимся на семинаре, и построить его прогноз на 3 года вперёд с помощью модели класса ARIMA.
Если вы не знаете, где можно брать ряды, вот несколько источников:
* [https://datamarket.com/data/list/?q=cat:edb interval:month provider:tsdl]
* [http://sophist.hse.ru/hse/nindex.shtml]
* [https://stat.yandex.ru/]
* [https://www.quandl.com/browse?idx=database-browser_economic-data]

Современные методы машинного обучения (курс майнора)

2016-12-09T08:38:06Z

Riabenko: /* Домашние задания */

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK Слайды]

Лекция 3 (24 ноября). Анализ зависимостей. [https://yadi.sk/d/CcqWXhNWzJKGX Слайды]

Лекция 4 (1 декабря). Регрессия. [https://yadi.sk/d/u4-nuizm32VQfP Слайды]

Лекция 5 (8 декабря). Прогнозирование временных рядов. [https://yadi.sk/d/zhsPRlsh32VQnf Слайды]

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустинг. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 4. [[Современные методы машинного обучения (курс майнора)/ДЗ4|Анализ эффективности удержания]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 5. [[Современные методы машинного обучения (курс майнора)/ДЗ5|Прогнозирование временного ряда]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Современные методы машинного обучения (курс майнора)

2016-12-07T18:30:06Z

Riabenko: /* 2 модуль */

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK Слайды]

Лекция 3 (24 ноября). Анализ зависимостей. [https://yadi.sk/d/CcqWXhNWzJKGX Слайды]

Лекция 4 (1 декабря). Регрессия. [https://yadi.sk/d/u4-nuizm32VQfP Слайды]

Лекция 5 (8 декабря). Прогнозирование временных рядов. [https://yadi.sk/d/zhsPRlsh32VQnf Слайды]

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 4. [[Современные методы машинного обучения (курс майнора)/ДЗ4|Анализ эффективности удержания]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Прикладной статистический анализ данных

2016-12-06T12:58:45Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/h6cxx14c6je440n/AABc8ZabT-Maj8yOj-Pd6Ftra?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

===Семинар 12 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 13 (5-6 декабря) Анализ причинности ===
[https://www.dropbox.com/sh/72vvbbu771mz8xk/AAAPiXeC23XPwga3QYI_4YAha?dl=0 Задание на 13-ый семинар]

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — '''23:59 17.12'''.

Необходимо выбрать уникальный ряд и построить его прогноз на 3 сезонных периода вперёд; список требований к решению можно найти в слайдах 11 лекции.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-12-06T12:58:17Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/h6cxx14c6je440n/AABc8ZabT-Maj8yOj-Pd6Ftra?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

===Семинар 12 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 13 (5-6 декабря) Анализ причинности ===
[https://www.dropbox.com/sh/72vvbbu771mz8xk/AAAPiXeC23XPwga3QYI_4YAha?dl=0 Задание на 13-ый семинар]

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — '''23:59 17.12'''.

Необходимо выбрать уникальный ряд и построить его прогноз на 3 сезонный периода вперёд; список требований к решению можно найти в слайдах 11 лекции.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-12-06T12:56:56Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/h6cxx14c6je440n/AABc8ZabT-Maj8yOj-Pd6Ftra?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

===Семинар 12 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 13 (5-6 декабря) Анализ причинности ===
[https://www.dropbox.com/sh/72vvbbu771mz8xk/AAAPiXeC23XPwga3QYI_4YAha?dl=0 Задание на 13-ый семинар]

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — '''23:59 17.12'''.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-28T13:40:18Z

Riabenko: /* Лекции */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии. Регрессионный подход к прогнозированию.
:[1.10], главы 7, 9
:[https://yadi.sk/i/qMEJcs7_zfyU8 Automatic Forecasting at Scale, S.J. Taylor, JSM, 2015]

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/yr8gkya0kecyicp/AACyQoFdBum46yXgFrpVhLiYa?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

===Семинар 11 (28-29 ноября). Временные ряды. Продолжение ===

[https://www.dropbox.com/sh/l60nimzr3y9l2sc/AAAlh0MwHrD8b2nqBfyjD21wa?dl=0 Задание на 12-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-27T22:36:36Z

Riabenko: /* Лекции */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

[https://yadi.sk/d/VGvhzJMnzdT3L '''Прогнозирование временных рядов, часть 2''']

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества прогнозов. Обнаружение структурных изменений.

Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии.
Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
Причинность по Грейнджеру. Критерий Грейнджера (для двух рядов, для множества рядов).
:[1.10], главы 7, 9

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

[https://www.dropbox.com/sh/yr8gkya0kecyicp/AACyQoFdBum46yXgFrpVhLiYa?dl=0 Решение 10-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 11 (21-22 ноября). Временные ряды ===
[https://www.dropbox.com/sh/qcn5wnys7j6gp25/AAAI4jHMl2dCfMsx805CnvN8a?dl=0 Задания на 11-ый семинар]

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Современные методы машинного обучения (курс майнора)/ДЗ4

2016-11-23T12:48:26Z

Riabenko: Новая страница: «В этом задании вам предлагается проанализировать данные одной из американских телекомм…»

В этом задании вам предлагается проанализировать данные одной из американских телекоммуникационных компаний о пользователях, которые потенциально могут уйти.

[[https://yadi.sk/d/9Iop_uMQzJLmP Данные]]

Измерены следующие признаки:
* state — штат США
* account_length — длительность использования аккаунта
* area_code — деление пользователей на псевдорегионы, использующееся в телекоме
* intl_plan — подключена ли у пользователя услуга международного общения
* vmail_plan — подключена ли у пользователя услуга голосовых сообщений
* vmail_message — количество голосых сообщений, который пользователь отправил / принял
* day_calls — сколько пользователь совершил дневных звонков
* day_mins — сколько пользователь проговорил минут в течение дня
* day_charge — сколько пользователь заплатил за свою дневную активность
* eve_calls, eve_mins, eve_charge — аналогичные метрики относительно вечерней активности
* night_calls, night_mins, night_charge — аналогичные метрики относительно ночной активности
* intl_calls, intl_mins, intl_charge — аналогичные метрики относительно международного общения
* custserv_calls — сколько раз пользователь позвонил в службу поддержки
* treatment — номер стратегии, которая применялись для удержания абонентов (0, 2 = два разных типа воздействия, 1 = контрольная группа)
* mes_estim — оценка интенсивности пользования интернет мессенджерами
* churn — результат оттока: перестал ли абонент пользоваться услугами оператора

# Давайте рассмотрим всех пользователей из контрольной группы (treatment = 1). Для таких пользователей мы хотим проверить гипотезу о том, что штат абонента не влияет на то, перестанет ли абонент пользоваться услугами оператора. Постройте таблицы сопряженности между каждой из всех 1275 возможных неупорядоченных пар штатов и значением признака churn. Заметьте, что, например, (AZ, HI) и (HI, AZ) — это одна и та же пара. Какой критерий подходит для решения этой задачи? Сколько достигаемых уровней значимости оказались меньше, чем α=0.05?
# Посчитайте корреляции Пирсона и Спирмена между day_calls и mes_estim на всех данных, оцените их значимость, дайте интерпретацию результата.
# Посчитайте значение коэффицента корреляции Крамера между штатом (state) и оттоком пользователей (churn) для всех пользователей, которые находились в контрольной группе (treatment=1). Проверьте гипотезу об отсутствии связи между этими признаками.
# Проведите анализ эффективности удержания (churn) с помощью раличных методов (treatment = 0, treatment = 2) относительно контрольной группы пользователей (treatment = 1). Что можно сказать об этих двух методах (treatment = 0, treatment = 2)? Одинаковы ли они с точки зрения эффективности? Каким бы методом вы бы посоветовали воспользоваться компании?

Современные методы машинного обучения (курс майнора)

2016-11-23T12:39:27Z

Riabenko:

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK Слайды]

Лекция 3 (24 ноября). Анализ зависимостей. [https://yadi.sk/d/CcqWXhNWzJKGX Слайды]

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 4. [[Современные методы машинного обучения (курс майнора)/ДЗ4|Анализ эффективности удержания]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Современные методы машинного обучения (курс майнора)

2016-11-23T12:38:31Z

Riabenko:

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK Слайды]

Лекция 3 (24 ноября). Анализ зависимостей. [https://yadi.sk/d/CcqWXhNWzJKGX Слайды]

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Современные методы машинного обучения (курс майнора)

2016-11-23T12:34:53Z

Riabenko:

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK Слайды]

Лекция 3 (24 ноября). Анализ зависимостей. [https://yadi.sk/d/CcqWXhNWzJKGX Слайды]

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Прикладной статистический анализ данных

2016-11-19T19:30:56Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

[https://yadi.sk/d/6iBv286Fz2BH5 '''Прогнозирование временных рядов, часть 1''']

Временной ряд, основные компоненты. Автокорреляция, стационарность, преобразования рядов. Анализ остатков. Модели AR, MA, ARMA, ARIMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Учёт сезонности. Учёт дополнительных признаков.
:[1.10], главы 2, 8

'''Прогнозирование временных рядов, часть 2'''

Экспоненциальное сглаживание. Модели ETS. Меры качества прогнозов. Сравнение качества двух прогнозов. Обнаружение структурных изменений.

Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии.
Причинность по Грейнджеру. Критерий Грейнджера (для двух рядов, для множества рядов).
Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
Прогнозирование иерархических совокупностей рядов.
:[1.10], главы 7, 9

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

[https://www.dropbox.com/sh/03ih9gf2zdbey6h/AABMLz31_5M8hL-5n5E6BEH7a?dl=0 Решение 9-го семинара]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

[https://docs.google.com/spreadsheets/d/1timOKrFCdYBVECxZePx4esZ_P_LHZZudlOWM7EEbJDY/edit?usp=sharing Таблица с выбранными рядами]

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-18T23:08:27Z

Riabenko: /* Домашние задания */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — '''23:59 3.12'''.

[https://yadi.sk/i/IkB-rjsMywVQD Задание для 141 группы]

[https://yadi.sk/i/gJn9ySftywVRU Задание для 142 группы]

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Современные методы машинного обучения (курс майнора)

2016-11-17T09:42:45Z

Riabenko: /* 2 модуль */

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK Слайды]

Лекция 3 (24 ноября). Анализ зависимостей.

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Современные методы машинного обучения (курс майнора)

2016-11-17T09:39:39Z

Riabenko: /* 2 модуль */

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез. [https://yadi.sk/i/ypusp4wLypjQK слайды]

Лекция 3 (24 ноября). Анализ зависимостей.

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

[https://docs.google.com/spreadsheets/d/1d1ntWx7FrzTPRCoGYdVezRfQwlyA5AMk598UG2gjfqk/edit?usp=sharing Оценки за коллоквиум.]

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование. Тетрадку нужно прислать до 23:59 16.11.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Соревнование учитывается как одно домашнее задание.

Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Прикладной статистический анализ данных

2016-11-17T09:34:32Z

Riabenko: /* Правила выставления оценок */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на максимально возможную сумму баллов без учёта лекционных контрольных и бонусов, и умноженная на 10.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

===Семинар 10 (14-15 ноября). Обобщённые линейные модели ===
[https://www.dropbox.com/sh/qk8ginfq6a05gmr/AACQ8ZD9n0gHKPIhBkRkm_6Va?dl=0 Задания на 10-ый семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-13T16:53:23Z

Riabenko: /* Cеминары */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===
[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===
[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===
[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===
[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===
[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===
[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===
[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===
[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-13T16:50:37Z

Riabenko: /* Лекции */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2 (GLM)
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5 (логистическая регрессия)
:[1.5], глава 4, [2.1], главы 2, 3, 5 (пуассоновская регрессия)

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===

[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===

[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-13T16:49:48Z

Riabenko: /* Лекции */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

[https://yadi.sk/d/tivdm1oOyXt4M '''Дополнения и обобщения регрессии''']

Обработка пропусков. Интерпретация регрессии.

Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия. Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия. Меры качества обобщённых линейных моделей: аномальность, информационные критерии. Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии. Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы. Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога. Регрессия счётного признака. Пуассоновская модель. Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

:[1.13], глава 2
:[1.5], глава 2, [2.4], главы 2, 3, 4, 5
:[1.5], глава 4, [2.1], главы 2, 3, 5

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]
* [http://adv-r.had.co.nz Advanced R – для тех, кто хочет разобраться в том, как работает R изнутри]

=== Самостоятельная работа ===

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===

[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

===Семинар 9 (7-8 ноября). Линейная регрессия ===

[https://www.dropbox.com/sh/jznaw0nlambbwvg/AAABs5X2Dq_I6OH1rx_Gnv35a?dl=0 Задания на 9-ой семинар]

Единственное задание на семинаре выносится на самостоятельную работу до 23:59 следующего вторника.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Современные методы машинного обучения (курс майнора)

2016-11-10T12:56:30Z

Riabenko:

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики. [https://yadi.sk/d/VmbkklLcyLeTc Слайды]

Лекция 2 (17 ноября). Проверка гипотез.

Лекция 3 (24 ноября). Анализ зависимостей.

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Современные методы машинного обучения (курс майнора)

2016-11-07T13:34:32Z

Riabenko: /* Домашние задания */

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики.

Лекция 2 (17 ноября). Проверка гипотез.

Лекция 3 (24 ноября). Анализ зависимостей.

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 3. [[Современные методы машинного обучения (курс майнора)/ДЗ3|Центральная предельная теорема]]. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Современные методы машинного обучения (курс майнора)/ДЗ3

2016-11-07T13:33:31Z

Riabenko: Новая страница: «== Центральная предельная теорема своими руками == В этом задании вам предстоит проверит…»

== Центральная предельная теорема своими руками ==

В этом задании вам предстоит проверить работу центральной предельной теоремы, а также поработать с генерацией случайных чисел и построением графиков в Питоне.

Выберите ваше любимое непрерывное распределение (чем меньше оно будет похоже на нормальное, тем интереснее; попробуйте выбрать какое-нибудь распределение из тех, что мы не обсуждали в курсе). Сгенерируйте из него выборку объёма 1000, постройте гистограмму выборки и нарисуйте поверх неё теоретическую плотность распределения вашей случайной величины (чтобы величины были в одном масштабе, не забудьте выставить у гистограммы значение параметра normed=true).

Ваша задача — оценить распределение выборочного среднего вашей случайной величины при разных объёмах выборок. Для этого при трёх и более значениях n (например, 5, 10, 50) сгенерируйте 1000 выборок объёма n и постройте гистограммы распределений их выборочных средних. Используя информацию о среднем и дисперсии исходного распределения (её можно без труда найти в википедии), посчитайте значения параметров нормальных распределений, которыми, согласно центральной предельной теореме, приближается распределение выборочных средних. Обратите внимание: для подсчёта значений этих параметров нужно использовать именно теоретические среднее и дисперсию вашей случайной величины, а не их выборочные оценки. Поверх каждой гистограммы нарисуйте плотность соответствующего нормального распределения (будьте внимательны с параметрами функции, она принимает на вход не дисперсию, а стандартное отклонение).

Опишите разницу между полученными распределениями при различных значениях n. Как меняется точность аппроксимации распределения выборочных средних нормальным с ростом n?

Решение должно представлять собой IPython-ноутбук, содержащий:

* код, генерирующий выборки и графики;
* краткие описания каждого блока кода, объясняющие, что он делает;
* необходимые графики (убедитесь, что на них подписаны оси);
* выкладки с вычислениями параметров нормальных распределений, аппроксимирующих выборочные средние при различных n;
* выводы по результатам выполнения задания.

Прикладной статистический анализ данных

2016-11-07T06:17:31Z

Riabenko: /* О курсе */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00 ([https://yadi.sk/d/vtwZEmeGyCDTz задачи])
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]

=== Самостоятельная работа ===

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===

[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-06T12:47:24Z

Riabenko: /* Лекции */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.
:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.
:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.
:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.
:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).
:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.
:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.
:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.
:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']

Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
:[1.16], главы 3, 4, 6-8

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]

=== Самостоятельная работа ===

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===

[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-11-06T12:46:34Z

Riabenko: /* Лекции */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

== Лекции ==

'''Лектор:''' [http://www.hse.ru/staff/riabenko Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.

:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.

:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.

:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.

:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.

:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

[https://yadi.sk/d/rQrD_O0qxrCC2 '''Дисперсионный анализ''']

Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности. Модель со случайным эффектом, разделение дисперсии. Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета. Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.

Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ.

:[1.15], раздел 3.2; [1.3], глава 17.

[https://yadi.sk/d/qkbNyDWByAG7y '''Линейная регрессия''']
Линейная регрессия, МНК. Остаточная сумма квадратов (RSS), коэффициент детерминации. Предположения Гаусса-Маркова. Статистические свойства МНК-оценок. Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность. Кодирование нечисловых признаков. Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика. Значимость коэффициентов линейной регрессии. Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности. Обработка выбросов, расстояние Кука. Метод Бокса-Кокса для преобразования отклика. Устойчивая оценка дисперсии Уайта, её модификации.
Рекомендуемая литература:
:[1.16], главы 3, 4, 6-8

== Cеминары ==
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

=== Основные ссылки ===
* Для работы на семинарах вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/).
* [http://swirlstats.com/students.html Инструкция по установке и запуску swirl]
* [http://kbroman.org/knitr_knutshell/pages/Rmarkdown.html Некоторые основные опции Rmarkdown]

=== Самостоятельная работа ===

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

===Семинар 1 (5-6 сентября). Знакомство с языком R.===
[https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

===Семинар 2 (12-13 сентября). Введение в математическую статистику. Метод максимального правдоподобия. Метод моментов. Бутстрэп. Дельта-метод.===

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

===Семинар 3 (19-20 сентября). Статистические критерии основанные на функции правдоподобия.===

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

===Семинар 4 (26-27 сентября). Проверка параметрических гипотез===

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

[https://www.dropbox.com/sh/2dpyu4aro1rphdd/AADUnmoP_GPqJuU2lZCnNH47a?dl=0 Решение заданий с семинара]

===Семинар 5 (3-4 октября). Проверка непараметрических гипотез===

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

[https://www.dropbox.com/sh/1d7u5op3mo992uw/AADn4f9hUsFpnH1NoNo0CP6_a?dl=0 Решение заданий с семинара]

===Семинар 6 (10-11 октября). Множественная проверка гипотез===

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

[https://www.dropbox.com/sh/ztlrzuxzw75c5bo/AAAAYVWtq8lu7pN56x_bv82Xa?dl=0 Решение заданий с семинара]

===Семинар 7 (17-18 октября). Анализ зависимостей ===

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

[https://www.dropbox.com/sh/siljbe2kilcfwke/AABGyqYzLO1Vm9ux023KbtPWa?dl=0 Решение заданий с семинара]

Задание 3 '''Bullshit & Conservativeness''' выносится на самостоятельную работу на оценку и будет приниматься только до начала следующего семинара.

===Семинар 8 (31 октября - 1 ноября). Дисперсионный анализ ===

[https://www.dropbox.com/sh/1ghedr54femordt/AACqv5ZEuaimnbV5yHEg8Ieia?dl=0 Задания на 8-ой семинар]

[https://www.dropbox.com/sh/62m54i68oeefk9t/AAC0HuNDSSz1jUKC1yB7O4zKa?dl=0 Решение 8-ого семинара]

[https://yadi.sk/d/bzNANVTnxwQcB Скрипт помощь для сопоставления формул из лекций и значения коэффициентов в таблице ANOVA. Проведена аналогия с линейной регрессией. ]

'''Внимание!''' Задание 3 принимается до начала следующего семинара на почту курса.

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/cgT5jGTox5Vrx Задание для 141 группы]

[https://yadi.sk/d/yowkvbBix5cur Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — '''23:59 19.11'''.

[https://yadi.sk/d/Gt2Wnuf7y3D3M Задание для 141 группы]

[https://yadi.sk/d/nr4EHvWjy3CzT Задание для 142 группы]

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Современные методы машинного обучения (курс майнора)

2016-11-05T12:57:21Z

Riabenko:

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на alexeyum@gmail.com (первый модуль) или riabenko.e@gmail.com (второй модуль), добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики.

Лекция 2 (17 ноября). Проверка гипотез.

Лекция 3 (24 ноября). Анализ зависимостей.

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Современные методы машинного обучения (курс майнора)

2016-11-05T12:56:27Z

Riabenko:

== О курсе ==

=== Программа ===

Официальная программа появится после ее утверждения. Пока можно посмотреть [https://docs.google.com/document/d/1uMhS8SMqsZLtaOib-2OVvgG1K3wnBfkhLFqBh_78N5c/edit?usp=sharing черновик].

=== Оценка за курс ===

Оценка за курс складывается из:

* Домашние работы (в том числе соревнования).
* Проверочные работы на семинарах.
* Аудиторная работа.
* Коллоквиум в конце 1 модуля.
* Экзамен.

Оценка вычисляется по следующим формулам:

ИТОГ = 0.7 * НАКОПЛЕННАЯ + 0.3 * ЭКЗАМЕН

НАКОПЛЕННАЯ = 0.15 * ПРОВЕРОЧНЫЕ + 0.15 * АУДИТОРНАЯ + 0.5 * ДЗ + 0.2 * КОЛЛОКВИУМ.

Также накопленная оценка может быть повышена за получение призовых мест на соревновании.

На усмотрение семинариста и лектора могут выставляться автоматы (при условии отличной накопленной оценки).

=== Обратная связь ===

По вопросам касательно лекций можете писать на riabenko.e@gmail.com, добавляя строку "[Майнор ИАД]" в заголовок письма.

По этой ссылке можно оставить анонимный отзыв или предложение для курса: https://goo.gl/forms/JJEqdPLfikko3Na23

Вопросы по материалу можно обсуждать тут: http://piazza.com/hse.ru/fall2016/da3

По административным вопросам обращайтесь к Ивановой Оксане Анатольевне, oksanaivanova@hse.ru

=== Семинарские группы ===

[https://www.dropbox.com/s/bjqu2de2dpuajvn/%D0%A1%D0%BF%D0%B8%D1%81%D0%BA%D0%B8%20%D0%B3%D1%80%D1%83%D0%BF%D0%BF.xlsx?dl=0 Списки групп]

'''В связи с тем, что уже прошло больше месяца с начала года, переводы между группами больше делаться не будут.'''

== Учебный процесс ==

=== Лекции ===

====1 модуль====

Лекция 1 (1 сентября, сдвоенная). Метод опорных векторов, ядра. [https://www.dropbox.com/s/z38prt1q94qf2wa/lecture-1-kernels.pdf?dl=0 Слайды.]

Лекция 2 (15 сентября). Методы оптимизации. [https://www.dropbox.com/s/1qd8q8nnddeig8s/lecture-2-gradient.pdf?dl=0 Слайды.]

Лекция 3 (22 сентября). Методы обработки данных (пропуски, категориальные признаки). [https://www.dropbox.com/s/0gjbnofpwbz8lnl/lecture-3-data.pdf?dl=0 Слайды.]

Лекция 4 (6 октября). Бустинг. [https://www.dropbox.com/s/0mbe7hcn0e8xmzh/lecture-4-boosting.pdf?dl=0 Слайды.]

Лекция 5 (13 октября) Бустинг (продолжение). Нейронные сети (начало). [https://www.dropbox.com/s/3gvftbheyq5mhvm/lecture-5-boosting-ann.pdf?dl=0 Слайды.]

Лекция 6 (20 октября, сдвоенная). Консультация перед коллоквиумом (1 пара). Нейронные сети, продолжение (4 пара). [https://www.dropbox.com/s/h4quxr7fzxhdqkk/lecture-6-ann-learning.pdf?dl=0 Слайды].

==== 2 модуль ====

Лекция 1 (10 ноября). Распределения и статистики.

Лекция 2 (17 ноября). Проверка гипотез.

Лекция 3 (24 ноября). Анализ зависимостей.

Лекция 4 (1 декабря). Регрессия.

Лекция 5 (8 декабря). Прогнозирование временных рядов.

Лекция 6 (15 декабря). Множественная проверка гипотез.

=== Коллоквиум ===

Программа коллоквиума: https://docs.google.com/document/d/1bheHxPvyjNRUXzohD7gx4bfbT4yx_d7kqIxCYNxZ7PQ/edit

Коллоквиум пройдет в начале 3 ноября в аудитории 3231. Расписание по группам:

{| class="wikitable"
|-
! Группы !! Время
|-
| ИАД-1, ИАД-2, ИАД-3 || 10:30
|-
| ИАД-6, ИАД-7, ИАД-8 || 12:30
|-
| ИАД-4, ИАД-5 || 14:30
|}

=== Домашние задания ===
# ДЗ 1. SVM и ядра. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.
# ДЗ 2. Предобработка данных и бустин. Даты сдачи и условия смотрите на странице группы или уточняйте у своих семинаристов.

=== Соревнование ===

[https://kaggle.com/join/8qoUDtE07A Ссылка].

При регистрации в соревнование указывайте свое имя и фамилию в качестве названия команды (команды в соревновании условны и состоят из одного человека).

После окончания соревнования для получения оценки необходимо будет прислать семинаристу тетрадку, которая использует данные обучения и признаки тестовых объектов, и генерирует ответ, который был отправлен в соревнование.

Оценка за соревнование выставляется в соответствии с бейзлайнами, которые вы обошли. Также топ-5 участников получат в качестве бонуса увеличение накопленной оценки: 1 место получает +1 балл, 2 место - +0.8 балла, 3 место - +0.6 балла, 4 место - +0.4 балла, 5 место - +0.2 балла.

=== Страницы групп ===

* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД1]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД2]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД3]]
* [[Современные_методы_машинного_обучения_(курс_майнора)_ИАД4 | ИАД4]]
* [[Современные методы машинного обучения (курс майнора) ИАД1-5|ИАД5]]
* [[Современные методы машинного обучения (курс майнора) ИАД2-6|ИАД6]]
* [[Современные методы машинного обучения (курс майнора) ИАД3-7|ИАД7]]
* [[Современные_методы_машинного_обучения_(курс_майнора)/ИАД-8 | ИАД8]]

== Материалы ==

В конце слайдов каждой лекции есть небольшая подборка материалов по теме лекции. Ниже приведен набор материалов, охватывающих многие темы.

=== Книги ===

* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006. [http://www.springer.com/br/book/9780387310732 первые главы]
* [http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf James, Witten, Hastie, Tibshirani — An Introduction to Statistical Learning]

=== Ресурсы ===

* [http://www.machinelearning.ru/wiki/index.php?title=%D0%97%D0%B0%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D0%B0%D1%8F_%D1%81%D1%82%D1%80%D0%B0%D0%BD%D0%B8%D1%86%D0%B0 MachineLearning.ru]

Прикладной статистический анализ данных

2016-11-03T12:47:13Z

Riabenko:

Прикладной статистический анализ данных

2016-11-03T12:45:02Z

Riabenko: /* Домашние задания */

Прикладной статистический анализ данных

2016-10-30T21:17:48Z

Riabenko:

Прикладной статистический анализ данных

2016-10-27T14:37:06Z

Riabenko:

Прикладной статистический анализ данных

2016-10-18T12:32:56Z

Riabenko: /* Задание 1: исследование свойств одномерных статистических критериев на модельных данных */

Прикладной статистический анализ данных

2016-10-18T12:03:21Z

Riabenko: /* Домашние задания */

Прикладной статистический анализ данных

2016-10-17T18:06:47Z

Riabenko:

Прикладной статистический анализ данных

2016-10-17T13:33:01Z

Riabenko: /* Домашние задания */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум 31 октября в 9:00
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

== Лекции ==
[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.

:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.

:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.

:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.

:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.

:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

== Cеминары ==
[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка непараметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 октября). Множественная проверка гипотез

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

'''Семинар 7''' (17-18 октября). Анализ зависимостей

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

== Домашние задания ==
* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Для допуска к экзамену необходимо сдать как минимум 2 из 4 домашних работы.
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Задание 1: исследование свойств одномерных статистических критериев на модельных данных===
Стоимость — 2 балла, дедлайн — '''23:59 31.10'''.

[https://yadi.sk/i/yetf3DJtwzhfb Задание для 142 группы]

=== Задание 2: проверка гипотез ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

=== Задание 3: регрессия===
Стоимость — 3 балла, дедлайн — ''' '''.

=== Задание 4: прогнозирование временного ряда ===
Стоимость — 2.5 балла, дедлайн — ''' '''.

== Литература ==
===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.
=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-17T13:26:15Z

Riabenko: /* Правила выставления оценок */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — сумма значений оценок за все проверочные работы, делённая на 26.

=== Правила сдачи домашних заданий ===

* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Для допуска к экзамену необходимо сдать как минимум 2 из 4 домашних работы.
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.

:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.

:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.

:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.

:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.

:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка непараметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 октября). Множественная проверка гипотез

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

'''Семинар 7''' (17-18 октября). Анализ зависимостей

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

== Домашние задания ==
Стоимость домашних заданий:
* #1 = 2
* #2 = 2.5
* #3 = 2.5
* #4 = 3

[[Прикладной статистический анализ данных#Правила сдачи домашних заданий | Обратите внимание на обновленные правила сдачи домашних заданий!]]

=== Задание #1 ===
[https://yadi.sk/i/yetf3DJtwzhfb Задание для 142 группы]

== Литература ==

===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-17T13:22:00Z

Riabenko: /* Правила выставления оценок */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===
В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 1 в первом модуле и 3 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля
'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.
# За каждое задание выставляется бинарная оценка
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз.

Оценка за работу в семестре Oнакопленная вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум,

Одз — сумма оценок за все выданные домашние задания,

Oсамостоятельные — как сумма значений оценок за все проверочные работы, делённая на 26.

=== Правила сдачи домашних заданий ===

* Дедлайны по всем домашним заданиям являются мягкими.
* '''За каждые сутки просрочки из стоимости домашней работы вычитается 0.2 балла.'''
* Для допуска к экзамену необходимо сдать как минимум 2 из 4 домашних работы.
* Время, которое работа находится на проверке, не включается в штрафное время.
* При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. '''Следует помнить, что при повторном списывании деканат имеет право отчислить студента.'''

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.

:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.

:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.

:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.

:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.

:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка непараметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 октября). Множественная проверка гипотез

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

'''Семинар 7''' (17-18 октября). Анализ зависимостей

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

== Домашние задания ==
Стоимость домашних заданий:
* #1 = 2
* #2 = 2.5
* #3 = 2.5
* #4 = 3

[[Прикладной статистический анализ данных#Правила сдачи домашних заданий | Обратите внимание на обновленные правила сдачи домашних заданий!]]

=== Задание #1 ===
[https://yadi.sk/i/yetf3DJtwzhfb Задание для 142 группы]

== Литература ==

===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-17T12:21:18Z

Riabenko: /* Cеминары */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 2 в первом модуле и 2 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля

'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.

'''Проверочные работы: уточнение'''
# За каждое задание выставляются оценки из множества ${0; 1}$
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить, только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Оценка за домашние задания рассчитывается как среднее значение оценок за все выданные домашние задания.
Оценка за самостоятельную работу рассчитывается как среднее значение оценок за все проверочные работы, проведённые на семинарских занятиях.

=== Правила сдачи домашних заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работа не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.

:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.

:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.

:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.

:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.

:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка непараметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 октября). Множественная проверка гипотез

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

'''Семинар 7''' (17-18 октября). Анализ зависимостей

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

== Литература ==

===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-17T12:20:42Z

Riabenko: /* Cеминары */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 2 в первом модуле и 2 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля

'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.

'''Проверочные работы: уточнение'''
# За каждое задание выставляются оценки из множества ${0; 1}$
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить, только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Оценка за домашние задания рассчитывается как среднее значение оценок за все выданные домашние задания.
Оценка за самостоятельную работу рассчитывается как среднее значение оценок за все проверочные работы, проведённые на семинарских занятиях.

=== Правила сдачи домашних заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работа не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.

:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.

:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.

:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.

:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.

:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 октября). Множественная проверка гипотез.

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

'''Семинар 7''' (17-18 октября). Множественная проверка гипотез.

[https://www.dropbox.com/sh/4gjs1yrcztb473m/AACrAr-Dva8rTMpWqnsR9fkla?dl=0 Задания на 7-ой семинар]

== Литература ==

===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-16T22:54:07Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 2 в первом модуле и 2 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля

'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.

'''Проверочные работы: уточнение'''
# За каждое задание выставляются оценки из множества ${0; 1}$
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить, только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Оценка за домашние задания рассчитывается как среднее значение оценок за все выданные домашние задания.
Оценка за самостоятельную работу рассчитывается как среднее значение оценок за все проверочные работы, проведённые на семинарских занятиях.

=== Правила сдачи домашних заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работа не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
[https://yadi.sk/d/fFrArK_jum4ve '''Базовые распределения, статистики и их свойства''']

Случайные величины и распределения. Дискретные распределения: Бернулли, биномиальное, Пуассона. Функция и плотность распределения. Непрерывные распределения: равномерное, нормальное, Стьюдента, Фишера. Характеристики распределений. Статистики.

:[1.3], главы 1, 2, 4, 5.

[https://yadi.sk/i/NtdP7y-4v3g6Y '''Оценка параметров''']

Центральная предельная теорема. Метод максимального правдоподобия. Метод моментов. Бутстреп: параметрический, наивный, несмещённый.

:[1.8], главы 4, 6, 5.

[https://yadi.sk/i/C6_mU6OjvMTmV '''Основы проверки гипотез''']

Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы. Свойства достигаемых уровней значимости. Статистическая и практическая значимость. Свойства критериев: несмещённость, состоятельность, мощность.

:[1.9], глава 5.

[https://yadi.sk/d/RyXS_4LjvbygS '''Проверка параметрических гипотез''']

Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок). Доверительные интервалы для параметров распределений Бернулли: Вальда, Уилсона.

Критерии нормальности: критерий Харке-Бера, хи-квадрат (Пирсона), Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании: t- и z-критерии Стьюдента, критерии хи-квадрат и Фишера.

:[1.6], глава 1; [1.2], раздел 3.2.1; [1.10], критерии 1, 3, 7, 9, 10, 15, 16.

[https://yadi.sk/d/rPboM70mw6ZRT '''Проверка непараметрических гипотез''']

Критерии знаков: одновыборочный, для связанных выборок. Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Ансари-Брэдли. Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании. Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

:[1.6], главы 1, 2, 4; [2.3], глава 3.

[https://yadi.sk/d/rO6skAPNwYg6i '''Множественная проверка гипотез''']

Примеры задач. Меры числа ошибок первого рода. FWER, поправка Бонферрони. Нисходящие процедуры множественной проверки: общий вид, метод Холма. Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS. Оценка числа верных нулевых гипотез и её применение. FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

:[1.7], главы 2, 3, 4; [2.2], главы 2-5.

[https://yadi.sk/d/VD_oURfBwxWoi '''Анализ зависимостей''']

Корреляция Пирсона, критерий Стьюдента, перестановочный критерий. Ранговая корреляция: коэффициенты Спирмена и Кенделла, их значимость. Связь коэффициентов корреляции. Частная и множественная корреляция, их значимость.

Таблица сопряженности K1xK2. Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициенты V Крамера и γ для порядковых величин. Таблица сопряженности 2x2. Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса. Парадокс хи-квадрат.

:[1.2], раздел 5.2; [1.3], глава 20, параграфы 7, 8, 9; [1.4], главы 2, 3.

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 откября). Множественная проверка гипотез.

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

== Литература ==

===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-16T22:21:02Z

Riabenko: /* Литература */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 2 в первом модуле и 2 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля

'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.

'''Проверочные работы: уточнение'''
# За каждое задание выставляются оценки из множества ${0; 1}$
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить, только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Оценка за домашние задания рассчитывается как среднее значение оценок за все выданные домашние задания.
Оценка за самостоятельную работу рассчитывается как среднее значение оценок за все проверочные работы, проведённые на семинарских занятиях.

=== Правила сдачи домашних заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работа не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
'''Лекция 1''' (5 сентября). Базовые распределения, статистики и их свойства [[https://yadi.sk/d/fFrArK_jum4ve слайды]]

'''Лекция 2''' (12 сентября). Оценка параметров: ММП, метод моментов, бутстрэп [[https://yadi.sk/i/NtdP7y-4v3g6Y слайды]]

'''Лекция 3''' (19 сентября). Основы проверки гипотез [[https://yadi.sk/i/C6_mU6OjvMTmV слайды]]

'''Лекция 4''' (26 сентября). Проверка параметрических гипотез [[https://yadi.sk/d/RyXS_4LjvbygS слайды]]

'''Лекция 5''' (3 октября). Проверка непараметрических гипотез [[https://yadi.sk/d/rPboM70mw6ZRT слайды]]

'''Лекция 6''' (10 октября). Множественная проверка гипотез [[https://yadi.sk/d/rO6skAPNwYg6i слайды]]

'''Лекция 7''' (17 октября). Анализ зависимостей [[https://yadi.sk/d/VD_oURfBwxWoi слайды]]

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 откября). Множественная проверка гипотез.

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

== Литература ==

===1. Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== 2. Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-16T19:15:58Z

Riabenko: /* Cеминары */

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 2 в первом модуле и 2 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля

'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.

'''Проверочные работы: уточнение'''
# За каждое задание выставляются оценки из множества ${0; 1}$
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить, только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Оценка за домашние задания рассчитывается как среднее значение оценок за все выданные домашние задания.
Оценка за самостоятельную работу рассчитывается как среднее значение оценок за все проверочные работы, проведённые на семинарских занятиях.

=== Правила сдачи домашних заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работа не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
'''Лекция 1''' (5 сентября). Базовые распределения, статистики и их свойства [[https://yadi.sk/d/fFrArK_jum4ve слайды]]

'''Лекция 2''' (12 сентября). Оценка параметров: ММП, метод моментов, бутстрэп [[https://yadi.sk/i/NtdP7y-4v3g6Y слайды]]

'''Лекция 3''' (19 сентября). Основы проверки гипотез [[https://yadi.sk/i/C6_mU6OjvMTmV слайды]]

'''Лекция 4''' (26 сентября). Проверка параметрических гипотез [[https://yadi.sk/d/RyXS_4LjvbygS слайды]]

'''Лекция 5''' (3 октября). Проверка непараметрических гипотез [[https://yadi.sk/d/rPboM70mw6ZRT слайды]]

'''Лекция 6''' (10 октября). Множественная проверка гипотез [[https://yadi.sk/d/rO6skAPNwYg6i слайды]]

'''Лекция 7''' (17 октября). Анализ зависимостей [[https://yadi.sk/d/VD_oURfBwxWoi слайды]]

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 октября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 откября). Множественная проверка гипотез.

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

== Литература ==

===Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.

Прикладной статистический анализ данных

2016-10-16T19:15:39Z

Riabenko:

== О курсе ==

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ] специализации [https://www.hse.ru/ba/ami/mla "Машинное обучение и приложения"] в 1-2 модулях.

'''Лектор:''' [http://www.hse.ru/staff/?? Рябенко Евгений Алексеевич]

Лекции проходят по понедельникам, 10:30 - 11:50, ауд. 509.

[https://www.hse.ru/ba/ami/courses/184771666.html Карточка курса и программа]

[https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница
|-
| 142 (МОП) || [https://www.hse.ru/?? Швечиков Павел Дмитриевич] || Егоров Евгений Евгеньевич||
|-
| 141 (МОП) || [http://??.?? Хальман Михаил Анатольевич] || Варганов Георгий ||
|-
|}

'''''Внимание!!!''''' Для работы на семинарах курса вам понадобятся ноутбуки с установленными на них R (https://www.r-project.org) и RStudio (https://www.rstudio.com/products/rstudio/download/). В противном случае вы не сможете принять полноценное участие в семинарах.

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Проверочные работы на семинарах, проверяющие знание основных фактов с лекций и ключевые навыки студента
* Практические домашние работы на языке R (всего 4шт: 2 в первом модуле и 2 во втором)
* Коллоквиум в конце 1-го модуля
* Экзамен в конце 2-го модуля

'''Проверочные работы''' будут проводиться в режиме блиц преимущественно в начале семинара. В каждую проверочную работу будут входить задачи из списка, вывешенного на этой странице. В этот список будет входить фиксированный набор задач по каждой пройденной теме. После прохождения темы выложенные задачи к этой теме меняться не будут. Каждая следующая проверочная работа будет включать в себя случайную выборку из всех задач, включенных в этот список (в т.ч. и по предыдущим пройденным темам). Таким образом, у всех есть возможность подготовиться к проверочной работе до начала семинара. При этом любые попытки списывания будут жестко караться в соответствии с правилами ВШЭ.

'''Проверочные работы: уточнение'''
# За каждое задание выставляются оценки из множества ${0; 1}$
# Можно получить дополнительный 1 балл: за доказательство утверждения/ответ с материалом, выходящим за рамки лекции; дополнительно решенную задачу из списка, Максимальный балл за летучку: 3
# Доп. баллы можно получить, только при верных обязательных заданиях. Уточняйте у семинаристов, что обязательно к выводу/доказательству в обязательных задачах.

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.8 * Oнакопленная + 0.2 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Оценка за домашние задания рассчитывается как среднее значение оценок за все выданные домашние задания.
Оценка за самостоятельную работу рассчитывается как среднее значение оценок за все проверочные работы, проведённые на семинарских занятиях.

=== Правила сдачи домашних заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работа не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Работы и вопросы по результатам проверки работа отправлять '''в соотвествии со своим семинаристом на адреса''':
* Швечиков Павел: psad.homework+shvechikov@gmail.com
* Хальман Михаил: psad.homework+khalman@gmail.com

Темы писем:
* Для сдачи ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество"
* Для вопроса по результатам проверки ДЗ: "ДЗ {Номер ДЗ} - Фамилия Имя Отчество - Вопрос"
* Для вопроса по результатам проверки работы на семинаре: "Семинар {Номер Семинара} - Фамилия Имя Отчество - Вопрос"

ДЗ {Номер ДЗ} или Семинар {Номер Семинара} можно посмотреть в листах [https://docs.google.com/spreadsheets/d/11k6ULlMORmjqqq67RmrArF37qTE2cC1JN9IgYTTNU8s/edit?usp=sharing Таблицы с оценками]

=== Софт ===

== Лекции ==
'''Лекция 1''' (5 сентября). Базовые распределения, статистики и их свойства [[https://yadi.sk/d/fFrArK_jum4ve слайды]]

'''Лекция 2''' (12 сентября). Оценка параметров: ММП, метод моментов, бутстрэп [[https://yadi.sk/i/NtdP7y-4v3g6Y слайды]]

'''Лекция 3''' (19 сентября). Основы проверки гипотез [[https://yadi.sk/i/C6_mU6OjvMTmV слайды]]

'''Лекция 4''' (26 сентября). Проверка параметрических гипотез [[https://yadi.sk/d/RyXS_4LjvbygS слайды]]

'''Лекция 5''' (3 октября). Проверка непараметрических гипотез [[https://yadi.sk/d/rPboM70mw6ZRT слайды]]

'''Лекция 6''' (10 октября). Множественная проверка гипотез [[https://yadi.sk/d/rO6skAPNwYg6i слайды]]

'''Лекция 7''' (17 октября). Анализ зависимостей [[https://yadi.sk/d/VD_oURfBwxWoi слайды]]

== Cеминары ==

[https://yadi.sk/i/1WD_sN-YwreBd Ссылка на список задач для самостоятельной работы]

'''Семинар 1''' (5-6 сентября). Знакомство с языком R. [https://docs.google.com/document/d/1Y_7HMHYN-0D4ot-0rjucya-KVdmZPk-OfQDBbLVumbc/edit?usp=sharing Задачи по ТВ]

До начала второго семинара, убедитесь, пожалуйста, что вы прошли из блока "R Programming: The basics of programming in R" пакета swirl [http://swirlstats.com/students.html (инструкция по установке и запуску swirl)] следующие уроки:
* 1: Basic Building Blocks
* 4: Vectors
* 7: Matrices and Data Frames
* 10: lapply and sapply
* 13: Simulation
* 15: Base Graphics

В противном случае на втором семинаре вы не сможете полноценно влиться в работу.

'''Семинар 2''' (12-13 сентября). Введение в математическую статистику. Метод Максимального Правдоподобия. Метод Моментов. Бутстрэп. Дельта метод.

[https://yadi.sk/i/ouWUOF7cv4V4W Задание на 2-ой семинар]

[https://goo.gl/forms/7k2x8LE6VM0iB48L2 Cсылка на гуглформу с результатами]

[https://yadi.sk/d/GyPhCNkRvLFAN Решение заданий с семинара]

'''Семинар 3''' (19-20 сентября). Статистические критерии основанные на функции правдоподобия.

[https://yadi.sk/i/Y9LFxEkxvRZdT Задание на 3-ий семинар]

[https://yadi.sk/d/i39dK6dLvTRcr Решение заданий с семинара]

'''Семинар 4''' (26-27 сентября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/e9k1c8hemojaw56/AAAMNiL9TuhZzAwcX3dyJtU-a?dl=0 Задания на 4-ый семинар]

'''Семинар 5''' (3-4 откября). Проверка параметрических гипотез

[https://www.dropbox.com/sh/s5jkmlvjg09177q/AAB4XolIe1A-82sL4zHrPvsaa?dl=0 Задания на 5-ый семинар]

'''Семинар 6''' (10-11 откября). Множественная проверка гипотез.

[https://www.dropbox.com/sh/2ijvqt199y0iavm/AACqWYIWvYYCogzDnTCK31POa?dl=0 Задания на 6-ой семинар]

== Литература ==

===Основная литература===
# Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
# Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
# Лагутин, М.Б. Наглядная математическая статистика. — М.: П-центр, 2003.
# Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
# Bilder, C.R., Loughin, T.M. Analysis of Categorical Data with R. — Boca Raton: Chapman and Hall/CRC, 2013.
# Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
# Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
# Chihara, L., Hesterberg, T. Mathematical Statistics with Resampling and R — Hoboken: John Wiley & Sons, 2011.
# Diez, D.M, Barr, C.D., Cetinkaya-Rundel, M., Dorazio, L. Advanced High School Statistics. — OpenIntro, 2015.
# Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2016. https://www.otexts.org/book/fpp
# Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
# Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
# Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
# Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
# Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
# Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

=== Дополнительная литература ===
# Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
# Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
# Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
# Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.