Wiki - Факультет компьютерных наук - Вклад [ru]

НИС Машинное обучение и приложения 2019/2020

2020-01-10T15:25:59Z

Andrew: /* Расписание */

=== Расписание ===

{| class="wikitable"
|-
! Группа !! Новости !! Руководители НИСа !! Контакты !! Расписание
|-
| 4 курс: 161 || [https://t.me/joinchat/AAAAAE6vBndXbVtqjyRM7w телеграм]||[https://www.hse.ru/org/persons/165140955 Кирилл Струминский] || k.struminsky@gmail.com || четверг 15:10
|-
| 4 курс: 162|| [https://t.me/joinchat/AAAAAEWgb9UQ5KVXFvdvFw телеграм]🅱️АЖНО: Планы докладов и презентации теперь нужно присылать мне на почту ai.atanow@gmail.com, с темой письма "НИС 2019, Имя Фамилия, Название статьи". ||[https://www.hse.ru/org/persons/137283751 Андрей Атанов] и [https://www.hse.ru/staff/mryabinin Максим Рябинин] || ars.ashuha@gmail.com || четверг 15:10
|-
| 3 курс: 171 || [https://t.me/joinchat/AAAAAEhDxNC2cHi6DtYYDQ телеграм] ||[https://www.hse.ru/org/persons/131072080 Екатерина Лобачева] и [https://www.hse.ru/staff/mryabinin Максим Рябинин] || lobacheva.tjulja@gmail.com и mkryabinin@edu.hse.ru || пятница 13:40
|-
| 3 курс: 172 || [https://t.me/joinchat/AAAAAEXCqtbGwCC_Ha2kmA телеграм]||[https://www.hse.ru/org/persons/131072080 Екатерина Лобачева] и [https://www.hse.ru/staff/mryabinin Максим Рябинин] || lobacheva.tjulja@gmail.com и mkryabinin@edu.hse.ru || пятница 15:10
|-
|}

'''[https://docs.google.com/spreadsheets/d/15QKN8NPgelsACp_mHLfY57SsX14lTB-i2fNodNeNk4c/edit?usp=sharing Таблица с оценками и расписанием]''' 
'''[https://docs.google.com/spreadsheets/d/1KWrah8dSuB9WPK2uKBxjP7DnxUiv7De4fHSA3rVaXwA/edit#gid=163707036 Таблица с планированием тем выступлений]''' 

Рецензии на доклады писать здесь: [https://docs.google.com/forms/d/e/1FAIpQLSd_YL57zFfk5TinPcyf6H9cdi5_fZsyK4LOl2GPZcHDpffKpw/viewform форма] 
Оставить отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfN2NjAYL9Ka7p75XBesQ7lR43rleQc_Id2NbNDv8G7mqMY-g/viewform?c=0&w=1 форма]

Все объявления по курсу будут в каналах в телеграме, поэтому нужно обязательно добавиться в канал своей группы. Вопросы и комментарии по курсу нужно отправлять своему преподавателю на почту. В название письма обязательно добавлять тег '''[НИС ФКН]''', а также указывать свою фамилию и имя.

== Краткое описание ==

Данный семинар является одной из форм организации научно-исследовательской деятельности студентов специализации “Машинное обучение и приложения”. На нём в течение года под руководством преподавателей студентам предлагается делать презентации своих исследовательских проектов, а также обзорные доклады на различные темы, связанные с машинным обучением. Семинар призван способствовать своевременному включению студентов в исследовательский процесс и расширению их научного кругозора. Его задачей также является развитие навыков ведения научной дискуссии и презентации исследовательских результатов.

В ходе занятий подразумаваются следующие виды деятельности студентов:
* Посещение занятий, прослушивание и обсуждение докладов.
* Выступление студентов с докладами на различные темы, связанные с машинным обучением.
* Выступления студентов с докладами по курсовым работам.
* Рецензирование докладов и курсовых работ своих одногруппников.
* Написание проверочных работ по материалам докладов.

== Доклады, проверочные работы и рецензирование ==

'''Доклады''' 
В течение года каждый студент выступает с докладами по темам, связанным с машинным обучением. Стандартная продолжительность доклада - 30 минут, то есть на одном занятии проводится два выступления. Каждый студент должен сделать два доклада за год. Если такое количество докладов не будет укладываться в рамки курса по времени, то студенты с лучшим выступлением будут освобождены от второго доклада.

Два раза в год студент должен утвердить тему своего выступления у преподавателя в назначенные для этого сроки. Минимум '''за неделю''' до даты выступления докладчик должен прислать преподавателю на согласование:

# Краткий план доклада. Он должен быть достаточно подробным, чтобы из него были понятны основные идеи, связи между ними и уровень подробности рассказа про каждую идею.
# Пререквизиты. Список того, что надо знать слушателям, чтобы понять доклад. Для каждого пункта напишите будете ли вы в каком-то виде это в докладе напоминать.
# Список вопросов по материалу доклада. 3-4 вопроса для проверочной по вашему выступлению. Вопросы должны соответствовать целям доклада и покрывать важные идеи, которые человек из вашего доклада должен вынести. Вопросы должны быть достаточно конкретными (не надо ударяться в философию), достаточно математичными (спросить про формулу функции потерь модели - отличная идея, но спросить выписать все градиенты для обучения модели - плохая) и больше проверять понимание материала, а не запоминание. Вопросы стоит выносить на последний слайд презентации - так всем будет удобно в конце доклада проверить, что они поняли основные идеи доклада.

Сразу после выступления необходимо прислать свою презентацию. При невыполнении перечисленных условий в поставленные сроки преподаватель имеет право снизить оценку за соответствующий доклад. Если вы присылаете план выступления позднее, чем в 9:00 дня, следующего за последним проведенным семинаром перед вашим выступлением (пример: семинар проходит в пятницу, вы прислали позже 9:00 субботы предыдущей недели), оценка за доклад снижается на 2 балла. Если вы присылаете свою презентацию позднее, чем в 9:00 следующего после даты выступления дня, оценка за доклад снижается на 1 балл.

Неявка на свой доклад без уважительной причины приводит к нежелательным последствиям. Даже при наличии уважительной причины, пожалуйста, предупреждайте о ней преподавателя заранее.

Оценка за доклад складывается на 75% из оценки преподавателя и на 25% из оценки студентов (по итогам рецензирования).

'''Рецензии''' 
Каждый доклад оценивается не только преподавателем, но и студентами. Трое одногруппников докладчика, '''присутствовавшие на занятии''', пишут короткую рецензию на выступление и оценивают его по 10-бальной шкале в форме, ссылка на которую находится в верхней части страницы. Рецензенты назначаются преподавателем на занятии.

Рецензия должна обосновывать выставленную оценку, содержать описание положительных и отрицательных сторон, а также предложения по улучшению доклада. Главная цель рецензии - помочь докладчику улучшить свои навыки. Рецензию можно написать до 23:59 следующего после выступления дня (если занятие в понедельник, то рецензию нужно написать до 23:59 вторника). Некачественные рецензии или "отписки", к примеру "Мне все понравилось, оценка 10", не будут засчитываться как в количество написанных студентом рецензий, так и в оценку выступающего.

'''Проверочные работы''' 
Доклады в течение года будут разбиты по темам на блоки. В конце каждого блока (примерно раз в 3-4 недели) будет проводиться проверочная работа на 30 минут. Список вопросов будет составляться из вопросов по докладам, которые подготовили выступающие, с последующей корректировкой преподавателем. Полный список вопросов будет известен студентам заранее, на проверочной им нужно будет ответить на несколько случайных вопросов из этого списка. При написании проверочной нельзя пользоваться никакими материалами.

== Курсовые работы и их рецензирование ==

В середине и в конце года проводится кросс-рецензирование курсовых работ студентов. Рецензия на курсовую представляет из себя текст в научном стиле и должна быть значительно подробнее рецензий на доклады. Правила их оформления будут выложены позднее. Так как у 4 курса нет занятий в 4 модуле, кросс-рецензирование ВКР проводится только в середине года.

У третьего курса в конце года будет проведена предзащита курсовых работ.

Примерные даты кросс-рецензирования и предзащит буду объявлены чуть позже.

== Система выставления оценок для 3 курса ==

Итоговая формула выставления оценки выглядит следующим образом:

О_результ = 0.4 * О_проверочные + 0.3 * О_доклады + 0.1 * О_рецензии + 0.1 * О_предзащита + 0.1 * О_кросс

* О_проверочные - суммарная оценка за проверочные работы на семинарах,
* О_доклады - суммарная оценка по двум научным выступлениям,
* О_рецензии - суммарная оценка за написание рецензий на доклады,
* О_предзащита - оценка за выступление на предзащите,
* О_кросс - оценка за написание рецензий для кросс-рецензирования курсовых.

Все промежуточные оценки не округляются. Итоговая оценка округляется математически.

Экзамена по курсу не будет!

== Система выставления оценок для 4 курса ==

Итоговая формула выставления оценки выглядит следующим образом:

О_результ = 0.4 * О_проверочные + 0.4 * О_доклады + 0.1 * О_рецензии + 0.1 * О_кросс

* О_проверочные - суммарная оценка за проверочные работы на семинарах,
* О_доклады - суммарная оценка по двум научным выступлениям,
* О_рецензии - суммарная оценка за написание рецензий на доклады,
* О_кросс - оценка за написание рецензий для кросс-рецензирования ВКР.

Все промежуточные оценки не округляются. Итоговая оценка округляется математически.

Экзамена по курсу не будет!

Машинное обучение 1/2023 2024

2018-11-08T11:15:29Z

Andrew: /* Практические задания */

== О курсе ==

[[Файл:ML_surfaces.png|280px|borderless|left]]

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

Проводится с 2016 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по пятницам, 12:10 - 13:30, ауд. 317.

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/219888994.html Карточка курса и программа]

[https://github.com/esokolov/ml-course-hse Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.cs.ml+<номер группы>@gmail.com (например, hse.cs.ml+161@gmail.com)

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAEprV-8gsyFBkYbvkg

Чат в telegram для обсуждений: https://t.me/joinchat/A5rlQE2eFY0LN0AWcGH3qA

Ссылка на курс в Anytask: https://anytask.org/course/390

[https://docs.google.com/spreadsheets/d/1u832G7b9aRyayoncaKXr7XPD6WisDr85AYRBKSVCMq0/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций/семинаров и по заданиям лучше всего оформлять в виде [https://github.com/esokolov/ml-course-hse/issues Issue] в [https://github.com/esokolov/ml-course-hse github-репозитории курса].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание
|-
| 161 (МОП) || [https://www.hse.ru/org/persons/165212870 Зиннурова Эльвира Альбертовна] || [https://t.me/mryab Рябинин Максим] || || пятница, 10:30 - 11:50, ауд. 503
|-
| 162 (МОП) || [https://www.hse.ru/org/persons/191263008 Неклюдов Кирилл Олегович] || [http://t.me/bazpasha Хрушков Павел] || ||
|-
| 163 (АДИС) || [https://t.me/despairazure Кохтев Вадим Михайлович] || [http://t.me/marka_17 Маркович Александр] || || пятница, 10:30 - 11:50, ауд. 400
|-
| 164 (АДИС) || [https://www.hse.ru/org/persons/137283751 Атанов Андрей Игоревич] || [http://t.me/liza_s Свитанько Лиза] || ||
|-
| 165 (РС) || [https://www.hse.ru/org/persons/209813459 Каюмов Эмиль Марселевич] || [http://t.me/akiiino Попов Никита] || || вторник, 9:00 – 10:20, ауд. 311
|-
| 166 (РС) || [https://www.hse.ru/org/persons/192085968 Яшков Даниил Дмитриевич] || [http://t.me/Saigetsu Хайдуров Руслан] || ||
|-
| Магистратура ФТиАД || [https://www.hse.ru/org/persons/191576735 Чиркова Надежда Александровна] || [https://t.me/nbagiyan Багиян Нерсес] || ||
|-
|}

=== Консультации ===

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций
* Практические домашние работы на Python
* Контрольная работа
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Опрактические дз + 0.2 * Оконтрольная

Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям и соревнованиям.

Накопленная, экзаменационная и итоговая оценки округляются арифметически.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок). Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (3 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture01-intro.pdf Конспект]]

'''Лекция 2''' (14 сентября). Линейная регрессия. Метрики качества регрессии. Градиентный спуск и способы оценивания градиента. Продвинутые градиентные методы. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture02-linregr.pdf Конспект]]

'''Лекция 3''' (21 сентября). Переобучение и регуляризация. Разреженные линейные модели. Квантильная регрессия. Подготовка признаков. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture03-linregr.pdf Конспект]]

'''Лекция 4''' (28 сентября). Линейная классификация. Отступ и верхние оценки на пороговую функцию потерь. Метрики качества классификации. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture04-linclass.pdf Конспект]]

'''Лекция 5''' (1 октября). Линейная классификация. Логистическая регрессия и оценки вероятности классов. Метод опорных векторов. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture05-linclass.pdf Конспект]]

'''Лекция 6''' (12 октября). Многоклассовая классификация, сведение к бинарным задачам. Многоклассовая логистическая регрессия. Классификация с пересекающимися классами. Метрики качества многоклассовой классификации. Категориальные признаки: хэширование и счётчики. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture06-linclass.pdf Конспект]]

'''Лекция 7''' (19 октября). Решающие деревья. Жадный алгоритм построения. Выбор лучшего разбиения с помощью критерия информативности. Критерии информативности для регрессии и классификации. Учёт пропусков в деревьях. Решающие деревья и категориальные признаки. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture07-trees.pdf Конспект]]

'''Лекция 8''' (2 ноября). Бутстрап и бэггинг. Разложение ошибки на смещение и разброс (bias-variance decomposition). Случайный лес. Вычисление расстояний с помощью лесов. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture08-ensembles.pdf Конспект]]

'''Лекция 9''' (9 ноября). Градиентный бустинг. Регуляризация. Особенности бустинга над деревьями. Взвешивание объектов в градиентном бустинге.

'''Лекция 10''' (16 ноября). Оптимизация второго порядка в градиентном бустинге. Регуляризация деревьев. XGBoost. Стекинг.

'''Лекция 11''' (23 ноября). Графы вычислений, их обучение и метод обратного распространения ошибки. Полносвязные, свёрточные и рекуррентные слои. Возможности аппроксимации.

'''Лекция 12''' (30 ноября). Обучение без учителя. Кластеризация: метрики качества, K-Means, иерархический и графовый подходы. Визуализация, t-SNE. Обучение представлений. word2vec.

'''Лекция 13''' (7 декабря). Метод главных компонент, его связь с матричными разложениями. Рекомендательные системы: постановка задачи, коллаборативные методы, матричные разложения, контентные методы.

== Семинары ==

'''Семинар 1.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem01-intro.ipynb Ноутбук].

'''Семинар 2.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem02-sklearn.ipynb Ноутбук].

'''Семинар 3.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem03-linregr.pdf Конспект], [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem03-linregr.ipynb ноутбук].

'''Семинар 4.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem04-linregr.pdf Конспект].

'''Семинар 5.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem05-linclass-metrics.pdf Конспект].

'''Семинар 6.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem06.pdf Конспект], [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem06.ipynb ноутбук].

'''Семинар 7.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem07-trees.ipynb Ноутбук].

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. В течение семестра каждый студент может не более 2 раз сдать задание после жёсткого дедлайна.

'''Задание 1.''' Работа с Pandas и Matplotlib.

Мягкий дедлайн: 07:59 15.09.2018.

Жесткий дедлайн: 23:59 16.09.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-01.ipynb Github].

'''Задание 2.''' Numpy. Линейная регрессия.

Дата выдачи: 17.09.2018

Мягкий дедлайн: 2:59MSK 24.09.2018

Жесткий дедлайн: 23:59MSK 26.09.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-02.ipynb Условие],
[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-02-templates.zip архив с шаблонами],
[https://contest.yandex.ru/contest/9148/enter/ соревнование в Яндекс.Контесте],
[https://official.contest.yandex.ru/contest/9148/enter/ альтернативная ссылка на соревнование в Яндекс.Контесте].

'''Задание 3.''' Регуляризация. Градиентный спуск.

Дата выдачи: 22.09.2018

Мягкий дедлайн: 7:59MSK 02.10.2018

Жесткий дедлайн: 23:59MSK 03.10.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-03.ipynb Условие],
[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/data/homework-practice-03-data.csv данные],
[https://contest.yandex.ru/contest/9247 соревнование в Яндекс.Контесте],
[https://official.contest.yandex.ru/contest/9247 альтернативная ссылка на соревнование в Яндекс.Контесте].

'''Задание 4.''' Калибровка вероятностей, обработка категориальных признаков.

Дата выдачи: 12.10.2018

Мягкий дедлайн: 7:59MSK 20.10.2018

Жесткий дедлайн: 23:59MSK 21.10.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-04.ipynb Условие]

'''Задание 5.''' Решающие деревья.

Дата выдачи: 08.11.2018

Мягкий дедлайн: 7:59MSK 18.11.2018

Жесткий дедлайн: 23:59MSK 19.11.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-05/homework-practice-05.ipynb Условие]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

В лидербордах каждого из соревнований присутствуют несколько базовых решений (бейзлайнов), каждое из которых соответствует определённой оценке. Например, для получения оценки не ниже 8 баллов необходимо, чтобы ваше решение на '''приватном''' лидерборде оказалось лучше соответствующего бейзлайна. Далее для студента, преодолевшего бейзлайн на N_1 баллов, но не преодолевшего бейзлайн на N_2 балла, итоговая оценка за соревнование рассчитывается по равномерной сетке среди всех таких студентов в зависимости от места в приватном лидерборде среди них; если быть точными, то по следующей формуле:

N_2 - (N_2 - N_1) * i / M,

где M — количество студентов (из всех студентов, изучающих курс), преодолевших бейзлайн на N_1 баллов, но не преодолевших бейзлайн на N_2 балла;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Единственное исключение из формулы — студенты, преодолевшие самый сильный бейзлайн, получают прибавку 1/M к своей оценке.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. При оформлении кода предполагайте, что данные лежат рядом с ним в папке data, а в результате выполнения кода ответы должны быть записаны в файл solution-N-Username.csv, где N — номер соревнования, Username — ваша фамилия. У нас должна быть возможность запустить код и получить те же ответы, что и в вашей посылке, — в частности, это означает, что:

1. Если вы отправляете файл *.py, мы будем запускать его при помощи команды python *.py в вышеуказанном предположении о местонахождении данных.

2. Если вы отправляете ноутбук *.ipynb, мы последовательно запустим все ячейки ноутбука и будем ожидать в результате его работы формирование файла с ответами.

3. Если вы отправляете код с использованием другого языка программирования, в том же письме направьте нам инструкцию по его запуску с тем, чтобы получить тот же файл с ответами.

В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Студенты, попавшие в топ-5 согласно приватному лидерборду, смогут получить бонусные баллы, если в течение недели после окончания соревнования пришлют на почту курса отчет о получении решения, фигурирующего в приватном лидерборде. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''.

=== Соревнование 1: House pricing ===

Дата выдачи: 15.09.2018

Срок окончания соревнования: 30.09.2018 23:59MSK

Срок отправки кода: 03.10.2018 23:59MSK

Бейзлайны: на 4 и на 8 баллов

[https://www.kaggle.com/t/5a486fc7863548a58cfc1f702690b5c3 Ссылка на участие в соревновании]

=== Соревнование 2: Sentiment analysis ===

Дата выдачи: 15.10.2018

Срок окончания соревнования: 04.11.2018 23:59UTC

Бейзлайны: TBA

[https://www.kaggle.com/t/1e4f5623f3fc4f898cec6b1e21acf6b5 Ссылка на участие в соревновании]

В данном соревновании оцениваются только решения, полученные как результат работы [https://www.kaggle.com/kernels private kernel], к которому дан доступ для просмотра ассистенту вашей группы.

==Теоретические домашние задания==

'''Теоретическое домашнее задание 1''': линейная регрессия [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-theory/homework-theory-01-linregr.pdf ссылка]]

'''Теоретическое домашнее задание 2''': линейная классификация [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-theory/homework-theory-02-linclass.pdf ссылка]]

'''Теоретическое домашнее задание 3''': решающие деревья [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-theory/homework-theory-03-trees.pdf ссылка]]

== Бонусы за соревнования ==

За успешное участие в соревнованиях по анализу данных могут быть выставлены бонусные баллы, которые можно прибавить к оценке за любое практическое или теоретическое домашнее задание, а также за самостоятельную работу. Под успешным участием понимается попадание в топ-10% мест; если соревнование особо сложное и крупное, может рассматриваться и попадание в топ-20% мест. Конкретное число баллов определяется преподавателями и зависит от сложности соревнования и занятого места. За одно соревнование можно получить не более 5 баллов. Для получения оценки необходимо предоставить краткий отчёт о решении задачи.

== Контрольная работа ==

== Экзамен ==

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

== Страницы предыдущих лет ==

[[Машинное_обучение_1/2017_2018 | 2017/2018 учебный год]]

[[Машинное_обучение_1/2016_2017 | 2016/2017 учебный год]]

Машинное обучение 1/2023 2024

2018-11-06T14:10:24Z

Andrew: /* Семинары */

== О курсе ==

[[Файл:ML_surfaces.png|280px|borderless|left]]

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

Проводится с 2016 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по пятницам, 12:10 - 13:30, ауд. 317.

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/219888994.html Карточка курса и программа]

[https://github.com/esokolov/ml-course-hse Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.cs.ml+<номер группы>@gmail.com (например, hse.cs.ml+161@gmail.com)

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAEprV-8gsyFBkYbvkg

Чат в telegram для обсуждений: https://t.me/joinchat/A5rlQE2eFY0LN0AWcGH3qA

Ссылка на курс в Anytask: https://anytask.org/course/390

[https://docs.google.com/spreadsheets/d/1u832G7b9aRyayoncaKXr7XPD6WisDr85AYRBKSVCMq0/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций/семинаров и по заданиям лучше всего оформлять в виде [https://github.com/esokolov/ml-course-hse/issues Issue] в [https://github.com/esokolov/ml-course-hse github-репозитории курса].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание
|-
| 161 (МОП) || [https://www.hse.ru/org/persons/165212870 Зиннурова Эльвира Альбертовна] || [https://t.me/mryab Рябинин Максим] || || пятница, 10:30 - 11:50, ауд. 503
|-
| 162 (МОП) || [https://www.hse.ru/org/persons/191263008 Неклюдов Кирилл Олегович] || [http://t.me/bazpasha Хрушков Павел] || ||
|-
| 163 (АДИС) || [https://t.me/despairazure Кохтев Вадим Михайлович] || [http://t.me/marka_17 Маркович Александр] || || пятница, 10:30 - 11:50, ауд. 400
|-
| 164 (АДИС) || [https://www.hse.ru/org/persons/137283751 Атанов Андрей Игоревич] || [http://t.me/liza_s Свитанько Лиза] || ||
|-
| 165 (РС) || [https://www.hse.ru/org/persons/209813459 Каюмов Эмиль Марселевич] || [http://t.me/akiiino Попов Никита] || || вторник, 9:00 – 10:20, ауд. 311
|-
| 166 (РС) || [https://www.hse.ru/org/persons/192085968 Яшков Даниил Дмитриевич] || [http://t.me/Saigetsu Хайдуров Руслан] || ||
|-
| Магистратура ФТиАД || [https://www.hse.ru/org/persons/191576735 Чиркова Надежда Александровна] || [https://t.me/nbagiyan Багиян Нерсес] || ||
|-
|}

=== Консультации ===

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций
* Практические домашние работы на Python
* Контрольная работа
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Опрактические дз + 0.2 * Оконтрольная

Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям и соревнованиям.

Накопленная, экзаменационная и итоговая оценки округляются арифметически.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок). Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (3 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture01-intro.pdf Конспект]]

'''Лекция 2''' (14 сентября). Линейная регрессия. Метрики качества регрессии. Градиентный спуск и способы оценивания градиента. Продвинутые градиентные методы. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture02-linregr.pdf Конспект]]

'''Лекция 3''' (21 сентября). Переобучение и регуляризация. Разреженные линейные модели. Квантильная регрессия. Подготовка признаков. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture03-linregr.pdf Конспект]]

'''Лекция 4''' (28 сентября). Линейная классификация. Отступ и верхние оценки на пороговую функцию потерь. Метрики качества классификации. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture04-linclass.pdf Конспект]]

'''Лекция 5''' (1 октября). Линейная классификация. Логистическая регрессия и оценки вероятности классов. Метод опорных векторов. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture05-linclass.pdf Конспект]]

'''Лекция 6''' (12 октября). Многоклассовая классификация, сведение к бинарным задачам. Многоклассовая логистическая регрессия. Классификация с пересекающимися классами. Метрики качества многоклассовой классификации. Категориальные признаки: хэширование и счётчики. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture06-linclass.pdf Конспект]]

'''Лекция 7''' (19 октября). Решающие деревья. Жадный алгоритм построения. Выбор лучшего разбиения с помощью критерия информативности. Критерии информативности для регрессии и классификации. Учёт пропусков в деревьях. Решающие деревья и категориальные признаки. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture07-trees.pdf Конспект]]

'''Лекция 8''' (2 ноября). Бутстрап и бэггинг. Разложение ошибки на смещение и разброс (bias-variance decomposition). Случайный лес. Вычисление расстояний с помощью лесов. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture08-ensembles.pdf Конспект]]

'''Лекция 9''' (9 ноября). Градиентный бустинг. Регуляризация. Особенности бустинга над деревьями. Взвешивание объектов в градиентном бустинге.

'''Лекция 10''' (16 ноября). Оптимизация второго порядка в градиентном бустинге. Регуляризация деревьев. XGBoost. Стекинг.

'''Лекция 11''' (23 ноября). Графы вычислений, их обучение и метод обратного распространения ошибки. Полносвязные, свёрточные и рекуррентные слои. Возможности аппроксимации.

'''Лекция 12''' (30 ноября). Обучение без учителя. Кластеризация: метрики качества, K-Means, иерархический и графовый подходы. Визуализация, t-SNE. Обучение представлений. word2vec.

'''Лекция 13''' (7 декабря). Метод главных компонент, его связь с матричными разложениями. Рекомендательные системы: постановка задачи, коллаборативные методы, матричные разложения, контентные методы.

== Семинары ==

'''Семинар 1.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem01-intro.ipynb Ноутбук].

'''Семинар 2.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem02-sklearn.ipynb Ноутбук].

'''Семинар 3.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem03-linregr.pdf Конспект], [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem03-linregr.ipynb ноутбук].

'''Семинар 4.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem04-linregr.pdf Конспект].

'''Семинар 5.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem05-linclass-metrics.pdf Конспект].

'''Семинар 6.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem06.pdf Конспект], [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem06.ipynb ноутбук].

'''Семинар 7.''' [https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/seminars/sem07-trees.ipynb Ноутбук].

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. В течение семестра каждый студент может не более 2 раз сдать задание после жёсткого дедлайна.

'''Задание 1.''' Работа с Pandas и Matplotlib.

Мягкий дедлайн: 07:59 15.09.2018.

Жесткий дедлайн: 23:59 16.09.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-01.ipynb Github].

'''Задание 2.''' Numpy. Линейная регрессия.

Дата выдачи: 17.09.2018

Мягкий дедлайн: 2:59MSK 24.09.2018

Жесткий дедлайн: 23:59MSK 26.09.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-02.ipynb Условие],
[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-02-templates.zip архив с шаблонами],
[https://contest.yandex.ru/contest/9148/enter/ соревнование в Яндекс.Контесте],
[https://official.contest.yandex.ru/contest/9148/enter/ альтернативная ссылка на соревнование в Яндекс.Контесте].

'''Задание 3.''' Регуляризация. Градиентный спуск.

Дата выдачи: 22.09.2018

Мягкий дедлайн: 7:59MSK 02.10.2018

Жесткий дедлайн: 23:59MSK 03.10.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-03.ipynb Условие],
[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/data/homework-practice-03-data.csv данные],
[https://contest.yandex.ru/contest/9247 соревнование в Яндекс.Контесте],
[https://official.contest.yandex.ru/contest/9247 альтернативная ссылка на соревнование в Яндекс.Контесте].

'''Задание 4.''' Калибровка вероятностей, обработка категориальных признаков.

Дата выдачи: 12.10.2018

Мягкий дедлайн: 7:59MSK 20.10.2018

Жесткий дедлайн: 23:59MSK 21.10.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-04.ipynb Условие]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

В лидербордах каждого из соревнований присутствуют несколько базовых решений (бейзлайнов), каждое из которых соответствует определённой оценке. Например, для получения оценки не ниже 8 баллов необходимо, чтобы ваше решение на '''приватном''' лидерборде оказалось лучше соответствующего бейзлайна. Далее для студента, преодолевшего бейзлайн на N_1 баллов, но не преодолевшего бейзлайн на N_2 балла, итоговая оценка за соревнование рассчитывается по равномерной сетке среди всех таких студентов в зависимости от места в приватном лидерборде среди них; если быть точными, то по следующей формуле:

N_2 - (N_2 - N_1) * i / M,

где M — количество студентов (из всех студентов, изучающих курс), преодолевших бейзлайн на N_1 баллов, но не преодолевших бейзлайн на N_2 балла;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Единственное исключение из формулы — студенты, преодолевшие самый сильный бейзлайн, получают прибавку 1/M к своей оценке.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. При оформлении кода предполагайте, что данные лежат рядом с ним в папке data, а в результате выполнения кода ответы должны быть записаны в файл solution-N-Username.csv, где N — номер соревнования, Username — ваша фамилия. У нас должна быть возможность запустить код и получить те же ответы, что и в вашей посылке, — в частности, это означает, что:

1. Если вы отправляете файл *.py, мы будем запускать его при помощи команды python *.py в вышеуказанном предположении о местонахождении данных.

2. Если вы отправляете ноутбук *.ipynb, мы последовательно запустим все ячейки ноутбука и будем ожидать в результате его работы формирование файла с ответами.

3. Если вы отправляете код с использованием другого языка программирования, в том же письме направьте нам инструкцию по его запуску с тем, чтобы получить тот же файл с ответами.

В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Студенты, попавшие в топ-5 согласно приватному лидерборду, смогут получить бонусные баллы, если в течение недели после окончания соревнования пришлют на почту курса отчет о получении решения, фигурирующего в приватном лидерборде. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''.

=== Соревнование 1: House pricing ===

Дата выдачи: 15.09.2018

Срок окончания соревнования: 30.09.2018 23:59MSK

Срок отправки кода: 03.10.2018 23:59MSK

Бейзлайны: на 4 и на 8 баллов

[https://www.kaggle.com/t/5a486fc7863548a58cfc1f702690b5c3 Ссылка на участие в соревновании]

=== Соревнование 2: Sentiment analysis ===

Дата выдачи: 15.10.2018

Срок окончания соревнования: 04.11.2018 23:59UTC

Бейзлайны: TBA

[https://www.kaggle.com/t/1e4f5623f3fc4f898cec6b1e21acf6b5 Ссылка на участие в соревновании]

В данном соревновании оцениваются только решения, полученные как результат работы [https://www.kaggle.com/kernels private kernel], к которому дан доступ для просмотра ассистенту вашей группы.

==Теоретические домашние задания==

'''Теоретическое домашнее задание 1''': линейная регрессия [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-theory/homework-theory-01-linregr.pdf ссылка]]

'''Теоретическое домашнее задание 2''': линейная классификация [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-theory/homework-theory-02-linclass.pdf ссылка]]

== Бонусы за соревнования ==

За успешное участие в соревнованиях по анализу данных могут быть выставлены бонусные баллы, которые можно прибавить к оценке за любое практическое или теоретическое домашнее задание, а также за самостоятельную работу. Под успешным участием понимается попадание в топ-10% мест; если соревнование особо сложное и крупное, может рассматриваться и попадание в топ-20% мест. Конкретное число баллов определяется преподавателями и зависит от сложности соревнования и занятого места. За одно соревнование можно получить не более 5 баллов. Для получения оценки необходимо предоставить краткий отчёт о решении задачи.

== Контрольная работа ==

== Экзамен ==

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

== Страницы предыдущих лет ==

[[Машинное_обучение_1/2017_2018 | 2017/2018 учебный год]]

[[Машинное_обучение_1/2016_2017 | 2016/2017 учебный год]]

Машинное обучение 1/2023 2024

2018-09-16T21:49:32Z

Andrew: /* Практические задания */

== О курсе ==

[[Файл:ML_surfaces.png|280px|borderless|left]]

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

Проводится с 2016 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по пятницам, 12:10 - 13:30, ауд. 317.

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/219888994.html Карточка курса и программа]

[https://github.com/esokolov/ml-course-hse Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.cs.ml+<номер группы>@gmail.com (например, hse.cs.ml+161@gmail.com)

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAEprV-8gsyFBkYbvkg

Чат в telegram для обсуждений: https://t.me/joinchat/A5rlQE2eFY0LN0AWcGH3qA

Ссылка на курс в Anytask: https://anytask.org/course/390

[https://docs.google.com/spreadsheets/d/1u832G7b9aRyayoncaKXr7XPD6WisDr85AYRBKSVCMq0/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций/семинаров и по заданиям лучше всего оформлять в виде [https://github.com/esokolov/ml-course-hse/issues Issue] в [https://github.com/esokolov/ml-course-hse github-репозитории курса].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание
|-
| 161 (МОП) || [https://www.hse.ru/org/persons/165212870 Зиннурова Эльвира Альбертовна] || [https://t.me/mryab Рябинин Максим] || || пятница, 10:30 - 11:50, ауд. 503
|-
| 162 (МОП) || [https://www.hse.ru/org/persons/191263008 Неклюдов Кирилл Олегович] || [http://t.me/bazpasha Хрушков Павел] || ||
|-
| 163 (АДИС) || [https://t.me/despairazure Кохтев Вадим Михайлович] || [http://t.me/marka_17 Маркович Александр] || ||
|-
| 164 (АДИС) || [https://www.hse.ru/org/persons/137283751 Атанов Андрей Игоревич] || [http://t.me/liza_s Свитанько Лиза] || ||
|-
| 165 (РС) || [https://www.hse.ru/org/persons/209813459 Каюмов Эмиль Марселевич] || [http://t.me/akiiino Попов Никита] || || вторник, 9:00 – 10:20, ауд. 311
|-
| 166 (РС) || [https://www.hse.ru/org/persons/192085968 Яшков Даниил Дмитриевич] || [http://t.me/Saigetsu Хайдуров Руслан] || ||
|-
| Магистратура ФТиАД || [https://www.hse.ru/org/persons/191576735 Чиркова Надежда Александровна] || [https://t.me/nbagiyan Багиян Нерсес] || ||
|-
|}

=== Консультации ===

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций
* Практические домашние работы на Python
* Контрольная работа
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Опрактические дз + 0.2 * Оконтрольная

Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям и соревнованиям.

Накопленная, экзаменационная и итоговая оценки округляются арифметически.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок). Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (3 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture01-intro.pdf Конспект]]

'''Лекция 2''' (14 сентября). Линейная регрессия. Метрики качества регрессии. Градиентный спуск и способы оценивания градиента. Продвинутые градиентные методы. [[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/lecture-notes/lecture02-linregr.pdf Конспект]]

'''Лекция 3''' (21 сентября). Переобучение и регуляризация. Разреженные линейные модели. Квантильная регрессия. Подготовка признаков.

'''Лекция 4''' (28 сентября). Линейная классификация. Отступ и верхние оценки на пороговую функцию потерь. Метрики качества классификации.

'''Лекция 5''' (1 октября). Линейная классификация. Логистическая регрессия и оценки вероятности классов. Метод опорных векторов.

'''Лекция 6''' (12 октября). Многоклассовая классификация, сведение к бинарным задачам. Многоклассовая логистическая регрессия. Классификация с пересекающимися классами. Метрики качества многоклассовой классификации. Категориальные признаки: хэширование и счётчики.

'''Лекция 7''' (19 октября). Решающие деревья. Жадный алгоритм построения. Выбор лучшего разбиения с помощью критерия информативности. Критерии информативности для регрессии и классификации. Учёт пропусков в деревьях. Решающие деревья и категориальные признаки.

'''Лекция 8''' (2 ноября). Бутстрап и бэггинг. Разложение ошибки на смещение и разброс (bias-variance decomposition). Случайный лес. Вычисление расстояний с помощью лесов.

'''Лекция 9''' (9 ноября). Градиентный бустинг. Регуляризация. Особенности бустинга над деревьями. Взвешивание объектов в градиентном бустинге.

'''Лекция 10''' (16 ноября). Оптимизация второго порядка в градиентном бустинге. Регуляризация деревьев. XGBoost. Стекинг.

'''Лекция 11''' (23 ноября). Графы вычислений, их обучение и метод обратного распространения ошибки. Полносвязные, свёрточные и рекуррентные слои. Возможности аппроксимации.

'''Лекция 12''' (30 ноября). Обучение без учителя. Кластеризация: метрики качества, K-Means, иерархический и графовый подходы. Визуализация, t-SNE. Обучение представлений. word2vec.

'''Лекция 13''' (7 декабря). Метод главных компонент, его связь с матричными разложениями. Рекомендательные системы: постановка задачи, коллаборативные методы, матричные разложения, контентные методы.

== Семинары ==

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. В течение семестра каждый студент может не более 2 раз сдать задание после жёсткого дедлайна.

'''Задание 1.''' Работа с Pandas и Matplotlib.

Мягкий дедлайн: 07:59 15.09.2018.

Жесткий дедлайн: 23:59 16.09.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-01.ipynb Github].

'''Задание 2.''' Numpy. Линейная регрессия.

Дата выдачи: 17.09.2018

Мягкий дедлайн: 2:59MSK 24.09.2018

Жесткий дедлайн: 23:59MSK 26.09.2018.

[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-02.ipynb Условие],
[https://github.com/esokolov/ml-course-hse/blob/master/2018-fall/homeworks-practice/homework-practice-02-templates.zip архив с шаблонами],
[https://contest.yandex.ru/contest/9148/enter/ соревнование в Яндекс.Контесте],
[https://official.contest.yandex.ru/contest/9148/enter/ альтернативная ссылка на соревнование в Яндекс.Контесте].

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

В лидербордах каждого из соревнований присутствуют несколько базовых решений (бейзлайна), каждое из которых соответствует определённой оценке. Например, для получения оценки не ниже 8 баллов необходимо, чтобы ваше решение на '''приватном''' лидерборде оказалось лучше соответствующего бейзлайна. Далее для студента, преодолевшего бейзлайн на N_1 баллов, но не преодолевшего бейзлайн на N_2 балла, итоговая оценка за соревнование рассчитывается по равномерной сетке среди всех таких студентов в зависимости от места в приватном лидерборде среди них; если быть точными, то по следующей формуле:

N_2 - (N_2 - N_1) * i / M,

где M — количество студентов (из всех студентов, изучающих курс), преодолевших бейзлайн на N_1 баллов, но не преодолевших бейзлайн на N_2 балла;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Единственное исключение из формулы — студенты, преодолевшие самый сильный бейзлайн, получают прибавку 1/M к своей оценке.

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. При оформлении кода предполагайте, что данные лежат рядом с ним в папке data, а в результате выполнения кода ответы должны быть записаны в файл solution-N-Username.csv, где N — номер соревнования, Username — ваша фамилия. У нас должна быть возможность запустить код и получить те же ответы, что и в вашей посылке, — в частности, это означает, что:

1. Если вы отправляете файл *.py, мы будем запускать его при помощи команды python *.py в вышеуказанном предположении о местонахождении данных.

2. Если вы отправляете ноутбук *.ipynb, мы последовательно запустим все ячейки ноутбука и будем ожидать в результате его работы формирование файла с ответами.

3. Если вы отправляете код с использованием другого языка программирования, в том же письме направьте нам инструкцию по его запуску с тем, чтобы получить тот же файл с ответами.

В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Студенты, попавшие в топ-5 согласно приватному лидерборду, смогут получить бонусные баллы, если в течение недели после окончания соревнования пришлют на почту курса отчет о получении решения, фигурирующего в приватном лидерборде.

=== Соревнование 1: House pricing ===

Дата выдачи: 15.09.2018

Срок окончания соревнования: 30.09.2018 23:59MSK

Срок отправки кода: 03.10.2018 23:59MSK

Бейзлайны: на 4 и на 8 баллов

[https://www.kaggle.com/t/5a486fc7863548a58cfc1f702690b5c3 Ссылка на участие в соревновании]

==Теоретические домашние задания==

== Бонусы за соревнования ==

За успешное участие в соревнованиях по анализу данных могут быть выставлены бонусные баллы, которые можно прибавить к оценке за любое практическое или теоретическое домашнее задание, а также за самостоятельную работу. Под успешным участием понимается попадание в топ-10% мест; если соревнование особо сложное и крупное, может рассматриваться и попадание в топ-20% мест. Конкретное число баллов определяется преподавателями и зависит от сложности соревнования и занятого места. За одно соревнование можно получить не более 5 баллов. Для получения оценки необходимо предоставить краткий отчёт о решении задачи.

== Контрольная работа ==

== Экзамен ==

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

== Страницы предыдущих лет ==

[[Машинное_обучение_1/2017_2018 | 2017/2018 учебный год]]

[[Машинное_обучение_1/2016_2017 | 2016/2017 учебный год]]