Машинное обучение (сов. бак. ВШЭ-РЭШ 2022)

2022-10-20T10:59:22Z

Vfurik: /* Практические задания */

== О курсе ==

Курс читается для студентов 3 курса совместного бакалавриата ВШЭ-РЭШ в 1-2 модулях.

Проводится с 2019 года.

'''Лектор:''' [https://www.hse.ru/org/persons/213369348 Михаил Гущин] (mhushchyn@hse.ru, @mikhail_h91)

'''Семинарист:''' Алексей Пономарев (@Lexolordan)

'''Ассистенты:''' Варвара Фурик (@grated_carrot), Кирилл Сафонов (@krsafonov)

Лекции проходят по вторникам в 16:20 (R205).

Семинары проходят по вторникам в 18:10 (D511) и по средам в 16:20 (R307).

[https://www.hse.ru/edu/courses/339942759 Карточка курса и программа.]

[https://github.com/hse-ds/ml-hse-nes Репозиторий с материалами курса на GitHub.]

[https://t.me/+_YZbn115OHZhYzdi Чат в телеграме]

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знаний:
* Практические домашние работы на Python или с теоретическими задачами (всего 6-8 домашних работ)
* Контрольная работа в середине курса
* Письменный экзамен

Бонусные баллы в курсе не предусмотрены (за исключением, может быть, участия в соревновании в четвертом модуле)

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

O<sub>итоговая</sub> = Округление(0.4 * ДЗ + 0.3 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Экзамен==
Содержание работы: теоретические вопросы из списка (возможны измененные формулировки) + теоретические задачи. Контрольная работа и экзамен не включают задачи на программирование. Теоретические вопросы подразумевают развернутые ответы с формулами.

Рекомендации по написанию экзамена:
Во всех формулах поясните обозначения. На всех графиках подпишите оси. Для всех рисунков поясните, что изображено на них. Во всех задачах оптимизации подпишите, по каким переменным она выполняется. Для всех суммирований подпишите индекс и границы суммирования.

== Контрольная работа ==
Рекомендации по написанию контрольной работы:
Во всех формулах поясните обозначения. На всех графиках подпишите оси. Для всех рисунков поясните, что изображено на них. Во всех задачах оптимизации подпишите, по каким переменным она выполняется. Для всех суммирований подпишите индекс и границы суммирования.

== Лекции ==

'''Лекция 1.''' Введение в машинное обучение. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/lectures/lecture01-intro.pdf Слайды]]

'''Лекция 2.''' Линейная регрессия. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/lectures/lecture02-linreg.pdf Слайды]] [[https://github.com/esokolov/ml-course-hse/blob/master/2020-fall/lecture-notes/lecture02-linregr.pdf Конспект 1 (стр. 1-10)]]
[[https://github.com/esokolov/ml-course-hse/blob/master/2020-fall/lecture-notes/lecture03-linregr.pdf Конспект 2 (стр. 1-5)]]

'''Лекция 3.''' Линейная классификация. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/lectures/lecture03-logreg.pdf Слайды]]

'''Лекция 4.''' Метрики качества классификации. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/lectures/lecture04-metrics.pdf Слайды]]

'''Лекция 5.''' Метрические методы. Мультиклассовая классификация. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/lectures/lecture05-knn-multiclass.pdf Слайды]]

'''Лекция 6.''' Решающие деревья. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/lectures/lecture06-trees.pdf Слайды]]

'''Лекция 7.''' Композиции алгоритмов. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/lectures/lecture07-ensembles.pdf Слайды]]

== Семинары ==

'''Семинар 1.''' Введение в машинное обучение. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar01/numpy_and_sklearn_basics.ipynb Тетрадка]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar01/numpy_and_sklearn_basics.ipynb Colab]]

'''Семинар 2.''' Линейная регрессия. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar02/linear_regression_intro.ipynb Тетрадка 1]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar02/linear_regression_intro.ipynb Colab 1]] [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar02/seminar.ipynb Тетрадка 2]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar02/seminar.ipynb Colab 2]]

'''Семинар 3.''' Линейная классификация. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar03/sem03_logreg.ipynb Тетрадка]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar03/sem03_logreg.ipynb Colab]]

'''Семинар 4.''' Метрики качества классификации. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar04/seminar04_quality.ipynb Тетрадка]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar04/seminar04_quality.ipynb Colab]]

'''Семинар 5.''' Метрические методы. Мультиклассовая классификация. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar05/sem05_multi.ipynb Тетрадка]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar05/sem05_multi.ipynb Colab]]

'''Семинар 6.''' Решающие деревья. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar06/sem06_trees.ipynb Тетрадка]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar06/sem06_trees.ipynb Colab]]

'''Семинар 7.''' Композиции алгоритмов. [[https://github.com/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar07/sem07_boosting.ipynb Тетрадка]] [[https://colab.research.google.com/github/hse-ds/ml-hse-nes/blob/main/2022/seminars/seminar07/sem07_boosting.ipynb Colab]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.

===Задание 1. Введение в машинное обучение ===
Вам предстоит решить несколько задач на применение библиотек numpy и matplotlob, а также написать свою линейную регрессию.

'''Мягкий дедлайн''': 13 октября 2022 года 23:59

'''Дедлайн''': 16 октября 2022 года 23:59

'''Ссылка''': https://github.com/hse-ds/ml-hse-nes/blob/main/2022/homeworks/homework_1.ipynb

===Задание 2. Логистическая регрессия ===
Вам предстоит реализовать алгоритм логистической регрессии и освоить работу с категориальными признаками.

'''Мягкий дедлайн''': 10 ноября 2022 года 23:59

'''Дедлайн''': 13 ноября 2022 года 23:59

'''Ссылка''': https://github.com/hse-ds/ml-hse-nes/blob/main/2022/homeworks/homework_2.ipynb

===Бонусное задание 1. Введение в решающие деревья. ===
Вам предстоит реализовать разбиение элементов выборки в вершине дерева.

'''Мягкий дедлайн''': 19 ноября 2022 года 23:59

'''Дедлайн''': 19 ноября 2022 года 23:59

'''Ссылка''': https://github.com/hse-ds/ml-hse-nes/blob/main/2022/homeworks/bonus_homework_1%20.ipynb

== Дополнительные материалы ==

===Курсы по машинному обучению и анализу данных===
* [https://openedu.ru/course/hse/INTRML/ Курс на платформе "Открытое образование"]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* https://barangkaliada.blogspot.com
* https://www.facebook.com/flx/warn/?u=barangkaliada
* https://youtu.be/embed/NT61JPohS9I
* http://www.google.li/url?q=https://barangkaliada.blogspot.com

===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.

[http://wiki.cs.hse.ru/Машинное_обучение_(сов._бак._ВШЭ-РЭШ_2021) Страница прошлого года]

Wiki - Факультет компьютерных наук - Вклад [ru]

Машинное обучение (сов. бак. ВШЭ-РЭШ 2022)