Wiki - Факультет компьютерных наук - Вклад [ru]

Введение в анализ данных

2021-04-09T12:28:29Z

Filatovartm: /* Практические задания */

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/416021030 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0pja3STykphSiuXzNEx5Gkw Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hs_iad_2021

Чат в telegram для флуда: https://t.me/joinchat/Vuq4Lgi98RG22fQP

Ссылка на курс в Anytask: https://anytask.org/course/779

Таблица с оценками: https://docs.google.com/spreadsheets/d/13aZ9aQAqa0QUTniqAkPMlirWqPq6DfLwpIra2HJLwhk/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Илья Косарев || Саночкин Юрий, Пащенко Анатолий || [https://zoom.us/j/95260607985?pwd=NTAxSVhGV1UzdHF2M0N6Q2dKWElOQT09 Zoom] || [https://t.me/joinchat/SrL1GYfpaLeFxs4J Чат] || [https://github.com/PersDep/data-mining-intro-2021 Материалы] || GrodXoV
|-
| ИАД-2 || Надежда Чиркова || Екатерина Кострыкина, Александра Штарёва || [https://zoom.us/j/97891126155?pwd=bXk0c2oxRm9jWUJuRUJtRDl1elB2QT09 Zoom] || [https://t.me/joinchat/GnnT0omle1UE7HQ1 Чат] || [https://github.com/nadiinchi/iad2021 Материалы] || hHA6uvN
|-
| ИАД-3 || Елена Кантонистова || [https://t.me/mikezz_1 Михаил Олейник], [https://t.me/NikPatov Никита Патов ] || [https://zoom.us/j/93207072522?pwd=djlCL3pJc0JuNkJKZ3RvL21UQmFVQT09 Zoom] || [https://t.me/joinchat/GWgn8k5yOx1s4qD3 Чат] || || ewfZ2I8
|-
| ИАД-4 || Артём Филатов || Валерий Айхенвальд, Анастасия Бир || [https://zoom.us/j/95918149669?pwd=UUxuOEthSnVDZVU0WFhVNXM1UytEZz09 Zoom] || [https://t.me/joinchat/G3mbrYDFVm4gVitF Чат] || || 4TUKO0v
|-
| ИАД-5 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/aksenysh Аня Аксенова], Александр Габиташвили || [https://zoom.us/j/95997234634?pwd=SHVjUGM1a2hFTDNnZ1RmMm1xakpTQT09 Zoom] || [https://t.me/joinchat/GRjeFvGs5HBiIm38 Чат] || [https://github.com/V-Marco/hse_iad5_2021 Материалы] || Kre5emJ
|-
| ИАД-6 || Ася Карпова || Елена Гринкевич, Егор Масликов || [https://zoom.us/j/95210435451?pwd=UEZaR1FsTzZnclhDRnY2aEFEODJIQT09 Zoom] || [https://t.me/joinchat/TeYBnyU8bpTw3j93 Чат] || || nSuRKac
|-
| ИАД-7 || [https://t.me/OnixinO Тамерлан Таболов] || [https://t.me/Debasering Николай Аверьянов], [https://t.me/greyworgen Сергей Тихонов], [https://t.me/userwaskicked Никита Крайко] || [https://zoom.us/j/93740294916?pwd=S20vN3loUytFVk1EamQ4MDhhY0V4UT09 Zoom] || [https://t.me/joinchat/RHVp06vSXeAmedPu Чат] || || HO7xViO
|-
| БИ-1 || Антон Семёнкин || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/92491827270?pwd=RGczZ0szUnVxVUJOb0U5c1AvbWdhdz09 Zoom] || [https://t.me/joinchat/TMyUB5mUxXsY8TLZ Чат] || || aQWW7It
|-
| БИ-2 || Илья Косарев || Гусева Полина, Такташева Екатерина || [https://zoom.us/j/94624466609?pwd=ZnRhYy8zZmF0OFRhaHNDTjlCVFZxQT09 Zoom] || [https://t.me/joinchat/HKbLF0ki_iPqUjnY Чат] || [https://github.com/PersDep/data-mining-intro-2021 Материалы] || QFII7j8
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

Лекция 1 (20.01.2021). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=77fwOymbP2Y Запись лекции]]

Лекция 2 (27.01.2021). Основные постановки задач. Метод k ближайших соседей. Измерение ошибки в задачах классификации. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture02-knn.pdf Слайды]] [[https://www.youtube.com/watch?v=_6sxGoimhZM Запись лекции]]

Лекция 3 (03.02.2021). Переобучение и обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture03-knn.pdf Слайды]] [[https://www.youtube.com/watch?v=FswSp9w21PQ Запись лекции]]

Лекция 4 (10.02.2021). kNN для регрессии. Модель линейной регрессии. Подготовка данных для линейной регрессии. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture04-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EfD8ujQmnHw Запись лекции]]

Лекция 5 (17.02.2021). MSE для линейной регрессии в матричной форме. Аналитическая формула для оптимального вектора весов, её недостатки. Регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture05-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=BQh1BUco5FY Запись лекции]]

Лекция 6 (24.02.2021). Интерпретация весов из линейной модели. Градиентый спуск. Мультистарт. Выбор длины шага. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=wg51b2Wt96I Запись лекции]]

Лекция 7 (3.03.2021). Стохастический градиентный спуск. Функции потерь в задачах регрессии. Линейный классификатор. Отступ. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture07-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=zTWN_8hLDQw Запись лекции]]

Лекция 7.5 (в записи). Относительная ошибка в регрессии (MAPE, SMAPE). Метрики качества классификации: доля верных ответов, точность, полнота. Объединение точности и полноты, F-мера. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture07-linclass-part2.pdf Слайды]] [[https://www.youtube.com/watch?v=J5pdWQvgjgM Запись лекции]]

Лекция 8 (10.03.2021). Обучение линейных классификаторов через верхние оценки на функцию потерь. Метрики качества ранжирования: PR-кривая и ROC-кривая, площади под ними. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture08-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=RM2OYu3kqG4 Запись лекции]]

Лекция 9 (17.03.2021). Логистическая регрессия. Оценивание вероятностей. Логистическая функция потерь. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture09-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=2J0_oMRUxoA Запись лекции]]

Лекция 10 (24.03.2021). Метод опорных векторов. Многоклассовая классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture10-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=eLze-Mo6uaw Запись лекции]]

Лекция 11 (07.04.2021). Решающие деревья. Поиск лучших предикатов и критерии информативности. Жадный алгоритм построения дерева. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture11-trees.pdf Слайды]] [[https://www.youtube.com/watch?v=H-xIuocK4oY Запись лекции]]

== Семинары ==

Семинар 1: pandas; основы работы с таблицами, вычисление статистик, устранение пропусков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem01_pandas.ipynb Ноутбук]]

Семинар 2: numpy и основы линейной алгебры. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem02_numpy.ipynb Ноутбук]]

Семинар 3: Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem03_EDA.ipynb Ноутбук]]

Семинар 4: Объектно-ориентированное программирование в Python. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem04_oop.ipynb Ноутбук]]

Семинар 5: Введение в sklearn. KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem05_sklearn_knn/sem05-sklearn-knn.ipynb Ноутбук]]

Семинар 6: Линейная регрессия, функции потерь регресии, регуляризация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem06_linreg/sem06_linreg_unsolved.ipynb Ноутбук]]

Семинар 7: Градиентный спуск. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem07_grad.ipynb Ноутбук]]

Семинар 8: Линейная классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem08_linclass.ipynb Ноутбук]]

Семинар 9: Логистическая регрессия и SVM. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem09_logit_svm/sem09_logit_svm.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. В течение семестра каждый студент может не более 2 раз сдать задание после жёсткого дедлайна — в этом случае за каждый день просрочки продолжает вычитаться по одному баллу (если не оговорено иное).

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

==== ДЗ 1. pandas ====

[[https://github.com/hse-ds/iad-intro-ds/tree/master/2021/homeworks/hw01-pandas Ноутбук для заполнения и данные]]

'''Дедлайн''': мягкий дедлайн 26 января 23:59, жесткий дедлайн 30 января 23:59.

==== ДЗ 2. numpy ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw02-numpy.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 2 февраля 23:59, жёсткий дедлайн 6 февраля 23:59.

==== ДЗ 3. EDA и подготовка данных ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 17 февраля 23:59, жёсткий дедлайн 21 февраля 23:59.

==== ДЗ 4. kNN и линейная регрессия ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw04-knn_linreg/hw04.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 10 марта 23:59, жёсткий дедлайн 14 марта 23:59.

==== ДЗ 5. Градиентный спуск ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw05_gd.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 6 апреля 23:59, жёсткий дедлайн 10 апреля 23:59.

==== ДЗ 6. Работа с текстами ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw06-text/hw06.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 23 апреля 23:59, жёсткий дедлайн 28 апреля 23:59.

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

Вопросы для подготовки с прошлого года: https://docs.google.com/document/d/1yuB17EoXyVSxqRslpFTKX97Kriuxn4lgFL5z4kQF9lU/edit?usp=sharing

На контрольной будет 4 вопроса. Два из них — по теории, где нужно будет объяснить одну из тем, разобранных на лекциях, или ответить на вопросы на понимание. Два вопроса — это задачи, примеры приведены ниже.

Примеры задач:
* Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]]
* Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]]
* Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]]
* Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]]

== Экзамен ==

Вопросы: https://docs.google.com/document/d/18kMS1f7NsdGEZy62MgfTGdgSq4P-6DVcnwr1ZJPLAqE/edit?usp=sharing

[https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума)

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Введение в анализ данных

2021-03-19T08:16:07Z

Filatovartm:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/416021030 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0pja3STykphSiuXzNEx5Gkw Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hs_iad_2021

Чат в telegram для флуда: https://t.me/joinchat/Vuq4Lgi98RG22fQP

Ссылка на курс в Anytask: https://anytask.org/course/779

Таблица с оценками: https://docs.google.com/spreadsheets/d/13aZ9aQAqa0QUTniqAkPMlirWqPq6DfLwpIra2HJLwhk/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Илья Косарев || Саночкин Юрий, Пащенко Анатолий || [https://zoom.us/j/95260607985?pwd=NTAxSVhGV1UzdHF2M0N6Q2dKWElOQT09 Zoom] || [https://t.me/joinchat/SrL1GYfpaLeFxs4J Чат] || [https://github.com/PersDep/data-mining-intro-2021 Материалы] || GrodXoV
|-
| ИАД-2 || Надежда Чиркова || Екатерина Кострыкина, Александра Штарёва || [https://zoom.us/j/97891126155?pwd=bXk0c2oxRm9jWUJuRUJtRDl1elB2QT09 Zoom] || [https://t.me/joinchat/GnnT0omle1UE7HQ1 Чат] || [https://github.com/nadiinchi/iad2021 Материалы] || hHA6uvN
|-
| ИАД-3 || Елена Кантонистова || [https://t.me/mikezz_1 Михаил Олейник], [https://t.me/NikPatov Никита Патов ] || [https://zoom.us/j/93207072522?pwd=djlCL3pJc0JuNkJKZ3RvL21UQmFVQT09 Zoom] || [https://t.me/joinchat/GWgn8k5yOx1s4qD3 Чат] || || ewfZ2I8
|-
| ИАД-4 || Артём Филатов || Валерий Айхенвальд, Анастасия Бир || [https://zoom.us/j/95918149669?pwd=UUxuOEthSnVDZVU0WFhVNXM1UytEZz09 Zoom] || [https://t.me/joinchat/G3mbrYDFVm4gVitF Чат] || || 4TUKO0v
|-
| ИАД-5 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/aksenysh Аня Аксенова], Александр Габиташвили || [https://zoom.us/j/95997234634?pwd=SHVjUGM1a2hFTDNnZ1RmMm1xakpTQT09 Zoom] || [https://t.me/joinchat/GRjeFvGs5HBiIm38 Чат] || [https://github.com/V-Marco/hse_iad5_2021 Материалы] || Kre5emJ
|-
| ИАД-6 || Ася Карпова || Елена Гринкевич, Егор Масликов || [https://zoom.us/j/95210435451?pwd=UEZaR1FsTzZnclhDRnY2aEFEODJIQT09 Zoom] || [https://t.me/joinchat/TeYBnyU8bpTw3j93 Чат] || || nSuRKac
|-
| ИАД-7 || [https://t.me/OnixinO Тамерлан Таболов] || [https://t.me/Debasering Николай Аверьянов], [https://t.me/greyworgen Сергей Тихонов], [https://t.me/userwaskicked Никита Крайко] || [https://zoom.us/j/93740294916?pwd=S20vN3loUytFVk1EamQ4MDhhY0V4UT09 Zoom] || [https://t.me/joinchat/RHVp06vSXeAmedPu Чат] || || HO7xViO
|-
| БИ-1 || Антон Семёнкин || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/92491827270?pwd=RGczZ0szUnVxVUJOb0U5c1AvbWdhdz09 Zoom] || [https://t.me/joinchat/TMyUB5mUxXsY8TLZ Чат] || || aQWW7It
|-
| БИ-2 || Илья Косарев || Гусева Полина, Такташева Екатерина || [https://zoom.us/j/94624466609?pwd=ZnRhYy8zZmF0OFRhaHNDTjlCVFZxQT09 Zoom] || [https://t.me/joinchat/HKbLF0ki_iPqUjnY Чат] || [https://github.com/PersDep/data-mining-intro-2021 Материалы] || QFII7j8
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

Лекция 1 (20.01.2021). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=77fwOymbP2Y Запись лекции]]

Лекция 2 (27.01.2021). Основные постановки задач. Метод k ближайших соседей. Измерение ошибки в задачах классификации. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture02-knn.pdf Слайды]] [[https://www.youtube.com/watch?v=_6sxGoimhZM Запись лекции]]

Лекция 3 (03.02.2021). Переобучение и обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture03-knn.pdf Слайды]] [[https://www.youtube.com/watch?v=FswSp9w21PQ Запись лекции]]

Лекция 4 (10.02.2021). kNN для регрессии. Модель линейной регрессии. Подготовка данных для линейной регрессии. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture04-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EfD8ujQmnHw Запись лекции]]

Лекция 5 (17.02.2021). MSE для линейной регрессии в матричной форме. Аналитическая формула для оптимального вектора весов, её недостатки. Регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture05-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=BQh1BUco5FY Запись лекции]]

Лекция 6 (24.02.2021). Интерпретация весов из линейной модели. Градиентый спуск. Мультистарт. Выбор длины шага. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=wg51b2Wt96I Запись лекции]]

Лекция 7 (3.03.2021). Стохастический градиентный спуск. Функции потерь в задачах регрессии. Линейный классификатор. Отступ. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture07-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=zTWN_8hLDQw Запись лекции]]

Лекция 7.5 (в записи). Относительная ошибка в регрессии (MAPE, SMAPE). Метрики качества классификации: доля верных ответов, точность, полнота. Объединение точности и полноты, F-мера. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture07-linclass-part2.pdf Слайды]] [[https://www.youtube.com/watch?v=J5pdWQvgjgM Запись лекции]]

Лекция 8 (10.03.2021). Обучение линейных классификаторов через верхние оценки на функцию потерь. Метрики качества ранжирования: PR-кривая и ROC-кривая, площади под ними. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture08-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=RM2OYu3kqG4 Запись лекции]]

Лекция 9 (17.03.2021). Логистическая регрессия. Оценивание вероятностей. Логистическая функция потерь. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture09-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=2J0_oMRUxoA Запись лекции]]

== Семинары ==

Семинар 1: pandas; основы работы с таблицами, вычисление статистик, устранение пропусков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem01_pandas.ipynb Ноутбук]]

Семинар 2: numpy и основы линейной алгебры. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem02_numpy.ipynb Ноутбук]]

Семинар 3: Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem03_EDA.ipynb Ноутбук]]

Семинар 4: Объектно-ориентированное программирование в Python. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem04_oop.ipynb Ноутбук]]

Семинар 5: Введение в sklearn. KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem05_sklearn_knn/sem05-sklearn-knn.ipynb Ноутбук]]

Семинар 6: Линейная регрессия, функции потерь регресии, регуляризация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem06_linreg/sem06_linreg_unsolved.ipynb Ноутбук]]

Семинар 7: Градиентный спуск. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem07_grad.ipynb Ноутбук]]

Семинар 8: Линейная классификация. [https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem08_linclass.ipynb Ноутбук]]

Семинар 9: Логистическая регрессия и SVM. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem09_logit_svm/sem09_logit_svm.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. В течение семестра каждый студент может не более 2 раз сдать задание после жёсткого дедлайна — в этом случае за каждый день просрочки продолжает вычитаться по одному баллу (если не оговорено иное).

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

==== ДЗ 1. pandas ====

[[https://github.com/hse-ds/iad-intro-ds/tree/master/2021/homeworks/hw01-pandas Ноутбук для заполнения и данные]]

'''Дедлайн''': мягкий дедлайн 26 января 23:59, жесткий дедлайн 30 января 23:59.

==== ДЗ 2. numpy ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw02-numpy.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 2 февраля 23:59, жёсткий дедлайн 6 февраля 23:59.

==== ДЗ 3. EDA и подготовка данных ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 17 февраля 23:59, жёсткий дедлайн 21 февраля 23:59.

==== ДЗ 4. kNN и линейная регрессия ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw04-knn_linreg/hw04.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 10 марта 23:59, жёсткий дедлайн 14 марта 23:59.

==== ДЗ 5. Градиентный спуск ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw05_gd.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 6 апреля 23:59, жёсткий дедлайн 10 апреля 23:59.

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

Вопросы для подготовки с прошлого года: https://docs.google.com/document/d/1yuB17EoXyVSxqRslpFTKX97Kriuxn4lgFL5z4kQF9lU/edit?usp=sharing

На контрольной будет 4 вопроса. Два из них — по теории, где нужно будет объяснить одну из тем, разобранных на лекциях, или ответить на вопросы на понимание. Два вопроса — это задачи, примеры приведены ниже.

Примеры задач:
* Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]]
* Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]]
* Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]]
* Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]]

== Экзамен ==

Вопросы: https://docs.google.com/document/d/18kMS1f7NsdGEZy62MgfTGdgSq4P-6DVcnwr1ZJPLAqE/edit?usp=sharing

[https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума)

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Введение в анализ данных

2021-03-19T08:14:57Z

Filatovartm: 8 семинар

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/416021030 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0pja3STykphSiuXzNEx5Gkw Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hs_iad_2021

Чат в telegram для флуда: https://t.me/joinchat/Vuq4Lgi98RG22fQP

Ссылка на курс в Anytask: https://anytask.org/course/779

Таблица с оценками: https://docs.google.com/spreadsheets/d/13aZ9aQAqa0QUTniqAkPMlirWqPq6DfLwpIra2HJLwhk/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Илья Косарев || Саночкин Юрий, Пащенко Анатолий || [https://zoom.us/j/95260607985?pwd=NTAxSVhGV1UzdHF2M0N6Q2dKWElOQT09 Zoom] || [https://t.me/joinchat/SrL1GYfpaLeFxs4J Чат] || [https://github.com/PersDep/data-mining-intro-2021 Материалы] || GrodXoV
|-
| ИАД-2 || Надежда Чиркова || Екатерина Кострыкина, Александра Штарёва || [https://zoom.us/j/97891126155?pwd=bXk0c2oxRm9jWUJuRUJtRDl1elB2QT09 Zoom] || [https://t.me/joinchat/GnnT0omle1UE7HQ1 Чат] || [https://github.com/nadiinchi/iad2021 Материалы] || hHA6uvN
|-
| ИАД-3 || Елена Кантонистова || [https://t.me/mikezz_1 Михаил Олейник], [https://t.me/NikPatov Никита Патов ] || [https://zoom.us/j/93207072522?pwd=djlCL3pJc0JuNkJKZ3RvL21UQmFVQT09 Zoom] || [https://t.me/joinchat/GWgn8k5yOx1s4qD3 Чат] || || ewfZ2I8
|-
| ИАД-4 || Артём Филатов || Валерий Айхенвальд, Анастасия Бир || [https://zoom.us/j/95918149669?pwd=UUxuOEthSnVDZVU0WFhVNXM1UytEZz09 Zoom] || [https://t.me/joinchat/G3mbrYDFVm4gVitF Чат] || || 4TUKO0v
|-
| ИАД-5 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/aksenysh Аня Аксенова], Александр Габиташвили || [https://zoom.us/j/95997234634?pwd=SHVjUGM1a2hFTDNnZ1RmMm1xakpTQT09 Zoom] || [https://t.me/joinchat/GRjeFvGs5HBiIm38 Чат] || [https://github.com/V-Marco/hse_iad5_2021 Материалы] || Kre5emJ
|-
| ИАД-6 || Ася Карпова || Елена Гринкевич, Егор Масликов || [https://zoom.us/j/95210435451?pwd=UEZaR1FsTzZnclhDRnY2aEFEODJIQT09 Zoom] || [https://t.me/joinchat/TeYBnyU8bpTw3j93 Чат] || || nSuRKac
|-
| ИАД-7 || [https://t.me/OnixinO Тамерлан Таболов] || [https://t.me/Debasering Николай Аверьянов], [https://t.me/greyworgen Сергей Тихонов], [https://t.me/userwaskicked Никита Крайко] || [https://zoom.us/j/93740294916?pwd=S20vN3loUytFVk1EamQ4MDhhY0V4UT09 Zoom] || [https://t.me/joinchat/RHVp06vSXeAmedPu Чат] || || HO7xViO
|-
| БИ-1 || Антон Семёнкин || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/92491827270?pwd=RGczZ0szUnVxVUJOb0U5c1AvbWdhdz09 Zoom] || [https://t.me/joinchat/TMyUB5mUxXsY8TLZ Чат] || || aQWW7It
|-
| БИ-2 || Илья Косарев || Гусева Полина, Такташева Екатерина || [https://zoom.us/j/94624466609?pwd=ZnRhYy8zZmF0OFRhaHNDTjlCVFZxQT09 Zoom] || [https://t.me/joinchat/HKbLF0ki_iPqUjnY Чат] || [https://github.com/PersDep/data-mining-intro-2021 Материалы] || QFII7j8
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

Лекция 1 (20.01.2021). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=77fwOymbP2Y Запись лекции]]

Лекция 2 (27.01.2021). Основные постановки задач. Метод k ближайших соседей. Измерение ошибки в задачах классификации. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture02-knn.pdf Слайды]] [[https://www.youtube.com/watch?v=_6sxGoimhZM Запись лекции]]

Лекция 3 (03.02.2021). Переобучение и обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture03-knn.pdf Слайды]] [[https://www.youtube.com/watch?v=FswSp9w21PQ Запись лекции]]

Лекция 4 (10.02.2021). kNN для регрессии. Модель линейной регрессии. Подготовка данных для линейной регрессии. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture04-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EfD8ujQmnHw Запись лекции]]

Лекция 5 (17.02.2021). MSE для линейной регрессии в матричной форме. Аналитическая формула для оптимального вектора весов, её недостатки. Регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture05-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=BQh1BUco5FY Запись лекции]]

Лекция 6 (24.02.2021). Интерпретация весов из линейной модели. Градиентый спуск. Мультистарт. Выбор длины шага. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=wg51b2Wt96I Запись лекции]]

Лекция 7 (3.03.2021). Стохастический градиентный спуск. Функции потерь в задачах регрессии. Линейный классификатор. Отступ. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture07-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=zTWN_8hLDQw Запись лекции]]

Лекция 7.5 (в записи). Относительная ошибка в регрессии (MAPE, SMAPE). Метрики качества классификации: доля верных ответов, точность, полнота. Объединение точности и полноты, F-мера. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture07-linclass-part2.pdf Слайды]] [[https://www.youtube.com/watch?v=J5pdWQvgjgM Запись лекции]]

Лекция 8 (10.03.2021). Обучение линейных классификаторов через верхние оценки на функцию потерь. Метрики качества ранжирования: PR-кривая и ROC-кривая, площади под ними. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture08-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=RM2OYu3kqG4 Запись лекции]]

Лекция 9 (17.03.2021). Логистическая регрессия. Оценивание вероятностей. Логистическая функция потерь. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/lectures/lecture09-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=2J0_oMRUxoA Запись лекции]]

== Семинары ==

Семинар 1: pandas; основы работы с таблицами, вычисление статистик, устранение пропусков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem01_pandas.ipynb Ноутбук]]

Семинар 2: numpy и основы линейной алгебры. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem02_numpy.ipynb Ноутбук]]

Семинар 3: Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem03_EDA.ipynb Ноутбук]]

Семинар 4: Объектно-ориентированное программирование в Python. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem04_oop.ipynb Ноутбук]]

Семинар 5: Введение в sklearn. KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem05_sklearn_knn/sem05-sklearn-knn.ipynb Ноутбук]]

Семинар 6: Линейная регрессия, функции потерь регресии, регуляризация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem06_linreg/sem06_linreg_unsolved.ipynb Ноутбук]]

Семинар 7: Градиентный спуск. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem07_grad.ipynb Ноутбук]]

Семинар 7: Линейная классификация. [https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem08_linclass.ipynb Ноутбук]]

Семинар 9: Логистическая регрессия и SVM. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/seminars/sem09_logit_svm/sem09_logit_svm.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. В течение семестра каждый студент может не более 2 раз сдать задание после жёсткого дедлайна — в этом случае за каждый день просрочки продолжает вычитаться по одному баллу (если не оговорено иное).

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

==== ДЗ 1. pandas ====

[[https://github.com/hse-ds/iad-intro-ds/tree/master/2021/homeworks/hw01-pandas Ноутбук для заполнения и данные]]

'''Дедлайн''': мягкий дедлайн 26 января 23:59, жесткий дедлайн 30 января 23:59.

==== ДЗ 2. numpy ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw02-numpy.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 2 февраля 23:59, жёсткий дедлайн 6 февраля 23:59.

==== ДЗ 3. EDA и подготовка данных ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 17 февраля 23:59, жёсткий дедлайн 21 февраля 23:59.

==== ДЗ 4. kNN и линейная регрессия ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw04-knn_linreg/hw04.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 10 марта 23:59, жёсткий дедлайн 14 марта 23:59.

==== ДЗ 5. Градиентный спуск ====

[[https://github.com/hse-ds/iad-intro-ds/blob/master/2021/homeworks/hw05_gd.ipynb Ноутбук для заполнения]]

'''Дедлайн''': мягкий дедлайн 6 апреля 23:59, жёсткий дедлайн 10 апреля 23:59.

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

Вопросы для подготовки с прошлого года: https://docs.google.com/document/d/1yuB17EoXyVSxqRslpFTKX97Kriuxn4lgFL5z4kQF9lU/edit?usp=sharing

На контрольной будет 4 вопроса. Два из них — по теории, где нужно будет объяснить одну из тем, разобранных на лекциях, или ответить на вопросы на понимание. Два вопроса — это задачи, примеры приведены ниже.

Примеры задач:
* Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]]
* Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]]
* Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]]
* Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]]

== Экзамен ==

Вопросы: https://docs.google.com/document/d/18kMS1f7NsdGEZy62MgfTGdgSq4P-6DVcnwr1ZJPLAqE/edit?usp=sharing

[https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума)

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Введение в анализ данных

2021-01-22T11:24:40Z

Filatovartm:

Введение в анализ данных

2021-01-20T12:12:19Z

Filatovartm: Добавил ассистентов

Введение в анализ данных (майнор ИАД) 2019/2020

2020-01-17T08:13:32Z

Filatovartm: /* О курсе */

Майнор Интеллектуальный анализ данных/Введение в анализ данных

2018-01-24T10:07:51Z

Filatovartm:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/2015/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по средам, 10:30 - 11:50, ауд. 5215 (Шаболовка, 26).

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/205537431.html Карточка курса и программа]

[https://github.com/esokolov/ml-minor-hse Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий: hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://telegram.me/hse_minor_intro_dm_2018

[https://docs.google.com/spreadsheets/d/1n6-_nCiIQYQQwDbqJKtDoKXNRlbEk3798nKTkOqc6YE/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [http://goo.gl/forms/RwdMxnChST форма]

'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций лучше всего оформлять в виде [https://github.com/esokolov/ml-minor-hse/issues Issue] в [https://github.com/esokolov/ml-minor-hse github-репозитории курса].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание
|-
| ИАД-1 || Рысьмятова Анастасия || Багиян Нерсес [https://t.me/nbagiyan Telegram], [mailto:nkb997@gmail.com Mail]|| [https://github.com/AnastasiaRysmyatova/IAD-1/blob/master/README.md Страница] || среда, 12:10 - 13:30, ауд. 4336
|-
| ИАД-2 || Талгат Даулбаев, Надежда Чиркова || Першин Максим [https://t.me/Skvidvardin Telegram], [mailto:max_pershin@bk.ru Mail] || [https://github.com/iad-24/seminars Страница] || среда, 09:00 - 10:20, ауд. 4336
|-
| ИАД-3 || Каюмов Эмиль || Ковалев Евгений [https://t.me/blackitten13 Telegram], [https://vk.com/blackitten13 VK] || || среда, 09:00 - 10:20, ауд. 4427
|-
| ИАД-4 || Надежда Чиркова, Талгат Даулбаев || Вальчук Ксения [https://t.me/nu_takoe Telegram], [mailto:ksenia.valchuk@gmail.com Mail] || [https://github.com/iad-24/seminars Страница] || среда, 12:10 - 13:30, ауд. 4335
|-
| ИАД-5 || Филатов Артём || Рогачевская Анастасия [https://t.me/arogachewskaya Telegram], [mailto:arogachewskaya@gmail.com Mail] || [https://t.me/joinchat/ABAXWFByRjNOFQCQabgiKA Telegram] || среда, 09:00 - 10:20, ауд. 4337
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Оконтрольная

Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям.

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==
[[Файл:how-to-download.png|thumb|right|200px|Файлы со слайдами очень легко скачать с GitHub с помощью кнопки Raw!]]

Лекция 1 (17.01.2017). Введение в машинное обучение и анализ данных. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2018/lecture01-intro.pdf Слайды]]

Лекция 2 (24.01.2017). Типы задач машинного обучения. Типы признаков. Обобщающая способность и переобучение. Примеры задач анализа данных. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2018/lecture02-intro.pdf Слайды]]

==Семинары==

Семинар 1 (17.01.2018). Библиотека для работы с матрицами Numpy. [[https://github.com/iad-24/seminars/blob/master/materials/hw_sem1_opt.ipynb Необязательное домашнее задание для тренировки]]

== Коллоквиум ==

Вопросы прошлого года: https://docs.google.com/document/d/1jAiUeCYDPzeElDd5muzhVNQ4ylQFqs_iHPVseoSWlb4/edit?usp=sharing

Примеры задач прошлого года:
* Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]]
* Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]]
* Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]]
* Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]]

== Экзамен ==

Вопросы прошлого года: https://docs.google.com/document/d/1IU2jEN5NU3tSuP_5YnFSS2GUDYxoLfSQ4dSy1B_a29M/edit?usp=sharing

[https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума)

Если накопленная оценка равна 6 или выше, то можно её автоматом перенести в накопленную. Необходимое условие — хорошая оценка за контрольную работу (точный порог будет объявлен позже).

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Майнор Интеллектуальный анализ данных/Введение в анализ данных

2018-01-18T12:56:46Z

Filatovartm: /* Семинары */

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/2015/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по средам, 10:30 - 11:50, ауд. 5215 (Шаболовка, 26).

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/205537431.html Карточка курса и программа]

[https://github.com/esokolov/ml-minor-hse Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий: hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://telegram.me/hse_minor_intro_dm_2018

[https://docs.google.com/spreadsheets/d/1n6-_nCiIQYQQwDbqJKtDoKXNRlbEk3798nKTkOqc6YE/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [http://goo.gl/forms/RwdMxnChST форма]

'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций лучше всего оформлять в виде [https://github.com/esokolov/ml-minor-hse/issues Issue] в [https://github.com/esokolov/ml-minor-hse github-репозитории курса].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание
|-
| ИАД-1 || [https://www.hse.ru/org/persons/ ??] || Багиян Нерсес [https://t.me/nbagiyan Telegram], [mailto:nkb997@gmail.com Mail]|| || среда, 12:10 - 13:30, ауд.
|-
| ИАД-2 || Талгат Даулбаев, Надежда Чиркова || Першин Максим [https://t.me/Skvidvardin Telegram], [mailto:max_pershin@bk.ru Mail] || [https://github.com/iad-24/seminars Страница] || среда, 09:00 - 10:20, ауд. 4336
|-
| ИАД-3 || [https://www.hse.ru/staff/?? ??] || Ковалев Евгений [https://t.me/blackitten13 Telegram], [https://vk.com/blackitten13 VK] || || среда, 09:00 - 10:20, ауд.
|-
| ИАД-4 || Надежда Чиркова, Талгат Даулбаев || Вальчук Ксения [https://t.me/nu_takoe Telegram], [mailto:ksenia.valchuk@gmail.com Mail] || [https://github.com/iad-24/seminars Страница] || среда, 12:10 - 13:30, ауд. 4335
|-
| ИАД-5 || Филатов Артём || Рогачевская Анастасия [https://t.me/arogachewskaya Telegram], [mailto:arogachewskaya@gmail.com Mail] || [https://t.me/joinchat/ABAXWFByRjNOFQCQabgiKA Telegram] || среда, 12:10 - 13:30, ауд.
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Оконтрольная

Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям.

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==
[[Файл:how-to-download.png|thumb|right|200px|Файлы со слайдами очень легко скачать с GitHub с помощью кнопки Raw!]]

Лекция 1 (17.01.2017). Введение в машинное обучение и анализ данных. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2018/lecture01-intro.pdf Слайды]]

==Семинары==

Семинар 1 (17.01.2018). Библиотека для работы с матрицами Numpy. [[https://github.com/iad-24/seminars/blob/master/materials/hw_sem1_opt.ipynb Необязательное домашнее задание для тренировки]]

== Коллоквиум ==

Вопросы прошлого года: https://docs.google.com/document/d/1jAiUeCYDPzeElDd5muzhVNQ4ylQFqs_iHPVseoSWlb4/edit?usp=sharing

Примеры задач прошлого года:
* Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]]
* Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]]
* Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]]
* Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]]

== Экзамен ==

Вопросы прошлого года: https://docs.google.com/document/d/1IU2jEN5NU3tSuP_5YnFSS2GUDYxoLfSQ4dSy1B_a29M/edit?usp=sharing

[https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума)

Если накопленная оценка равна 6 или выше, то можно её автоматом перенести в накопленную. Необходимое условие — хорошая оценка за контрольную работу (точный порог будет объявлен позже).

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Майнор Интеллектуальный анализ данных/Введение в анализ данных

2018-01-17T09:15:14Z

Filatovartm:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/2015/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по средам, 10:30 - 11:50, ауд. 5215 (Шаболовка, 26).

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/205537431.html Карточка курса и программа]

[https://github.com/esokolov/ml-minor-hse Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий: hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://telegram.me/hse_minor_intro_dm_2018

[https://docs.google.com/spreadsheets/d/1n6-_nCiIQYQQwDbqJKtDoKXNRlbEk3798nKTkOqc6YE/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [http://goo.gl/forms/RwdMxnChST форма]

'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций лучше всего оформлять в виде [https://github.com/esokolov/ml-minor-hse/issues Issue] в [https://github.com/esokolov/ml-minor-hse github-репозитории курса].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание
|-
| ИАД-1 || [https://www.hse.ru/org/persons/ ??] || || || среда, 12:10 - 13:30, ауд.
|-
| ИАД-2 || [https://www.hse.ru/staff/?? ??] || Першин Максим [https://t.me/Skvidvardin Telegram], [mailto:max_pershin@bk.ru Mail] || || среда, 12:10 - 13:30, ауд.
|-
| ИАД-3 || [https://www.hse.ru/staff/?? ??] || || || среда, 09:00 - 10:20, ауд.
|-
| ИАД-4 || [https://www.hse.ru/staff/?? ??] || || || среда, 12:10 - 13:30, ауд.
|-
| ИАД-5 || [https://www.hse.ru/staff/?? ??] || || || среда, 12:10 - 13:30, ауд.
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Оконтрольная

Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям.

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==
[[Файл:how-to-download.png|thumb|right|200px|Файлы со слайдами очень легко скачать с GitHub с помощью кнопки Raw!]]

Лекция 1 (17.01.2017). Введение в машинное обучение и анализ данных. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2018/lecture01-intro.pdf Слайды]]

== Коллоквиум ==

Вопросы прошлого года: https://docs.google.com/document/d/1jAiUeCYDPzeElDd5muzhVNQ4ylQFqs_iHPVseoSWlb4/edit?usp=sharing

Примеры задач прошлого года:
* Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]]
* Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]]
* Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]]
* Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]]

== Экзамен ==

Вопросы прошлого года: https://docs.google.com/document/d/1IU2jEN5NU3tSuP_5YnFSS2GUDYxoLfSQ4dSy1B_a29M/edit?usp=sharing

[https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума)

Если накопленная оценка равна 6 или выше, то можно её автоматом перенести в накопленную. Необходимое условие — хорошая оценка за контрольную работу (точный порог будет объявлен позже).

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Майнор Интеллектуальный анализ данных/Введение в анализ данных

2018-01-17T06:19:16Z

Filatovartm:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/2015/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по средам, 10:30 - 11:50, ауд. 5215 (Шаболовка, 26).

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/205537431.html Карточка курса и программа]

[https://github.com/esokolov/ml-minor-hse Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий: hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://telegram.me/hse_minor_intro_dm_2018

[https://docs.google.com/spreadsheets/d/1n6-_nCiIQYQQwDbqJKtDoKXNRlbEk3798nKTkOqc6YE/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [http://goo.gl/forms/RwdMxnChST форма]

'''Вопросы''' по курсу можно задавать на почту курса, а также в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций лучше всего оформлять в виде [https://github.com/esokolov/ml-minor-hse/issues Issue] в [https://github.com/esokolov/ml-minor-hse github-репозитории курса].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Страница !! Расписание
|-
| ИАД-1 || [https://www.hse.ru/org/persons/ ??] || || || среда, 12:10 - 13:30, ауд.
|-
| ИАД-2 || [https://www.hse.ru/staff/?? ??] || Першин Максим [https://t.me/Skvidvardin Telegram], [mailto:max_pershin@bk.ru Mail] || || среда, 12:10 - 13:30, ауд.
|-
| ИАД-3 || [https://www.hse.ru/staff/?? ??] || || || среда, 09:00 - 10:20, ауд.
|-
| ИАД-4 || [https://www.hse.ru/staff/?? ??] || || || среда, 12:10 - 13:30, ауд.
|-
| ИАД-5 || [https://www.hse.ru/staff/?? ??] || || || среда, 12:10 - 13:30, ауд.
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Оконтрольная

Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям.

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==
[[Файл:how-to-download.png|thumb|right|200px|Файлы со слайдами очень легко скачать с GitHub с помощью кнопки Raw!]]

Лекция 1 (17.01.2017). Введение в машинное обучение и анализ данных. [[https://github.com/esokolov/ml-minor-hse/blob/master/lectures-2018/lecture01-intro.pdf Слайды]]

http://nbviewer.jupyter.org/urls/getfile.dokpub.com/yandex/get/https%3A//yadi.sk/d/BM99GlRF3RWrXA

== Коллоквиум ==

Вопросы прошлого года: https://docs.google.com/document/d/1jAiUeCYDPzeElDd5muzhVNQ4ylQFqs_iHPVseoSWlb4/edit?usp=sharing

Примеры задач прошлого года:
* Метрические методы, kNN [[http://nbviewer.jupyter.org/github/shestakoff/minor_da_2017/blob/master/colloc_knn.ipynb Примеры задач]]
* Линейные методы [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_linear.pdf Примеры задач]]
* Решающие деревья [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_trees.ipynb Примеры задач]]
* Метрики качества [[https://github.com/esokolov/ml-minor-hse/blob/master/colloquium-2017/colloquium_minor_problems_metrics.ipynb Примеры задач]]

== Экзамен ==

Вопросы прошлого года: https://docs.google.com/document/d/1IU2jEN5NU3tSuP_5YnFSS2GUDYxoLfSQ4dSy1B_a29M/edit?usp=sharing

[https://github.com/esokolov/ml-minor-hse/blob/master/exam-2017/exam_problems_example.pdf Примеры задач прошлого года] (также могут войти задачи из коллоквиума)

Если накопленная оценка равна 6 или выше, то можно её автоматом перенести в накопленную. Необходимое условие — хорошая оценка за контрольную работу (точный порог будет объявлен позже).

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Машинное обучение (факультет экономических наук)

2017-12-08T21:06:58Z

Filatovartm: /* Соревнование */

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Экзамен ==
В конце курса будет проведен устный экзамен. Правила сдачи экзамена и список вопросов появится позднее. Экзамен назначен на 27 декабря. Ориентировочно студентам совбака нужно будет приходить к 9:00, а студентам эконома к 11:30 в аудиторию 5215.

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Лекция 9''' (3 ноября). Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

'''Лекция 10''' (10 ноября). Композиции алгоритмов. Бэггинг, случайные леса. Разложение ошибки на смещение и разброс.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture08-ensembles.pdf Конспект]

'''Лекция 11''' (17 ноября). Композиции алгоритмов. Градиентный бустинг.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture09-ensembles.pdf Конспект]

'''Лекция 12''' (24 ноября). Нейронные сети.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture11-dl.pdf Конспект]

'''Следующая лекция:'''

Обучение без учителя. Кластеризация и визуализация данных.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture12-unsupervised.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

'''Семинар 7'''. Деревья. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/seminars/sem07-trees.ipynb задачи]

[https://github.com/bdemeshev/mlearn_pro/raw/master/mlearn_pro.pdf Свалка задач ко всем семинарам]

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 15.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

'''Задание 4.''' Decision Tree, NN, Boosting

Дата выдачи: 29.11.2017

Дедлайн: 15.12.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw04-nn.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу!

'''Задание 4'''. SVD и SVM!

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017
Проверочные начнутся на семинарах с 13.10.2017.

На забывайте про [https://github.com/bdemeshev/mlearn_pro/raw/master/mlearn_pro.pdf Свалку задач ко всем семинарам]!

== Соревнование ==
Зарегестрироваться на соревнование можно [https://www.kaggle.com/t/18f956df74c04a639e49b9b9cf431c73 здесь]. Предварительно вам нужно зарегистрироваться на платформе [kaggle.com kaggle]. Правила участия вы найдете там же. Оценка выставляется следующим образом: вы можете претендовать на положительный балл, если преодолели medium baseline, иначе вы получаете 0. После того, как это произошло, ваша финальная оценка будет вычисляться по следующей формуле:

best_gap = разница между medium baseline и лучшим решением на private leaderboard.

my_gap = разница между medium baseline и решением студента на private leaderboard.

оценка = 6 + 4 * my_gap / best_gap

Оценка за соревнование идет, как оценка за одно домашнее задание.

Дополнительно к оценке за соревнование первые 6 мест получат +1.5 балла к итоговой накопленной оценке, вторые 6 мест получат +0.7 баллов.

В случае плохих показателей участников, утечки в данных и других непредвиденных обстоятельств организаторы оставляют за собой право изменить критерии. Соревнование закончится 09.12.17 в 03:00.

Ноутбук с решением нужно прислать до 23:59 10.12.17.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-11-29T14:02:24Z

Filatovartm: /* Практические задания */

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Экзамен ==
В конце курса будет проведен устный экзамен. Правила сдачи экзамена и список вопросов появится позднее. Экзамен назначен на 27 декабря. Ориентировочно студентам совбака нужно будет приходить к 9:00, а студентам эконома к 11:30 в аудиторию 5215.

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Лекция 9''' (3 ноября). Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

'''Лекция 10''' (10 ноября). Композиции алгоритмов. Бэггинг, случайные леса. Разложение ошибки на смещение и разброс.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture08-ensembles.pdf Конспект]

'''Лекция 11''' (17 ноября). Композиции алгоритмов. Градиентный бустинг.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture09-ensembles.pdf Конспект]

'''Лекция 12''' (24 ноября). Нейронные сети.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture11-dl.pdf Конспект]

'''Следующая лекция:'''

Обучение без учителя. Кластеризация и визуализация данных.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture12-unsupervised.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

'''Семинар 7'''. Деревья. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/seminars/sem07-trees.ipynb задачи]

[https://github.com/bdemeshev/mlearn_pro/raw/master/mlearn_pro.pdf Свалка задач ко всем семинарам]

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 15.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

'''Задание 4.''' Decision Tree, NN, Boosting

Дата выдачи: 29.11.2017

Дедлайн: 15.12.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw04-nn.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу!

'''Задание 4'''. SVD и SVM!

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017
Проверочные начнутся на семинарах с 13.10.2017.

На забывайте про [https://github.com/bdemeshev/mlearn_pro/raw/master/mlearn_pro.pdf Свалку задач ко всем семинарам]!

== Соревнование ==
Зарегестрироваться на соревнование можно [https://www.kaggle.com/t/18f956df74c04a639e49b9b9cf431c73 здесь]. Предварительно вам нужно зарегистрироваться на платформе [kaggle.com kaggle]. Правила участия вы найдете там же. Оценка выставляется следующим образом: вы можете претендовать на положительный балл, если преодолели medium baseline, иначе вы получаете 0. После того, как это произошло, ваша финальная оценка будет вычисляться по следующей формуле:

best_gap = разница между medium baseline и лучшим решением на private leaderboard.

my_gap = разница между medium baseline и решением студента на private leaderboard.

оценка = 6 + 4 * my_gap / best_gap

Оценка за соревнование идет, как оценка за одно домашнее задание.

Дополнительно к оценке за соревнование первые 6 мест получат +1.5 балла к итоговой накопленной оценке, вторые 6 мест получат +0.7 баллов.

В случае плохих показателей участников, утечки в данных и других непредвиденных обстоятельств организаторы оставляют за собой право изменить критерии. Соревнование закончится 09.12.17 в 03:00.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-11-29T14:02:00Z

Filatovartm: /* Практические задания */

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Экзамен ==
В конце курса будет проведен устный экзамен. Правила сдачи экзамена и список вопросов появится позднее. Экзамен назначен на 27 декабря. Ориентировочно студентам совбака нужно будет приходить к 9:00, а студентам эконома к 11:30 в аудиторию 5215.

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Лекция 9''' (3 ноября). Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

'''Лекция 10''' (10 ноября). Композиции алгоритмов. Бэггинг, случайные леса. Разложение ошибки на смещение и разброс.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture08-ensembles.pdf Конспект]

'''Лекция 11''' (17 ноября). Композиции алгоритмов. Градиентный бустинг.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture09-ensembles.pdf Конспект]

'''Лекция 12''' (24 ноября). Нейронные сети.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture11-dl.pdf Конспект]

'''Следующая лекция:'''

Обучение без учителя. Кластеризация и визуализация данных.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture12-unsupervised.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

'''Семинар 7'''. Деревья. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/seminars/sem07-trees.ipynb задачи]

[https://github.com/bdemeshev/mlearn_pro/raw/master/mlearn_pro.pdf Свалка задач ко всем семинарам]

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 15.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

""Задание 4."" Decision Tree, NN, Boosting

Дата выдачи: 29.11.2017

Дедлайн: 15.12.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw04-nn.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу!

'''Задание 4'''. SVD и SVM!

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017
Проверочные начнутся на семинарах с 13.10.2017.

На забывайте про [https://github.com/bdemeshev/mlearn_pro/raw/master/mlearn_pro.pdf Свалку задач ко всем семинарам]!

== Соревнование ==
Зарегестрироваться на соревнование можно [https://www.kaggle.com/t/18f956df74c04a639e49b9b9cf431c73 здесь]. Предварительно вам нужно зарегистрироваться на платформе [kaggle.com kaggle]. Правила участия вы найдете там же. Оценка выставляется следующим образом: вы можете претендовать на положительный балл, если преодолели medium baseline, иначе вы получаете 0. После того, как это произошло, ваша финальная оценка будет вычисляться по следующей формуле:

best_gap = разница между medium baseline и лучшим решением на private leaderboard.

my_gap = разница между medium baseline и решением студента на private leaderboard.

оценка = 6 + 4 * my_gap / best_gap

Оценка за соревнование идет, как оценка за одно домашнее задание.

Дополнительно к оценке за соревнование первые 6 мест получат +1.5 балла к итоговой накопленной оценке, вторые 6 мест получат +0.7 баллов.

В случае плохих показателей участников, утечки в данных и других непредвиденных обстоятельств организаторы оставляют за собой право изменить критерии. Соревнование закончится 09.12.17 в 03:00.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-11-13T20:22:41Z

Filatovartm: /* Соревнование */

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Экзамен ==
В конце курса будет проведен устный экзамен. Правила сдачи экзамена и список вопросов появится позднее. Экзамен назначен на 27 декабря. Ориентировочно студентам совбака нужно будет приходить к 9:00, а студентам эконома к 11:30 в аудиторию 5215.

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Лекция 9''' (3 ноября). Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

'''Лекция 10''' (10 ноября). Композиции алгоритмов. Бэггинг, случайные леса. Разложение ошибки на смещение и разброс.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture08-ensembles.pdf Конспект]

'''Следующая лекция:'''

Градиентный бустинг.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture09-ensembles.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества, [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf задачки на семинар и дз]

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

'''Семинар 7'''. Деревья. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/seminars/sem07-trees.ipynb задачи]

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 15.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 4'''. SVD и SVM! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017
Проверочные начнутся на семинарах с 13.10.2017.

== Соревнование ==
Зарегестрироваться на соревнование можно [https://www.kaggle.com/t/18f956df74c04a639e49b9b9cf431c73 здесь]. Предварительно вам нужно зарегистрироваться на платформе [kaggle.com kaggle]. Правила участия вы найдете там же. Оценка выставляется следующим образом: вы можете претендовать на положительный балл, если преодолели medium baseline, иначе вы получаете 0. После того, как это произошло, ваша финальная оценка будет вычисляться по следующей формуле:

best_gap = разница между medium baseline и лучшим решением на private leaderboard.

my_gap = разница между medium baseline и решением студента на private leaderboard.

оценка = 6 + 4 * my_gap / best_gap

Оценка за соревнование идет, как оценка за одно домашнее задание.

Дополнительно к оценке за соревнование первые 6 мест получат +1.5 балла к итоговой накопленной оценке, вторые 6 мест получат +0.7 баллов.

В случае плохих показателей участников, утечки в данных и других непредвиденных обстоятельств организаторы оставляют за собой право изменить критерии. Соревнование закончится 09.12.17 в 03:00.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-11-10T20:28:47Z

Filatovartm: /* Соревнование */

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Экзамен ==
В конце курса будет проведен устный экзамен. Правила сдачи экзамена и список вопросов появится позднее. Экзамен назначен на 27 декабря. Ориентировочно студентам совбака нужно будет приходить к 9:00, а студентам эконома к 11:30 в аудиторию 5215.

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Лекция 9''' (3 ноября). Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

'''Лекция 10''' (10 ноября). Композиции алгоритмов. Бэггинг, случайные леса. Разложение ошибки на смещение и разброс.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture08-ensembles.pdf Конспект]

'''Следующая лекция:'''

Градиентный бустинг.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture09-ensembles.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества, [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf задачки на семинар и дз]

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

'''Семинар 7'''. Деревья. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/seminars/sem07-trees.ipynb задачи]

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 15.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 4'''. SVD и SVM! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017
Проверочные начнутся на семинарах с 13.10.2017.

== Соревнование ==
Зарегестрироваться на соревнование можно [https://www.kaggle.com/t/18f956df74c04a639e49b9b9cf431c73 здесь]. Предварительно вам нужно зарегистрироваться на платформе [kaggle.com kaggle]. Правила участия вы найдете там же. Оценка выставляется следующим образом: вы можете претендовать на положительный балл, если преодолели medium baseline, иначе вы получаете 0. После того, как это произошло, ваша финальная оценка будет вычисляться по следующей формуле:

best_gap = разница между medium baseline и лучшим решением на private leaderboard.

my_gap = разница между medium baseline и решением студента на private leaderboard.

оценка = 6 + 4 * my_gap / best_gap

В случае плохих показателей участников, утечки в данных и других непредвиденных обстоятельств организаторы оставляют за собой право изменить критерии. Соревнование закончится 09.12.17 в 03:00.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-11-10T20:13:41Z

Filatovartm:

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Экзамен ==
В конце курса будет проведен устный экзамен. Правила сдачи экзамена и список вопросов появится позднее. Экзамен назначен на 27 декабря. Ориентировочно студентам совбака нужно будет приходить к 9:00, а студентам эконома к 11:30 в аудиторию 5215.

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Лекция 9''' (3 ноября). Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

'''Лекция 10''' (10 ноября). Композиции алгоритмов. Бэггинг, случайные леса. Разложение ошибки на смещение и разброс.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture08-ensembles.pdf Конспект]

'''Следующая лекция:'''

Градиентный бустинг.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture09-ensembles.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества, [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf задачки на семинар и дз]

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

'''Семинар 7'''. Деревья. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/seminars/sem07-trees.ipynb задачи]

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 15.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 4'''. SVD и SVM! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017
Проверочные начнутся на семинарах с 13.10.2017.

== Соревнование ==
Зарегестрироваться на соревнование можно [https://www.kaggle.com/t/18f956df74c04a639e49b9b9cf431c73 здесь]. Предварительно вам нужно зарегистрироваться на платформе [kaggle.com kaggle]. Правила участия вы найдете там же. Оценка выставляется следующим образом: вы можете претендовать на положительный балл, если преодолели medium baseline, иначе вы получаете 0. После того, как это произошло, ваша финальная оценка будет вычисляться по следующей формуле:

best_gap = разница между medium baseline и лучшим решением на private leaderboard.

my_gap = разница между medium baseline и решением студента на private leaderboard.

оценка = 6 + 4 * my_gap / best_gap

В случае плохих показателей участников, утечки в данных и других непредвиденных обстоятельств организаторы оставляют за собой право изменить критерии. Соревнование закончится 08.12.17.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-11-03T08:25:58Z

Filatovartm: /* Практические задания */

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Следующая лекция:'''

Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества, [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf задачки на семинар и дз]

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

'''Семинар 7'''. Деревья. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/seminars/sem07-trees.ipynb задачи]

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 15.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 4'''. SVD и SVM! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017

Проверочные начнутся на семинарах с 13.10.2017.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-10-29T11:33:03Z

Filatovartm: /* Практические задания */

== О курсе ==

'''Лекторы:''' [https://www.hse.ru/org/persons/131072080 Екатерина Лобачева], Алексей Артемов 
Лекции проходят по пятницам, 10:30 - 11:50, ауд. 5215. 

=== Полезные ссылки ===

[ Программа курса] 
[https://github.com/FilatovArtm/ML_Eco-NES_2017 Репозиторий на GitHub с материалами курса] 
[https://github.com/esokolov/ml-course-hse Репозиторий на GitHub с конспектами лекций Евгения Соколова] 

Почта курса: '''ml.econom.hse@gmail.com''' 
Формат темы письма (обязательно соблюдайте его, так как у нас стоят автоматические фильтры):
* '''Вопрос - номер группы по данному курсу - Фамилия Имя''' — для вопросов;
* '''Практика {номер задания} - номер группы по данному курсу - Фамилия Имя''' — для сдачи практических домашних заданий.

Возможные курсы по данному курсу: 4 простая, 4 сложная, 3 простая, 3 сложная, совбак простая, совбак сложная. 
Пример: Практика 1 - 4 простая - Иванов Иван

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAERI0duQMnhSawsR2A 
Чат в telegram для обсуждений: https://t.me/joinchat/ABAXWEIJR7rcclSWVZfFhg

[https://drive.google.com/open?id=1qWrFvaCEYGQPMf9NNSti0YACmpO4oOI8Z5lWkET0XAU Таблица с оценками]

Оставить анонимный отзыв на курс: [https://docs.google.com/forms/d/e/1FAIpQLSfqAdwstSuIwqeluCjVt-jCGmq4_Tur_4vBqCEXRcTgdiZlwg/viewform форма]

=== Семинары ===

3 курс, сложная группа, заполните форму: https://goo.gl/forms/GUom80x8zoiQ3ZyX2

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Чат !! Расписание
|-
| 4 курс эконома, простая || Артем Филатов || Анастасия Рогачевская || || пятница 12:10, ауд. 5215
|-
| 4 курс эконома, сложная || [https://www.hse.ru/staff/bbd Борис Демешев] || Никита Герман || || пятница 12:10, ауд. 2205
|-
| 3 курс эконома, простая || Елена Кантонистова || Елизавета Вахрамеева || [https://t.me/joinchat/DUaTB0ObBdXqjmUDrfd_BQ тут] || суббота 16:40, ауд. 2205
|-
| 3 курс эконома, сложная || Евгений Егоров || Мария Такташева || [https://t.me/joinchat/B8wjxQ6Ok7mCk15oG-GM-g обязательно] || понедельник 9:00, ауд. 3316
|-
| совбак, простая || [https://www.hse.ru/staff/is Илья Щуров] || Дмитрий Пчелкин || || вторник, 18:10, ауд. 3317
|-
| совбак, сложная || Артем Филатов || Ксения Вальчук || || среда 13:40, ауд. 4428
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и выполнение теоретических домашних заданий
* Практические домашние работы на Python
* Соревнование по анализу данных
* Устный коллоквиум в конце 1-го модуля
* Устный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = 0.7 * Oнакопленная + 0.3 * Оэкз

Оценка за работу в семестре вычисляется по формуле

Oнакопленная = 0.2 * Oсамостоятельные + 0.6 * Одз + 0.2 * Околлоквиум

Накопленная и итоговая оценки округляются арифметически. Никакие промежуточные оценки, в том числе оценки за домашние задания, самостоятельные работы или коллоквиум, не округляются.

Оценка за самостоятельную работу вычисляется как сумма баллов по всем самостоятельным, переведенная в 10 бальную шкалу. Оценка за домашнюю работу — как сумма баллов по всем практическим заданиям и соревнованию, переведенная в 10 бальную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности.

По курсу возможно получение оценки автоматом без сдачи экзамена. Необходимым условием для получения автомата является накопленная оценка, равная 8 или выше.

=== Правила сдачи заданий ===

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён (при этом получить дополнительные баллы за призовые места на конкурсе можно только при участии в общий срок).

== Коллоквиум ==

После первого модуля будет проведен устный коллоквиум.

Даты:
* для эконома --- 25 октября с 9:30 до 15:00, ауд. 5406 и 5407. 3 курс приходит к 9:30, 4 курс - к 10:30.
* для совбака --- 2 ноября с 18:00 до 21:00, ауд. 5215

Общее правило по датам: на неделе после сессии коллоквиум могут сдавать только студенты совбака! Студенты эконома, посещающие занятия с группами совбака, должны прийти на коллоквиум 25 октября! Желающие студенты совбака могут также прийти 25 октября, мы вас даже к этому призываем, так как 2 ноября у нас будет мало времени.

'''Правила'''
* на коллоквиуме каждому будет выдан билет с 1 теоретическим вопрсом из списка ниже и 1 задачей
* список теоретических вопросов вопросов [https://drive.google.com/open?id=1HehYU2-nY5p79p1v_Hcqo1d8av9Pn8ui3mMfNFQItgo здесь]
* задачи будут либо близки к задачам из теоретических домашних заданий, либо простыми задачами на понимание материала (например, на построение ROC-кривой для конкретных данных, на понимание формы разделяющей поверхности для разных методов классификации, на доказательство, что функция является ядром и т.д.)
* на подготовку и ответ будет выделено примерно по 10 минут
* пользоваться при подготовке ничем нельзя

== Лекции ==

'''Лекция 1''' (1 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture01-intro.pdf Конспект]

'''Лекция 2''' (8 сентября). Линейная регрессия: обучение и разные функционалы ошибки. Градиентный спуск. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture02-linregr.pdf Конспект]

'''Лекция 3''' (15 сентября). Регуляризация. Методы оценивания обобщающей способности, кросс-валидация. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture03-linregr.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture03.pdf Слайды]

'''Лекция 4''' (22 сентября). Аппроксимация эмпирического риска. Задача оценивания вероятностей, логистическая регрессия. Идея калибровки вероятностей. Персептрон. Метрики качества в задачах классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture04-linclass.pdf Конспект] [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture04.pdf Слайды]

'''Лекция 5''' (29 сентября). Метод опорных векторов, его двойственная задача (без ядер). Обобщённые линейные модели. Постановки задач multiclass- и multilabel-классификации. [https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture05-linclass.pdf Конспект]

'''Лекция 6''' (6 октября). Пропущенные значения. Обработка текстов. Хеширование.
[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/lectures/lecture_6.pdf Слайды]

'''Лекция 7''' (13 октября). Методы отбора признаков. Метод главных компонент и singular spectrum analysis.
[https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_1.pdf Слайды1], [https://github.com/artonson/hse-data-culture-fall-2017/blob/master/lecture-slides/lecture07_2.pdf Слайды2]

'''Лекция 8''' (20 октября). Ядровые методы. Ядровой переход в SVM.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture13-features.pdf Коспект по ядрам], [http://cs229.stanford.edu/notes/cs229-notes3.pdf Конспект по SVM]

'''Следующая лекция:'''

Решающие деревья, их построение и применение.
[https://github.com/esokolov/ml-course-hse/blob/master/2016-fall/lecture-notes/lecture07-trees.pdf Конспект]

== Семинары ==

'''Семинар 1'''. Python, numpy, pandas, matplotlib и прочие страшные звери. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem01-tools.ipynb Notebook].

'''Семинар 2'''. Градиентный спуск и линейная регрессия [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem2/sem02.ipynb Notebook]

'''Семинар 3'''. Проверка обобщающей способности, переобучение. [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem3/sem3.ipynb Notebook]

'''Семинар 4'''. Линейные классификаторы, персептрон, логистическая регрессия, метрики качества, [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf задачки на семинар и дз]

'''Семинар 5'''. SVD и SVM

'''Семинар 6'''. Ядра и двойственная задача

== Практические задания ==

'''Задание 1.''' Numpy, pandas, matplotlib.

Дата выдачи: 05.09.2017

Дедлайн: 19.09.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/8ee8985202a5a137987085511a33b85e2f886d70/homeworks/hw01-python.ipynb Условие]

'''Задание 2.''' Numpy,linear regression, gradient descent.

Дата выдачи: 21.09.2017

Дедлайн: 08.10.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw02-linregr.ipynb Условие]

'''Задание 3.''' SVM, SVD, PCA.

Дата выдачи: 29.10.2017

Дедлайн: 12.11.2017 23:59MSK

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/homeworks/hw03-pca.ipynb Условие]

== Теоретические задания ==

'''Задание 1.''' Круг первый. Дифференцирование.

Дата выдачи: 08.09.2017

Проверочные начнутся на семинарах с 15.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_1.pdf Условие]

'''Задание 2.''' Лёд тронулся. Квантильная регрессия и переобучение.

Дата выдачи: 15.09.2017

Проверочные начнутся на семинарах с 22.09.2017.

[https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_2.pdf Условие]

'''Задание 3'''. Помоги Бандерлогу! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 4'''. SVD и SVM! [https://github.com/FilatovArtm/ML_Eco-NES_2017/raw/master/theory_problems/theory_pro.pdf Задачки на семинар и дз]

'''Задание 5'''. Тексты и обработка признаков [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/theory_homeworks/hw_theory_5.pdf Условие] [https://github.com/FilatovArtm/ML_Eco-NES_2017/blob/master/seminars/sem5/Seminar5.ipynb Тетрадка с примерами]

Дата выдачи: 06.10.2017

Проверочные начнутся на семинарах с 13.10.2017.

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [https://github.com/esokolov/ml-course-hse Курс по машииному обучению Евгения Соколова на ПМИ ФКН]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]

Машинное обучение (факультет экономических наук)

2017-10-10T19:28:04Z

Filatovartm: /* Лекции */

Машинное обучение (факультет экономических наук)

2017-10-06T14:06:55Z

Filatovartm: /* Теоретические задания */

Машинное обучение (факультет экономических наук)

2017-10-06T14:04:48Z

Filatovartm: /* Семинары */

Машинное обучение (факультет экономических наук)

2017-10-06T14:03:39Z

Filatovartm: /* Теоретические задания */

Машинное обучение (факультет экономических наук)

2017-10-06T14:02:51Z

Filatovartm: /* Теоретические задания */

Машинное обучение (факультет экономических наук)

2017-10-06T14:00:12Z

Filatovartm: /* Лекции */

Машинное обучение (факультет экономических наук)

2017-10-06T13:52:55Z

Filatovartm: /* Лекции */

Машинное обучение (факультет экономических наук)

2017-09-27T16:00:13Z

Filatovartm: /* Практические задания */

Машинное обучение (факультет экономических наук)

2017-09-27T16:00:06Z

Filatovartm: /* Теоретические задания */

Машинное обучение (факультет экономических наук)

2017-09-08T11:54:54Z

Filatovartm: