Wiki - Факультет компьютерных наук - Вклад [ru]

Машинное обучение 1/2023 2024

2022-09-27T14:19:49Z

Aaplakhin:

== О курсе ==

[[Файл:ML_surfaces.png|280px|borderless|left]]

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

Проводится с 2016 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по пятницам, 11:10 - 12:30, в zoom (https://us06web.zoom.us/j/89165579433?pwd=Y1poSzZjZzN0TEFFTjdLQkxqRUxDZz09).

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/646510131 Карточка курса и программа]

[https://github.com/esokolov/ml-course-hse Репозиторий с материалами на GitHub]

[https://www.youtube.com/watch?v=OBG6EUSRC9g&list=PLEqoHzpnmTfDwuwrFHWVHdr1-qJsfqCUX Видеозаписи лекций 18/19 года]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.cs.ml+<номер группы>@gmail.com (например, hse.cs.ml+171@gmail.com)

Канал в telegram для объявлений: https://t.me/+oI2qh44oQj82MDEy

Чат в telegram для обсуждений (предназначение чата до конца не ясно, вопросы может быть правильнее задавать в чатах групп): https://t.me/+3BLmxzv63VM0OGMy

Ссылка на курс в Anytask: https://anytask.org/course/970

[https://docs.google.com/spreadsheets/d/1Z-9POgE6dTwtw5lLWf4PmHLux116zh4LCnpk-o0MKhE/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

'''Вопросы''' по курсу можно задавать в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций/семинаров и по заданиям лучше всего задавать на [https://github.com/esokolov/ml-course-hse/discussions форуме].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель
|-
| 201 (МОП) || [https://t.me/amshabalin Шабалин Александр Михайлович]
|-
| 202 (МОП) || [https://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]
|-
| 203 (МОП) || [https://t.me/Birshert Биршерт Алексей Дмитриевич]
|-
| 204 (ТИ) || [https://t.me/madn_boi Морозов Никита Витальевич]
|-
| 205 (РС) || [https://www.hse.ru/org/persons/218009880 Ульянкин Филипп Валерьевич]
|-
| 206 (РС) || [https://t.me/kostyayatsok Еленик Константин Ильич]
|-
| 207 (АПР) || [https://t.me/cherepasska Миша Баранов]
|-
| 208 (АДИС) || [https://www.hse.ru/staff/atsvigun Аким Цвигун]
|-
| 209 (МИ) || [https://t.me/call_me_Dory Сусла Диана Михайловна]
|-
| 2010 (ПР) || [https://t.me/artiloid Щербинин Артем Андреевич]
|-
| ФЭН || [https://www.hse.ru/org/persons/190889495 Зехов Матвей Сергеевич]
|}

=== Ассистенты ===

{| class="wikitable"
|-
! Группа !! Ассистент
|-
| 201 (МОП) || [https://t.me/artempris Артем Присяжнюк], [https://t.me/ipomeya31 Александр Плахин]
|-
| 202 (МОП) || [https://t.me/pauchara0 Олег Петров], [https://t.me/fdrose Максим Абрахам]
|-
| 203 (МОП) || [https://t.me/Nikita_Ki33elev Никита Киселев], [https://t.me/sagerasimov_1 Сергей Герасимов]
|-
| 204 (ТИ) || [https://t.me/vslvskyy Юлия Василевская]
|-
| 205 (РС) || [https://t.me/defunator Семен Иванов], [https://t.me/territhing Сергей Пилипенко]
|-
| 206 (РС) || [https://t.me/sol_arch Никита Андреев], [https://t.me/abezrukovaa Анастасия Безрукова]
|-
| 207 (АПР) || [https://t.me/leksious Алексей Панков]
|-
| 208 (АДИС) || [https://t.me/annastep2001 Анна Степочкина], [https://t.me/aleph0naught Александр Орлов]
|-
| 209 (МИ) || [https://t.me/arinakosovskaia Арина Косовская]
|-
| 2010 (ПР) || [https://t.me/territhing Сергей Пилипенко]
|-
| ФЭН || [https://t.me/zhan2pac Жанту Жуматаев], [https://t.me/grandananas Антон Макаров]
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Письменная контрольная работа
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Итог = Округление(0.15 * ПР + 0.4 * ДЗ + 0.15 * КР + 0.3 * Э)

ПР — средняя оценка за самостоятельные работы на семинарах

ДЗ — средняя оценка за практические домашние работы на Python

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

Ко всем конспектам на GitHub есть исходники. Исправления и дополнения всячески приветствуются!

Записи с доски можно найти [[https://www.dropbox.com/sh/f6k08r3rf0mgzcg/AACImtlxI1my8xes7MBHQaEEa?dl=0 здесь]]

'''Лекция 1''' (2 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture01-intro.pdf Конспект]] [[https://youtu.be/-tz5KDMKd4E Запись лекции]]

'''Лекция 2''' (9 сентября). Линейная регрессия, функции потерь в регрессии. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture02-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=iNYUmd0-_UU&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=3 Запись лекции]]

'''Лекция 3''' (16 сентября). Обобщающая способность, градиентные методы обучения. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture03-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=Ydcv-fCV9EY&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=5 Запись лекции]]

'''Лекция 4''' (23 сентября). Градиентные методы, регуляризация. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture04-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=poz4wf5lALE&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=7 Запись лекции]]

== Семинары ==

'''Семинар 1'''. pandas. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem01-pandas.ipynb Ноутбук]]

'''Семинар 2'''. sklearn и линейная регрессия. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem02-sklearn-linregr.ipynb Ноутбук]]

'''Семинар 3'''. Матрично-векторное диффернцирование. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem03-vector-diff.pdf Ноутбук]]

'''Семинар 4'''. Работа с данными и признаками. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem04-features.ipynb Ноутбук]]

== Практические задания ==

'''Задание 1.''' Pandas и распределение студентов ПМИ по элективам.

Мягкий дедлайн: 22.09.2022 23:59 MSK.

Жесткий дедлайн: 29.09.2022 23:59 MSK.

[[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb Ноутбук с заданием]]

Также вы можете скачать ноутбук с заданием (если у вас установлен Wget) командой wget <ссылка на ноутбук> (скопируйте [https://raw.githubusercontent.com/esokolov/ml-course-hse/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb ссылку]) или из Google Colab:

[[https://colab.research.google.com/github/esokolov/ml-course-hse/blob/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb Open In Colab]]

'''Задание 2.''' Exploratory Data Analysis и линейная регрессия (садитесь заранее плиз).

Дата выдачи: 25.09.2022

Мягкий дедлайн: 23:59MSK 10.10.2022

Жесткий дедлайн: 23:59MSK 18.10.2022

[[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/homeworks-practice/homework-practice-02-linregr.ipynb Ноутбук с заданием]]

==Теоретические домашние задания==

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

В лидербордах каждого из соревнований присутствуют несколько базовых решений (бейзлайнов), каждое из которых соответствует определённой оценке. Например, для получения оценки не ниже 8 баллов необходимо, чтобы ваше решение на '''приватном''' лидерборде оказалось лучше соответствующего бейзлайна. Далее для студента, преодолевшего бейзлайн на N_1 баллов, но не преодолевшего бейзлайн на N_2 балла, итоговая оценка за соревнование рассчитывается по равномерной сетке среди всех таких студентов в зависимости от места в приватном лидерборде среди них; если быть точными, то по следующей формуле:

N_2 - (N_2 - N_1) * i / M,

где M — количество студентов (из всех студентов, изучающих курс), преодолевших бейзлайн на N_1 баллов, но не преодолевших бейзлайн на N_2 балла;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Единственное исключение из формулы — студенты, преодолевшие самый сильный бейзлайн, получают прибавку 1/M к своей оценке.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«[ПМИ] Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. При оформлении кода предполагайте, что данные лежат рядом с ним в папке data, а в результате выполнения кода ответы должны быть записаны в файл solution-N-Username.csv, где N — номер соревнования, Username — ваша фамилия. У нас должна быть возможность запустить код и получить те же ответы, что и в вашей посылке, — в частности, это означает, что:

1. Если вы отправляете файл *.py, мы будем запускать его при помощи команды python *.py в вышеуказанном предположении о местонахождении данных.

2. Если вы отправляете ноутбук *.ipynb, мы последовательно запустим все ячейки ноутбука и будем ожидать в результате его работы формирование файла с ответами.

3. Если вы отправляете код с использованием другого языка программирования, в том же письме направьте нам инструкцию по его запуску с тем, чтобы получить тот же файл с ответами.

В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Студенты, попавшие в топ-3 согласно приватному лидерборду, смогут получить бонусные баллы, если в течение недели после окончания соревнования сдадут в anytask отчет о получении решения, фигурирующего в приватном лидерборде. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

В некоторых соревнованиях данные взяты из завершившегося соревнования на Kaggle.
Категорически запрещено использовать данные из оригинального соревнования для восстановления целевой переменной на тестовой выборке.

== Бонусы за соревнования ==

За успешное участие в соревнованиях по анализу данных могут быть выставлены бонусные баллы, которые можно прибавить к оценке за любое практическое или теоретическое домашнее задание, а также за самостоятельную работу. Под успешным участием понимается попадание в топ-10% мест; если соревнование особо сложное и крупное, может рассматриваться и попадание в топ-20% мест. Конкретное число баллов определяется преподавателями и зависит от сложности соревнования и занятого места. За одно соревнование можно получить не более 5 баллов. Для получения оценки необходимо предоставить краткий отчёт о решении задачи.

== Контрольная работа ==

== Экзамен ==

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Coursera: Машинное обучение от статистики до нейросетей (специализация)]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://openedu.ru/course/hse/INTRML/ Введение в машинное обучение (онлайн-курс НИУ ВШЭ)]

== Страницы предыдущих лет ==

[[Машинное_обучение_1/2021_2022 | 2021/2022 учебный год]]

[[Машинное_обучение_1/2020_2021 | 2020/2021 учебный год]]

[[Машинное_обучение_1/2019_2020 | 2019/2020 учебный год]]

[[Машинное_обучение_1/2018_2019 | 2018/2019 учебный год]]

[[Машинное_обучение_1/2017_2018 | 2017/2018 учебный год]]

[[Машинное_обучение_1/2016_2017 | 2016/2017 учебный год]]

Машинное обучение 1/2023 2024

2022-09-27T14:05:37Z

Aaplakhin:

== О курсе ==

[[Файл:ML_surfaces.png|280px|borderless|left]]

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

Проводится с 2016 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по пятницам, 11:10 - 12:30, в zoom (https://us06web.zoom.us/j/89165579433?pwd=Y1poSzZjZzN0TEFFTjdLQkxqRUxDZz09).

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/646510131 Карточка курса и программа]

[https://github.com/esokolov/ml-course-hse Репозиторий с материалами на GitHub]

[https://www.youtube.com/watch?v=OBG6EUSRC9g&list=PLEqoHzpnmTfDwuwrFHWVHdr1-qJsfqCUX Видеозаписи лекций 18/19 года]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.cs.ml+<номер группы>@gmail.com (например, hse.cs.ml+171@gmail.com)

Канал в telegram для объявлений: https://t.me/+oI2qh44oQj82MDEy

Чат в telegram для обсуждений (предназначение чата до конца не ясно, вопросы может быть правильнее задавать в чатах групп): https://t.me/+3BLmxzv63VM0OGMy

Ссылка на курс в Anytask: https://anytask.org/course/970

[https://docs.google.com/spreadsheets/d/1Z-9POgE6dTwtw5lLWf4PmHLux116zh4LCnpk-o0MKhE/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

'''Вопросы''' по курсу можно задавать в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций/семинаров и по заданиям лучше всего задавать на [https://github.com/esokolov/ml-course-hse/discussions форуме].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель
|-
| 201 (МОП) || [https://t.me/amshabalin Шабалин Александр Михайлович]
|-
| 202 (МОП) || [https://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]
|-
| 203 (МОП) || [https://t.me/Birshert Биршерт Алексей Дмитриевич]
|-
| 204 (ТИ) || [https://t.me/madn_boi Морозов Никита Витальевич]
|-
| 205 (РС) || [https://www.hse.ru/org/persons/218009880 Ульянкин Филипп Валерьевич]
|-
| 206 (РС) || [https://t.me/kostyayatsok Еленик Константин Ильич]
|-
| 207 (АПР) || [https://t.me/cherepasska Миша Баранов]
|-
| 208 (АДИС) || [https://www.hse.ru/staff/atsvigun Аким Цвигун]
|-
| 209 (МИ) || [https://t.me/call_me_Dory Сусла Диана Михайловна]
|-
| 2010 (ПР) || [https://t.me/artiloid Щербинин Артем Андреевич]
|-
| ФЭН || [https://www.hse.ru/org/persons/190889495 Зехов Матвей Сергеевич]
|}

=== Ассистенты ===

{| class="wikitable"
|-
! Группа !! Ассистент
|-
| 201 (МОП) || [https://t.me/artempris Артем Присяжнюк], [https://t.me/ipomeya31 Александр Плахин]
|-
| 202 (МОП) || [https://t.me/pauchara0 Олег Петров], [https://t.me/fdrose Максим Абрахам]
|-
| 203 (МОП) || [https://t.me/Nikita_Ki33elev Никита Киселев], [https://t.me/sagerasimov_1 Сергей Герасимов]
|-
| 204 (ТИ) || [https://t.me/vslvskyy Юлия Василевская]
|-
| 205 (РС) || [https://t.me/defunator Семен Иванов], [https://t.me/territhing Сергей Пилипенко]
|-
| 206 (РС) || [https://t.me/sol_arch Никита Андреев], [https://t.me/abezrukovaa Анастасия Безрукова]
|-
| 207 (АПР) || [https://t.me/leksious Алексей Панков]
|-
| 208 (АДИС) || [https://t.me/annastep2001 Анна Степочкина], [https://t.me/aleph0naught Александр Орлов]
|-
| 209 (МИ) || [https://t.me/arinakosovskaia Арина Косовская]
|-
| 2010 (ПР) || [https://t.me/territhing Сергей Пилипенко]
|-
| ФЭН || [https://t.me/zhan2pac Жанту Жуматаев], [https://t.me/grandananas Антон Макаров]
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Письменная контрольная работа
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Итог = Округление(0.15 * ПР + 0.4 * ДЗ + 0.15 * КР + 0.3 * Э)

ПР — средняя оценка за самостоятельные работы на семинарах

ДЗ — средняя оценка за практические домашние работы на Python

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

Ко всем конспектам на GitHub есть исходники. Исправления и дополнения всячески приветствуются!

Записи с доски можно найти [[https://www.dropbox.com/sh/f6k08r3rf0mgzcg/AACImtlxI1my8xes7MBHQaEEa?dl=0 здесь]]

'''Лекция 1''' (2 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture01-intro.pdf Конспект]] [[https://youtu.be/-tz5KDMKd4E Запись лекции]]

'''Лекция 2''' (9 сентября). Линейная регрессия, функции потерь в регрессии. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture02-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=iNYUmd0-_UU&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=3 Запись лекции]]

'''Лекция 3''' (16 сентября). Обобщающая способность, градиентные методы обучения. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture03-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=Ydcv-fCV9EY&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=5 Запись лекции]]

'''Лекция 4''' (23 сентября). Градиентные методы, регуляризация. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture04-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=poz4wf5lALE&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=7 Запись лекции]]

== Семинары ==

'''Семинар 1'''. pandas. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem01-pandas.ipynb Ноутбук]]

'''Семинар 2'''. sklearn и линейная регрессия. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem02-sklearn-linregr.ipynb Ноутбук]]

'''Семинар 3'''. Матрично-векторное диффернцирование. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem03-vector-diff.pdf Ноутбук]]

'''Семинар 4'''. Работа с данными и признаками. [[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/seminars/sem04-features.ipynb Ноутбук]]

== Практические задания ==

'''Задание 1.''' Pandas и распределение студентов ПМИ по элективам.

Мягкий дедлайн: 22.09.2022 23:59 MSK.

Жесткий дедлайн: 29.09.2022 23:59 MSK.

[[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb Ноутбук с заданием]]

Также вы можете скачать ноутбук с заданием (если у вас установлен Wget) командой wget <ссылка на ноутбук> (скопируйте [https://raw.githubusercontent.com/esokolov/ml-course-hse/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb ссылку]) или из Google Colab:

[[https://colab.research.google.com/github/esokolov/ml-course-hse/blob/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb Open In Colab]]

==Теоретические домашние задания==

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

В лидербордах каждого из соревнований присутствуют несколько базовых решений (бейзлайнов), каждое из которых соответствует определённой оценке. Например, для получения оценки не ниже 8 баллов необходимо, чтобы ваше решение на '''приватном''' лидерборде оказалось лучше соответствующего бейзлайна. Далее для студента, преодолевшего бейзлайн на N_1 баллов, но не преодолевшего бейзлайн на N_2 балла, итоговая оценка за соревнование рассчитывается по равномерной сетке среди всех таких студентов в зависимости от места в приватном лидерборде среди них; если быть точными, то по следующей формуле:

N_2 - (N_2 - N_1) * i / M,

где M — количество студентов (из всех студентов, изучающих курс), преодолевших бейзлайн на N_1 баллов, но не преодолевших бейзлайн на N_2 балла;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Единственное исключение из формулы — студенты, преодолевшие самый сильный бейзлайн, получают прибавку 1/M к своей оценке.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«[ПМИ] Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. При оформлении кода предполагайте, что данные лежат рядом с ним в папке data, а в результате выполнения кода ответы должны быть записаны в файл solution-N-Username.csv, где N — номер соревнования, Username — ваша фамилия. У нас должна быть возможность запустить код и получить те же ответы, что и в вашей посылке, — в частности, это означает, что:

1. Если вы отправляете файл *.py, мы будем запускать его при помощи команды python *.py в вышеуказанном предположении о местонахождении данных.

2. Если вы отправляете ноутбук *.ipynb, мы последовательно запустим все ячейки ноутбука и будем ожидать в результате его работы формирование файла с ответами.

3. Если вы отправляете код с использованием другого языка программирования, в том же письме направьте нам инструкцию по его запуску с тем, чтобы получить тот же файл с ответами.

В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Студенты, попавшие в топ-3 согласно приватному лидерборду, смогут получить бонусные баллы, если в течение недели после окончания соревнования сдадут в anytask отчет о получении решения, фигурирующего в приватном лидерборде. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

В некоторых соревнованиях данные взяты из завершившегося соревнования на Kaggle.
Категорически запрещено использовать данные из оригинального соревнования для восстановления целевой переменной на тестовой выборке.

== Бонусы за соревнования ==

За успешное участие в соревнованиях по анализу данных могут быть выставлены бонусные баллы, которые можно прибавить к оценке за любое практическое или теоретическое домашнее задание, а также за самостоятельную работу. Под успешным участием понимается попадание в топ-10% мест; если соревнование особо сложное и крупное, может рассматриваться и попадание в топ-20% мест. Конкретное число баллов определяется преподавателями и зависит от сложности соревнования и занятого места. За одно соревнование можно получить не более 5 баллов. Для получения оценки необходимо предоставить краткий отчёт о решении задачи.

== Контрольная работа ==

== Экзамен ==

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Coursera: Машинное обучение от статистики до нейросетей (специализация)]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://openedu.ru/course/hse/INTRML/ Введение в машинное обучение (онлайн-курс НИУ ВШЭ)]

== Страницы предыдущих лет ==

[[Машинное_обучение_1/2021_2022 | 2021/2022 учебный год]]

[[Машинное_обучение_1/2020_2021 | 2020/2021 учебный год]]

[[Машинное_обучение_1/2019_2020 | 2019/2020 учебный год]]

[[Машинное_обучение_1/2018_2019 | 2018/2019 учебный год]]

[[Машинное_обучение_1/2017_2018 | 2017/2018 учебный год]]

[[Машинное_обучение_1/2016_2017 | 2016/2017 учебный год]]

Машинное обучение 1/2023 2024

2022-09-27T13:59:48Z

Aaplakhin: Добавлена информация о лекция 2-4.

== О курсе ==

[[Файл:ML_surfaces.png|280px|borderless|left]]

Курс читается для студентов 3-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

Проводится с 2016 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят по пятницам, 11:10 - 12:30, в zoom (https://us06web.zoom.us/j/89165579433?pwd=Y1poSzZjZzN0TEFFTjdLQkxqRUxDZz09).

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/646510131 Карточка курса и программа]

[https://github.com/esokolov/ml-course-hse Репозиторий с материалами на GitHub]

[https://www.youtube.com/watch?v=OBG6EUSRC9g&list=PLEqoHzpnmTfDwuwrFHWVHdr1-qJsfqCUX Видеозаписи лекций 18/19 года]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.cs.ml+<номер группы>@gmail.com (например, hse.cs.ml+171@gmail.com)

Канал в telegram для объявлений: https://t.me/+oI2qh44oQj82MDEy

Чат в telegram для обсуждений (предназначение чата до конца не ясно, вопросы может быть правильнее задавать в чатах групп): https://t.me/+3BLmxzv63VM0OGMy

Ссылка на курс в Anytask: https://anytask.org/course/970

[https://docs.google.com/spreadsheets/d/1Z-9POgE6dTwtw5lLWf4PmHLux116zh4LCnpk-o0MKhE/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [https://goo.gl/forms/5CddG0gc75VZvqi52 форма]

'''Вопросы''' по курсу можно задавать в телеграм лектору (esokolov@) или семинаристу.
Вопросы по материалам лекций/семинаров и по заданиям лучше всего задавать на [https://github.com/esokolov/ml-course-hse/discussions форуме].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель
|-
| 201 (МОП) || [https://t.me/amshabalin Шабалин Александр Михайлович]
|-
| 202 (МОП) || [https://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]
|-
| 203 (МОП) || [https://t.me/Birshert Биршерт Алексей Дмитриевич]
|-
| 204 (ТИ) || [https://t.me/madn_boi Морозов Никита Витальевич]
|-
| 205 (РС) || [https://www.hse.ru/org/persons/218009880 Ульянкин Филипп Валерьевич]
|-
| 206 (РС) || [https://t.me/kostyayatsok Еленик Константин Ильич]
|-
| 207 (АПР) || [https://t.me/cherepasska Миша Баранов]
|-
| 208 (АДИС) || [https://www.hse.ru/staff/atsvigun Аким Цвигун]
|-
| 209 (МИ) || [https://t.me/call_me_Dory Сусла Диана Михайловна]
|-
| 2010 (ПР) || [https://t.me/artiloid Щербинин Артем Андреевич]
|-
| ФЭН || [https://www.hse.ru/org/persons/190889495 Зехов Матвей Сергеевич]
|}

=== Ассистенты ===

{| class="wikitable"
|-
! Группа !! Ассистент
|-
| 201 (МОП) || [https://t.me/artempris Артем Присяжнюк], [https://t.me/ipomeya31 Александр Плахин]
|-
| 202 (МОП) || [https://t.me/pauchara0 Олег Петров], [https://t.me/fdrose Максим Абрахам]
|-
| 203 (МОП) || [https://t.me/Nikita_Ki33elev Никита Киселев], [https://t.me/sagerasimov_1 Сергей Герасимов]
|-
| 204 (ТИ) || [https://t.me/vslvskyy Юлия Василевская]
|-
| 205 (РС) || [https://t.me/defunator Семен Иванов], [https://t.me/territhing Сергей Пилипенко]
|-
| 206 (РС) || [https://t.me/sol_arch Никита Андреев], [https://t.me/abezrukovaa Анастасия Безрукова]
|-
| 207 (АПР) || [https://t.me/leksious Алексей Панков]
|-
| 208 (АДИС) || [https://t.me/annastep2001 Анна Степочкина], [https://t.me/aleph0naught Александр Орлов]
|-
| 209 (МИ) || [https://t.me/arinakosovskaia Арина Косовская]
|-
| 2010 (ПР) || [https://t.me/territhing Сергей Пилипенко]
|-
| ФЭН || [https://t.me/zhan2pac Жанту Жуматаев], [https://t.me/grandananas Антон Макаров]
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Письменная контрольная работа
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Итог = Округление(0.15 * ПР + 0.4 * ДЗ + 0.15 * КР + 0.3 * Э)

ПР — средняя оценка за самостоятельные работы на семинарах

ДЗ — средняя оценка за практические домашние работы на Python

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

Ко всем конспектам на GitHub есть исходники. Исправления и дополнения всячески приветствуются!

Записи с доски можно найти [[https://www.dropbox.com/sh/f6k08r3rf0mgzcg/AACImtlxI1my8xes7MBHQaEEa?dl=0 здесь]]

'''Лекция 1''' (2 сентября). Введение в машинное обучение. Основные термины, постановки задач и примеры применения. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture01-intro.pdf Конспект]] [[https://youtu.be/-tz5KDMKd4E Запись лекции]]

'''Лекция 2''' (9 сентября). Линейная регрессия, функции потерь в регрессии. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture02-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=iNYUmd0-_UU&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=3 Запись лекции]]

'''Лекция 3''' (16 сентября). Обобщающая способность, градиентные методы обучения. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture03-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=Ydcv-fCV9EY&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=5 Запись лекции]]

'''Лекция 4''' (23 сентября). Градиентные методы, регуляризация. [[https://github.com/esokolov/ml-course-hse/blob/master/2021-fall/lecture-notes/lecture04-linregr.pdf Конспект]] [[https://www.youtube.com/watch?v=poz4wf5lALE&list=PLEwK9wdS5g0ohn4v-t8yaCOEAC0KT3EPf&index=7 Запись лекции]]

== Семинары ==

== Практические задания ==

'''Задание 1.''' Pandas и распределение студентов ПМИ по элективам.

Мягкий дедлайн: 22.09.2022 23:59 MSK.

Жесткий дедлайн: 29.09.2022 23:59 MSK.

[[https://github.com/esokolov/ml-course-hse/blob/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb Ноутбук с заданием]]

Также вы можете скачать ноутбук с заданием (если у вас установлен Wget) командой wget <ссылка на ноутбук> (скопируйте [https://raw.githubusercontent.com/esokolov/ml-course-hse/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb ссылку]) или из Google Colab:

[[https://colab.research.google.com/github/esokolov/ml-course-hse/blob/master/2022-fall/homeworks-practice/homework-practice-01-pandas.ipynb Open In Colab]]

==Теоретические домашние задания==

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

В лидербордах каждого из соревнований присутствуют несколько базовых решений (бейзлайнов), каждое из которых соответствует определённой оценке. Например, для получения оценки не ниже 8 баллов необходимо, чтобы ваше решение на '''приватном''' лидерборде оказалось лучше соответствующего бейзлайна. Далее для студента, преодолевшего бейзлайн на N_1 баллов, но не преодолевшего бейзлайн на N_2 балла, итоговая оценка за соревнование рассчитывается по равномерной сетке среди всех таких студентов в зависимости от места в приватном лидерборде среди них; если быть точными, то по следующей формуле:

N_2 - (N_2 - N_1) * i / M,

где M — количество студентов (из всех студентов, изучающих курс), преодолевших бейзлайн на N_1 баллов, но не преодолевших бейзлайн на N_2 балла;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Единственное исключение из формулы — студенты, преодолевшие самый сильный бейзлайн, получают прибавку 1/M к своей оценке.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«[ПМИ] Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. При оформлении кода предполагайте, что данные лежат рядом с ним в папке data, а в результате выполнения кода ответы должны быть записаны в файл solution-N-Username.csv, где N — номер соревнования, Username — ваша фамилия. У нас должна быть возможность запустить код и получить те же ответы, что и в вашей посылке, — в частности, это означает, что:

1. Если вы отправляете файл *.py, мы будем запускать его при помощи команды python *.py в вышеуказанном предположении о местонахождении данных.

2. Если вы отправляете ноутбук *.ipynb, мы последовательно запустим все ячейки ноутбука и будем ожидать в результате его работы формирование файла с ответами.

3. Если вы отправляете код с использованием другого языка программирования, в том же письме направьте нам инструкцию по его запуску с тем, чтобы получить тот же файл с ответами.

В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Студенты, попавшие в топ-3 согласно приватному лидерборду, смогут получить бонусные баллы, если в течение недели после окончания соревнования сдадут в anytask отчет о получении решения, фигурирующего в приватном лидерборде. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

В некоторых соревнованиях данные взяты из завершившегося соревнования на Kaggle.
Категорически запрещено использовать данные из оригинального соревнования для восстановления целевой переменной на тестовой выборке.

== Бонусы за соревнования ==

За успешное участие в соревнованиях по анализу данных могут быть выставлены бонусные баллы, которые можно прибавить к оценке за любое практическое или теоретическое домашнее задание, а также за самостоятельную работу. Под успешным участием понимается попадание в топ-10% мест; если соревнование особо сложное и крупное, может рассматриваться и попадание в топ-20% мест. Конкретное число баллов определяется преподавателями и зависит от сложности соревнования и занятого места. За одно соревнование можно получить не более 5 баллов. Для получения оценки необходимо предоставить краткий отчёт о решении задачи.

== Контрольная работа ==

== Экзамен ==

== Полезные материалы ==
===Книги===
* Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009.
* Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006.
* Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
* Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Willi Richert, Luis Pedro Coelho. Building Machine Learning Systems with Python. Packt Publishing, 2013.

===Курсы по машинному обучению и анализу данных===
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Coursera: Машинное обучение от статистики до нейросетей (специализация)]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://openedu.ru/course/hse/INTRML/ Введение в машинное обучение (онлайн-курс НИУ ВШЭ)]

== Страницы предыдущих лет ==

[[Машинное_обучение_1/2021_2022 | 2021/2022 учебный год]]

[[Машинное_обучение_1/2020_2021 | 2020/2021 учебный год]]

[[Машинное_обучение_1/2019_2020 | 2019/2020 учебный год]]

[[Машинное_обучение_1/2018_2019 | 2018/2019 учебный год]]

[[Машинное_обучение_1/2017_2018 | 2017/2018 учебный год]]

[[Машинное_обучение_1/2016_2017 | 2016/2017 учебный год]]

Основы машинного обучения/2023

2022-04-27T16:00:39Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Васильев Роман || [https://t.me/nikola_dobr Добротворский Николай] || [Zoom coming soon] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' (02.03.2022) Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

'''Лекция 7''' (09.03.2022) Градиентный спуск и функции потерь в регрессии. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture07-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=qCGXMAChhK0&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=74 Запись лекции]]

'''Лекция 8''' (16.03.2022) Линейная классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture08-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=VF4newaSUYQ&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=85 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

'''Семинар 7''' (09.03.2022) Градиентный спуск [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem07_grad.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

'''Практическое задание 5 - Градиентный спуск''' Мягкий дедлайн - 12.04.2022, Жесткий дедлайн - 19.04.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw05_gd.ipynb Ноутбук]]

'''Практическое задание 6 - Классификация текстов''' Мягкий дедлайн - 11.05.2022, 23:59, Жесткий дедлайн - 18.05.2022, 23:59 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw06-text/hw06.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-04-27T15:59:58Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Васильев Роман || [https://t.me/nikola_dobr Добротворский Николай] || [Zoom coming soon] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' (02.03.2022) Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

'''Лекция 7''' (09.03.2022) Градиентный спуск и функции потерь в регрессии. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture07-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=qCGXMAChhK0&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=74 Запись лекции]]

'''Лекция 8''' (16.03.2022) Линейная классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture08-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=VF4newaSUYQ&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=85 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

'''Семинар 7''' (09.03.2022) Градиентный спуск [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem07_grad.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

'''Практическое задание 5 - Градиентный спуск''' Мягкий дедлайн - 12.04.2022, Жесткий дедлайн - 19.04.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw05_gd.ipynb Ноутбук]]

'''Практическое задание 6 - Классификация текстов''' Мягкий дедлайн - 11.05.2022, 23:59
, Жесткий дедлайн - 18.05.2022, 23:59 [Ноутбук][[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw06-text/hw06.ipynb]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-03-22T12:11:29Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' (02.03.2022) Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

'''Лекция 7''' (09.03.2022) Градиентный спуск и функции потерь в регрессии. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture07-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=qCGXMAChhK0&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=74 Запись лекции]]

'''Лекция 8''' (16.03.2022) Линейная классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture08-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=VF4newaSUYQ&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=85 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

'''Семинар 7''' (09.03.2022) Градиентный спуск [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem07_grad.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

'''Практическое задание 5 - Градиентный спуск''' Мягкий дедлайн - 12.04.2022, Жесткий дедлайн - 19.04.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw05_gd.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-03-22T12:11:13Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' (02.03.2022) Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

'''Лекция 7''' (09.03.2022) Градиентный спуск и функции потерь в регрессии. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture07-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=qCGXMAChhK0&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=74 Запись лекции]]

''Лекция 8''' (16.03.2022) Линейная классификация. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture08-linclass.pdf Слайды]] [[https://www.youtube.com/watch?v=VF4newaSUYQ&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=85 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

'''Семинар 7''' (09.03.2022) Градиентный спуск [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem07_grad.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

'''Практическое задание 5 - Градиентный спуск''' Мягкий дедлайн - 12.04.2022, Жесткий дедлайн - 19.04.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw05_gd.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-03-22T12:00:45Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' (02.03.2022) Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

'''Семинар 7''' (09.03.2022) Градиентный спуск [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem07_grad.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

'''Практическое задание 5 - Градиентный спуск''' Мягкий дедлайн - 12.04.2022, Жесткий дедлайн - 19.04.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw05_gd.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-03-15T11:23:17Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' (02.03.2022) Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

'''Семинар 7''' (09.03.2022) Градиентный спуск [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem07_grad.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-03-08T21:27:51Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' (02.03.2022) Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-03-08T21:27:28Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

'''Лекция 3''' (02.02.2022). Измерение ошибки в задачах классификации. Обобщающая способность. Проверка обобщающей способности: отложенная выборка и кросс-валидация. Метод k ближайших соседей с весами. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture03-knn.pdf Слайды]] [[https://youtu.be/UZB2t43B1dI Запись лекции]]

'''Лекция 4''' (09.02.2022). Модель линейной регрессии. Подготовка данных для линейной регрессии. MSE для линейной регрессии в матричной форме. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture04-linregr.pdf Слайды]] [[https://youtu.be/c6rEP55zC2c Запись лекции]]

'''Лекция 5''' (16.02.2022). Немного про градиентный спуск. Аналитическая формула для оптимального вектора весов, её недостатки. Переобучение и регуляризация линейных моделей. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture05-linregr.pdf Слайды]] [[https://youtu.be/1woPeqJRHwU Запись лекции]]

'''Лекция 6''' Линейная регрессия и градиентный спуск. Масштабирование признаков. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture06-linregr.pdf Слайды]] [[https://www.youtube.com/watch?v=EXG0lrN5s1M&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=62 Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]] [[https://youtu.be/HIEe64po7us Запись одного из семинаров]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]] [[https://youtu.be/qbKZStxCJAs Запись одного из семинаров]]

'''Семинар 5''' (16.02.2022) ООП. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem05_OOP.ipynb Ноутбук]] [[https://youtu.be/JReiu0t1qjo Запись одного из семинаров]]

'''Семинар 6''' (02.03.2022) Линейная регрессия. [[https://github.com/hse-ds/iad-intro-ds/tree/master/2022/seminars/sem06_linreg Ноутбук]] []

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн - 29.01.2022, Жесткий дедлайн 03.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн - 10.02.2022, Жесткий дедлайн - 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

'''Практическое задание 3 - EDA''' Мягкий дедлайн - 01.03.2022, Жесткий дедлайн - 08.03.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw03-EDA/hw03-EDA.ipynb Ноутбук]]

'''Практическое задание 4 - kNN, linreg''' Мягкий дедлайн - 17.03.2022, Жесткий дедлайн - 25.03.2022 [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw04-sklearn-knn-linreg.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-02-09T13:24:09Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/masstermax Гудзикевич Максим], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

'''Семинар 3''' (02.02.2022). KNN. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem3_sklearn_knn/sem03-sklearn-knn.ipynb Ноутбук]]

'''Семинар 4''' (09.02.2022). Визуализация данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem04_visualization.ipynb Ноутбук]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн 29.01.2022 Жесткий дедлайн 3.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

'''Практическое задание 2 - pandas''' Мягкий дедлайн 10.02.2022 Жесткий дедлайн 15.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw02_pandas.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-01-30T11:04:32Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/Julia_Korot Короткова Юлия], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн 29.01.2022 Жесткий дедлайн 3.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-01-30T11:03:21Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10 в [https://zoom.us/j/93166833697?pwd=UkZybHlNNlBWOWZ2eWovcWtNK3Nrdz09 zoom].

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || A1U6NYZ
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || RbElTlq
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || TdtY747
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || t22o3Qw
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || Dy5fbVc
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || ybPLhJX
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/Julia_Korot Короткова Юлия], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || zdbENSv
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || Hp2cbwv
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| JeVWlWS
|-
| БИ-1 || Ханин Павел || [https://t.me/nikola_dobr Добротворский Николай] || [https://zoom.us/j/94407230215?pwd=MGd5QkJlUlQzVlRlUGhheFdSR0xIZz09 Zoom] || [https://t.me/+remAgPd2T6cxYTJi Чат] || -|| FKmNFoj
|-
| БИ-2 || Мокрий Юрий || [https://t.me/ari_yusa Юсупова Арина] || [https://zoom.us/j/95746475791?pwd=TTlGaHlEV2ZwV3UyMWxFVmw2SnFBdz09 Zoom] || [https://t.me/+YQOnIRBobV05YjBi Чат] || -|| F7rNwgw
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

У групп БИ-1 и БИ-2 (не майнор) оценка за курс также проставляется в третьем модуле:

Оитоговая за третий модуль = Округление(0.8 * ДЗ + 0.2 * ПР)

Обратите внимание, что работы из третьего модуля также влияют на оценку в четвертом

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (19.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

'''Лекция 2''' (26.01.2022). Виды задач и виды признаков. Метод k ближайших соседей для классификации. Вычисление расстояний для числовых данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture02-knn.pdf Слайды]] [[https://youtu.be/ZKJPmzsMLzY Запись лекции]]

== Семинары ==

'''Семинар 1''' (19.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

'''Семинар 2''' (26.01.2022). Pandas. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem02_pandas.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=YqA_qCZ3RIw&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=18 Запись одного из семинаров]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн 29.01.2022 Жесткий дедлайн 3.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-01-24T13:23:15Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 2-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 3-4 модулях.

Проводится с 2015 года.

'''Лектор:''' [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Лекции проходят онлайн по средам в 11:10.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/450828864 Карточка курса и программа]

[https://github.com/hse-ds/iad-intro-ds Репозиторий с материалами на GitHub]

[https://www.youtube.com/playlist?list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ Записи занятий]

Почта для сдачи домашних заданий (на самом деле задания сдаются в AnyTask, но если он не работает, то присылайте на почту): hse.minor.dm+<номер группы>@gmail.com (например, hse.minor.dm+3@gmail.com)

Канал в telegram для объявлений: https://t.me/hse_iad_22

Чат в telegram для флуда: https://t.me/+pbt8rRfldsUzZGUy

Ссылка на курс в Anytask: https://anytask.org/course/899

Таблица с оценками: https://docs.google.com/spreadsheets/d/130puDf_28fPRNKJqtyQAkIyoKnjbVHFtpAcX5zm4CsA/edit?usp=sharing

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Материалы семинаров !! Инвайт в anytask
|-
| ИАД-1 || Алвандян Нарек || [https://t.me/ipomeya31 Плахин Александр], [https://t.me/parestoranam Макаров Антон] || [https://zoom.us/j/93410637894?pwd=NG1yMllOZWtTRzNuYTY5T0QwTHVtZz09 Zoom] || [https://t.me/+OghU7AZvqqhlODZi Чат] || - || -
|-
| ИАД-2 || Косарев Илья || [https://t.me/caesiummm Никифоров Михаил], [https://t.me/anatoly_paschenko Пащенко Анатолий] || [https://zoom.us/j/96875144987?pwd=c1Vqd2t2OWVaY2VlNllCVU82WW5mQT09 Zoom] || [https://t.me/+sqgSOPgr5HZmZTQy Чат] || - || -
|-
| ИАД-3 || Кантонистова Елена || [https://t.me/Savely_Prokhorov Прохоров Савелий], [https://t.me/arorlov Червяков Артем] || [https://zoom.us/j/92527076732?pwd=dWxHMXczUlkyMXdmaG1NYlA5QjUrUT09 Zoom] || [https://t.me/+LSgeYDy2Fio1NmM6 Чат] || - || -
|-
| ИАД-4 || [https://t.me/vsomelyusik Владимир Омелюсик] || [https://t.me/yaderevenskiy Альмухаметов Денис], [https://t.me/zhan2pac Жуматаев Жанту] || [https://zoom.us/j/94478987033?pwd=QlIwUkRyVFh0UVEzS1VBT2RGT2lQZz09 Zoom] || [https://t.me/+9hLzy1jv1tczNWMy Чат] || [https://github.com/V-Marco/hse_iad4_2022 Материалы] || -
|-
| ИАД-5 ||Карпова Ася || [https://t.me/egorkapiorka Масликов Егор], [https://t.me/krsafonov Кирилл Сафонов] || [https://zoom.us/j/94217882025?pwd=TzNJb296OEw1dHhLRDZjeWxIbHVKZz09 Zoom] || [https://t.me/+u4MqYwV6XINmYjcy Чат] || - || -
|-
| ИАД-6 || Серякова Василиса || [https://t.me/ongalek Смоленчук Иван], [https://t.me/masstermax Гудзикевич Максим] || [https://zoom.us/j/98698466454?pwd=ZG9yR0liVnk4K0JOdWRQb2RDL2lIZz09 Zoom] || [https://t.me/+YvHUyon7GqBlZjZi Чат] || || -
|-
| ИАД-7 || Чиркова Надежда || [https://t.me/Julia_Korot Короткова Юлия], [https://t.me/ekostrykina Кострыкина Екатерина] || [https://zoom.us/j/94594342525?pwd=bXR5YzdEQWg1cm85citKdWR0Y2M0Zz09 Zoom] || [https://t.me/+f_60KCmo80hhN2Ni Чат] || [https://github.com/nadiinchi/iad2022/ Материалы] || -
|-
| ИАД-8 || Семенов Дмитрий || [https://t.me/mr_dyadyunov Дядюнов Андрей], [https://t.me/VeteranIvan Пичугин Иван]|| [https://zoom.us/j/99921792854?pwd=b1JpazNtVEVwaWZYK1RDYWQ1NFNhdz09 Zoom] || [https://t.me/+H0EwJppMUMBhMjcy Чат] || - || -
|-
| ИАД-9 || Альперович Вадим || [https://t.me/alex_uve Пономаренко Александр], [https://t.me/onehspal Лапшина Ксения ] || [https://zoom.us/j/99240916833?pwd=bDZISE4vbTIzOFprVjFzY1dBaFM3QT09 Zoom] || [https://t.me/+TSPjYC7CpYA4NGQy Чат] || -|| -
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с лекций и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

Oитоговая = Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за письменные проверочные работы на семинарах

КР — оценка за контрольную работу

Э — оценка за экзамен

Округление арифметическое.

=== Правила сдачи заданий ===

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

Два раза студент может сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Также разрешается в конце курса написать одну проверочную, пропущенную без уважительной причины.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины пропущенную проверочную можно написать позднее, а дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

== Лекции ==

'''Лекция 1''' (10.01.2022). Введение в машинное обучение и анализ данных. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/lectures/lecture01-intro.pdf Слайды]] [[https://www.youtube.com/watch?v=CWqurj-JjkQ Запись лекции]]

== Семинары ==

'''Семинар 1''' (10.01.2022). Немного про Jupyter notebook и numpy. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/seminars/sem01_numpy.ipynb Ноутбук]] [[https://www.youtube.com/watch?v=QrgRR6zeLQk&list=PLEwK9wdS5g0rco8Fan1hA-bV2DXOyRkXQ&index=9 Запись одного из семинаров]]

== Практические задания ==

За каждый день просрочки после мягкого дедлайна снимается 1 балл. После жёсткого дедлайна работы не принимаются, но есть исключение. Студенту разрешается два раза сдать домашнее задание после мягкого дедлайна (но до жёсткого) без штрафов. Все дедлайны в 23:59 по московскому времени.

В некоторых группах домашние задания могут отличаться. Уточняйте у семинариста.

'''Практическое задание 1 - numpy''' Мягкий дедлайн 29.01.2022 Жесткий дедлайн 3.02.2022. [[https://github.com/hse-ds/iad-intro-ds/blob/master/2022/homeworks/hw01-numpy.ipynb Ноутбук]]

== Соревнования ==

===Правила участия и оценивания===
В соревновании по анализу данных вам предлагается по имеющимся данным решить некоторую задачу, оптимизируя указанную метрику, и отправить ответы для заданного тестового множества. Максимальное количество посылок в сутки ограничено (как правило, разрешается сделать 2 посылки), ближе к концу соревнования вам будем необходимо выбрать 2 посылки, которые вы считаете лучшими. Тестовые данные делятся на публичные и приватные в некотором соотношении, на основе которых строятся публичный и приватный лидерборды соответственно, при этом публичный лидерборд доступен в течение всего соревнования, а приватный строится после его окончания для выбранных вами посылок.

Студент, занявший в соревновании место i, получает оценку

10 - 10 * (i - 1) / M,

где M — количество студентов, принявших участие в соревновании;

i — место (начиная с 1) студента в приватном лидерборде среди всех таких студентов.

Чтобы вас не пропустили при проверке решений соревнования, '''необходимо''' использовать следующий формат для имени команды (вкладка Team):

«Имя Фамилия номер_группы»

В течение 3 суток после окончания соревнования в соответствующее задание на anytask необходимо прислать код, воспроизводящий ответы для посылки, фигурирующей в приватном лидерборде. В случае отсутствия кода, воспроизводящего результат, в установленный срок студенту выставляется 0 в качестве оценки за соревнование. Если не оговорено иное, использовать любые внешние данные в соревнованиях '''запрещено'''. Под внешними данными понимаются размеченные данные, где разметка имеет прямое отношение к решаемой задаче. Грубо говоря, сборник текстов с википедии не считается внешними данными.

== Контрольная работа ==

== Экзамен ==

==Полезные материалы==
===Курсы по машинному обучению и анализу данных===
Максимально близко к материалам курса: [https://www.coursera.org/specializations/machine-learning-from-statistics-to-neural-networks Специализация "Машинное обучение: от статистики до нейросетей"] (речь про два курса: "Основы машинного обучения" и "Продвинутые методы машинного обучения")

Для тех, кто хочет подтянуть математику: [https://www.coursera.org/specializations/maths-for-data-analysis Специализация "Математика для анализа данных"]

Более сложная версия этого курса с ПМИ: [[Машинное обучение 1]]

Ещё материалы:
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
* [https://yandexdataschool.ru/edu-process/courses/machine-learning Видеозаписи лекций курса Школы Анализа Данных, К.В. Воронцов]
* [https://www.coursera.org/specializations/machine-learning-data-analysis Coursera: Машинное обучение и анализ данных (специализация)]
* [https://www.coursera.org/learn/introduction-machine-learning Coursera: Введение в машинное обучение, К.В. Воронцов]
* [https://www.coursera.org/learn/machine-learning Coursera: Machine Learning, Andrew Ng]

===Статьи===
* [http://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer An Introduction to Machine Learning Theory and Its Applications: A Visual Tutorial with Examples]
* [http://www.r2d3.us/visual-intro-to-machine-learning-part-1/ A Visual Introduction to Machine Learning]

===Книги===
* Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.
* Boris Mirkin. Core Concepts in Data Analysis: Summarization, Correlation, Visualization. 2010.
* James, Witten, Hastie, Tibshirani. An Introduction to Statistical Learning. 2013.

== Страницы прошлых лет ==

[[Введение_в_анализ_данных_(майнор_ИАД) | 2020/21 учебный год]]

[[Введение_в_анализ_данных_(майнор_ИАД)_2019/2020 | 2019/20 учебный год]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных | 2018/19 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2017-2018 | 2017/18 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2016-2017 | 2016/17 учебный год ]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_анализ_данных/2015-2016 | 2015/16 учебный год ]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы машинного обучения/2023

2022-01-20T15:05:51Z

Aaplakhin:

Основы машинного обучения/2023

2022-01-20T15:05:30Z

Aaplakhin:

Основы машинного обучения/2023

2022-01-20T10:03:48Z

Aaplakhin:

Основы машинного обучения/2023

2022-01-20T10:03:19Z

Aaplakhin:

Основы машинного обучения/2023

2022-01-20T09:55:16Z

Aaplakhin: Добавил ссылки

Основы машинного обучения/2023

2022-01-20T09:51:13Z

Aaplakhin:

Основы машинного обучения/2023

2022-01-20T09:50:39Z

Aaplakhin:

Основы машинного обучения/2023

2022-01-20T09:49:38Z

Aaplakhin: Добавил ассистентов ИАД-8)

Основы машинного обучения/2023

2022-01-20T09:46:31Z

Aaplakhin: Поменял местами ИАД-5 и ИАД-9)

Основы машинного обучения/2023

2022-01-20T09:42:59Z

Aaplakhin: Добавил ссылку на семинар 1.

Psmo 21 22

2021-11-01T10:35:45Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

[8 октября] '''Лекция 6:''' EM + bootstrap

*[https://www.youtube.com/watch?v=JEW6HtEXhnE&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=12 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_06.pdf Конспект]

[15 октября] '''Лекция 7:''' Boot + regression

*[https://www.youtube.com/watch?v=gm9jKYlIL2k&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=13 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_07.pdf Конспект]

[29 октября] '''Лекция 8:''' CI regression

*[https://youtu.be/hazFTc5zuDM Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_08.pdf Конспект]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

'''Семинар 5:''' EM-алгоритм
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_5/psmo_2021_sem_05.pdf Конспект]], [[https://youtu.be/r-q9Hd642Ug Видео (теория)]], [[https://youtu.be/-xsuZ4ejB98 Видео (код)]]

'''Семинар 6:''' EM-алгоритм. Бутстрэп
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_Sem5.pdf Конспект (с прошлого года)]], [[https://youtu.be/eUY0_Ct1Vnk Видео (с прошлого года)]], [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_sem5.ipynb Кодспект (с прошлого года)]]

'''Семинар 7:''' Линейная регрессия. МНК. ТГМ
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_7/psmo_2021_sem_07.pdf Конспект]], [[https://youtu.be/ep7WRJdj4RA Видео]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 12 ноября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК || отменён
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии || отменён
|-
| 9 || 5 ноября || Корректировка гетероскедастичности || отменён
|-
| 11 || 19 ноября || Логистическая регрессия || отменён
|}

Все квизы, начиная с четвёртого включительно, отменяются. Оценка за квизы формируется следующим образом:

Квиз = 0.5 * (Средняя за Квизы 1, 2 и 3) + 0.5 * Весёлая активность.

Информация о проведении Весёлой активности выложена в канале в Телеграме.

===Контрольная работа===

Контрольная работа является письменной формой контроля и состоится 19 октября в 13:00. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля:
* Метод максимального правдоподобия
* Тесты LR, LM, W
* Энтропия и KL-дивергенция
* EM-алгоритм
* Бутстрэп

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]
* [[https://github.com/V-Marco/psmo_20_21/blob/master/misc/PSMO_Cons_25_10.pdf Разбор (конспект)]]
* [[https://www.youtube.com/watch?v=j1vvy9fCeDo Разбор (видео)]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]
* [[https://drive.google.com/file/d/187wsU3vDVI0MH89EKd_5Qm4ztT0RoIvj/view Разбор (конспект от руки)]]
* [[https://drive.google.com/file/d/1jHfClh1k7Mo-MvkThajzJmfkg9UU-79M/view Разбор (конспект в техе)]]
* [[https://youtu.be/uxUjBlIMTJ4 Разбор (видео)]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-11-01T10:34:50Z

Aaplakhin:

Psmo 21 22

2021-10-29T09:07:47Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

[8 октября] '''Лекция 6:''' EM + bootstrap

*[https://www.youtube.com/watch?v=JEW6HtEXhnE&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=12 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_06.pdf Конспект]

[15 октября] '''Лекция 7:''' Boot + regression

*[https://www.youtube.com/watch?v=gm9jKYlIL2k&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=13 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_07.pdf Конспект]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

'''Семинар 5:''' EM-алгоритм
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_5/psmo_2021_sem_05.pdf Конспект]], [[https://youtu.be/r-q9Hd642Ug Видео (теория)]], [[https://youtu.be/-xsuZ4ejB98 Видео (код)]]

'''Семинар 6:''' EM-алгоритм. Бутстрэп
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_Sem5.pdf Конспект (с прошлого года)]], [[https://youtu.be/eUY0_Ct1Vnk Видео (с прошлого года)]], [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_sem5.ipynb Кодспект (с прошлого года)]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 12 ноября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля и состоится 19 октября в 13:00. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля:
* Метод максимального правдоподобия
* Тесты LR, LM, W
* Энтропия и KL-дивергенция
* EM-алгоритм
* Бутстрэп

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]
* [[https://github.com/V-Marco/psmo_20_21/blob/master/misc/PSMO_Cons_25_10.pdf Разбор (конспект)]]
* [[https://www.youtube.com/watch?v=j1vvy9fCeDo Разбор (видео)]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]
* [[https://drive.google.com/file/d/187wsU3vDVI0MH89EKd_5Qm4ztT0RoIvj/view Разбор (конспект от руки)]]
* [[https://drive.google.com/file/d/1jHfClh1k7Mo-MvkThajzJmfkg9UU-79M/view Разбор (конспект в техе)]]
* [[https://youtu.be/uxUjBlIMTJ4 Разбор (видео)]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-29T09:03:59Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

[8 октября] '''Лекция 6:''' EM + bootstrap

*[https://www.youtube.com/watch?v=JEW6HtEXhnE&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=12 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_06.pdf Конспект]

[15 октября] '''Лекция 7:''' Boot + regression

*[https://www.youtube.com/watch?v=gm9jKYlIL2k&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=13 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

'''Семинар 5:''' EM-алгоритм
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_5/psmo_2021_sem_05.pdf Конспект]], [[https://youtu.be/r-q9Hd642Ug Видео (теория)]], [[https://youtu.be/-xsuZ4ejB98 Видео (код)]]

'''Семинар 6:''' EM-алгоритм. Бутстрэп
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_Sem5.pdf Конспект (с прошлого года)]], [[https://youtu.be/eUY0_Ct1Vnk Видео (с прошлого года)]], [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_sem5.ipynb Кодспект (с прошлого года)]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 12 ноября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля и состоится 19 октября в 13:00. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля:
* Метод максимального правдоподобия
* Тесты LR, LM, W
* Энтропия и KL-дивергенция
* EM-алгоритм
* Бутстрэп

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]
* [[https://github.com/V-Marco/psmo_20_21/blob/master/misc/PSMO_Cons_25_10.pdf Разбор (конспект)]]
* [[https://www.youtube.com/watch?v=j1vvy9fCeDo Разбор (видео)]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]
* [[https://drive.google.com/file/d/187wsU3vDVI0MH89EKd_5Qm4ztT0RoIvj/view Разбор (конспект от руки)]]
* [[https://drive.google.com/file/d/1jHfClh1k7Mo-MvkThajzJmfkg9UU-79M/view Разбор (конспект в техе)]]
* [[https://youtu.be/uxUjBlIMTJ4 Разбор (видео)]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-29T09:03:22Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

[8 октября] '''Лекция 6:''' EM + bootstrap

*[https://www.youtube.com/watch?v=JEW6HtEXhnE&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=12 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_06.pdf Конспект]

[15 октября] '''Лекция 7:''' EM + bootstrap

*[https://www.youtube.com/watch?v=gm9jKYlIL2k&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=13 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

'''Семинар 5:''' EM-алгоритм
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_5/psmo_2021_sem_05.pdf Конспект]], [[https://youtu.be/r-q9Hd642Ug Видео (теория)]], [[https://youtu.be/-xsuZ4ejB98 Видео (код)]]

'''Семинар 6:''' EM-алгоритм. Бутстрэп
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_Sem5.pdf Конспект (с прошлого года)]], [[https://youtu.be/eUY0_Ct1Vnk Видео (с прошлого года)]], [[https://github.com/V-Marco/psmo_20_21/blob/master/seminars/sem5/PSMO_sem5.ipynb Кодспект (с прошлого года)]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 12 ноября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля и состоится 19 октября в 13:00. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля:
* Метод максимального правдоподобия
* Тесты LR, LM, W
* Энтропия и KL-дивергенция
* EM-алгоритм
* Бутстрэп

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]
* [[https://github.com/V-Marco/psmo_20_21/blob/master/misc/PSMO_Cons_25_10.pdf Разбор (конспект)]]
* [[https://www.youtube.com/watch?v=j1vvy9fCeDo Разбор (видео)]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]
* [[https://drive.google.com/file/d/187wsU3vDVI0MH89EKd_5Qm4ztT0RoIvj/view Разбор (конспект от руки)]]
* [[https://drive.google.com/file/d/1jHfClh1k7Mo-MvkThajzJmfkg9UU-79M/view Разбор (конспект в техе)]]
* [[https://youtu.be/uxUjBlIMTJ4 Разбор (видео)]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-14T17:28:30Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

[8 октября] '''Лекция 6:''' EM + bootstrap

*[https://www.youtube.com/watch?v=JEW6HtEXhnE&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=12 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_06.pdf Конспект]
=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

'''Семинар 5:''' EM-алгоритм
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_5/psmo_2021_sem_05.pdf Конспект]], [[https://youtu.be/r-q9Hd642Ug Видео (теория)]], [[https://youtu.be/-xsuZ4ejB98 Видео (код)]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-14T17:27:32Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

[8 октября] '''EM + bootstrap'''

*[https://www.youtube.com/watch?v=JEW6HtEXhnE&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=12 Видео на ютубе]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_06.pdf Конспект]
=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

'''Семинар 5:''' EM-алгоритм
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_5/psmo_2021_sem_05.pdf Конспект]], [[https://youtu.be/r-q9Hd642Ug Видео (теория)]], [[https://youtu.be/-xsuZ4ejB98 Видео (код)]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-14T17:23:52Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

[8 октября] '''EM + bootstrap'''

*[https://www.youtube.com/watch?v=JEW6HtEXhnE&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=12 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

'''Семинар 5:''' EM-алгоритм
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_5/psmo_2021_sem_05.pdf Конспект]], [[https://youtu.be/r-q9Hd642Ug Видео (теория)]], [[https://youtu.be/-xsuZ4ejB98 Видео (код)]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Основы глубинного обучения

2021-10-10T09:56:24Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 1-2 модулях.

Проводится с 2015 года.

Лектор — [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Занятия проходят онлайн по четвергам на второй паре (11:10 - 12:30).

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/346231287 Карточка курса и программа]

Репозиторий с материалами: https://github.com/hse-ds/iad-deep-learning

Домашние задание сдаются в Anytask:

Канал в telegram для объявлений: https://t.me/hs_iad_2021

Чат в telegram (осторожно, риск флуда и отсутствия ответов на содержательные вопросы): https://t.me/joinchat/Vuq4Lgi98RG22fQP

Таблица с оценками

'''Вопросы''' по курсу можно задавать в телеграм лектору (@esokolov), семинаристу, в чатах групп или в issues на [https://github.com/hse-ds/iad-deep-learning гитхабе].

=== Семинары ===
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Инвайт в anytask
|-
| ИАД-1 || Антон Семенкин || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/95783649988?pwd=ZDh0UEJvVkxYczR5VTFGbldPdEFKdz09 Zoom] || [https://t.me/joinchat/h66lQZ8hD5s4MGFi Чат] ||
|-
| ИАД-2 || [https://t.me/AlexeyKKovalev Алексей Ковалёв] || [https://t.me/alenaVert Алёна Вертеева], [https://t.me/egorkapiorka Егор Масликов]|| [https://zoom.us/j/98291023185?pwd=S043dEdoMHkrSG8wSWRISDF1ZUlvUT09 Zoom] || [https://t.me/joinchat/EJCLcBpN0J0yM2My Чат] ||
|-
| ИАД-3 || [https://t.me/kirili4ik Кирилл Гельван] || [https://t.me/tamogashev_kv Кирилл Тамогашев], [https://t.me/bwdare Дарья Матяш] || [https://zoom.us/j/93479034844?pwd=Tnp2cU85NDVWbmRhMTRNN29kd0ZmQT09 Zoom] || [https://t.me/joinchat/kQ-hh3YdUbc4YmMy Чат] ||
|-
|-
| ИАД-4 || [https://t.me/mikhail_h91 Михаил Гущин] || [https://t.me/aksenysh Аня Аксенова], [https://t.me/tak_ty Катя Такташева]|| [https://zoom.us/j/97982378625?pwd=VWNBa3lXTUloRW91ckZhZU9CWW4rdz09 Zoom] || [https://t.me/joinchat/eUGR_00mJbUwYjli Чат] ||
|-
| ИАД-5 || [https://t.me/Saigetsu Руслан Хайдуров] || [https://t.me/treaptofun Антон Барышников], [https://t.me/mogrigoryan Михаил Григорян]|| [https://zoom.us/j/99847089082?pwd=cmI3Umo3UG1mRlg4VytrcEIwV2hKUT09 Zoom] || [https://t.me/joinchat/CGomCy4Gn3M3NzQ6 Чат] ||
|-
| ИАД-6 || Елена Кантонистова || [https://t.me/ferekeke Елизавета Копышева] [https://t.me/kplkrpv Поликарпов Кирилл] || [https://zoom.us/j/98326366848?pwd=bFVkRnNRaVFMMUppUnAyd3BMKzBzZz09 Zoom] || [https://t.me/joinchat/9eLqNJpZEOFlZTcy Чат] ||
|-
| ИАД-7 || [https://t.me/OnixinO Тамерлан Таболов] || [https://t.me/debasering Николай Аверьянов] [https://t.me/greyworgen Сергей Тихонов] || [https://zoom.us/j/93343230384?pwd=QldZa1hhOGxudGdRRTIzS3A1YTdhdz09 Zoom] || [https://t.me/joinchat/jWnLEX7aXjgxNzFi Чат] ||
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Практические домашние работы на Python
* Проверочные работы на лекциях
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется по формуле:

Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за проверочные работы

КР — оценка за контрольную работу

Э — оценка за экзамен

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==

'''Лекция 1''' (09.09.2020). Введение в глубинное обучение. Полносвязные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture01-intro.pdf Слайды]] [[https://youtu.be/62sP9QKYrgI Запись лекции]]

'''Лекция 2''' (16.09.2020). Метод обратного распространения ошибки. Свёртки и свёрточные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture02-convnets.pdf Слайды]] [[https://youtu.be/aSTwlPjJfso Запись лекции]]

'''Лекция 3''' (23.09.2020). Свёртки. Поле восприятия. Параметры свёрток. Пулинг. Padding. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture03-convnets.pdf Слайды]] [[https://youtu.be/4nKWQno1vG8 Запись лекции]]

'''Лекция 4''' (30.09.2020). Извлечение признаков из свёрточных сетей. Стохастический градиентный спуск и mini-batch. Выбор размера батча. Momentum, AdaGram, Adam. Dropout. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture04-convnets-optimization.pdf Слайды]] [[https://www.youtube.com/watch?v=i8W_ZgiajOs Запись лекции]]

== Семинары ==

'''Семинар 1''' (16.09.2020). Введение в глубинное обучение. Полносвязные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/seminars/sem01/sem01.ipynb Тетрадка]]

'''Семинар 2''' (23.09.2020). Метод обратного распространения ошибки. Свёртки и свёрточные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/seminars/sem02/sem02_task.ipynb Тетрадка]]

'''Семинар 3''' (30.09.2020). Типичная архитектура свёрточной сети [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/seminars/sem03/sem03_task.ipynb Тетрадка]]

== Практические задания ==

Домашние задания выкладываются в [https://github.com/hse-ds/iad-deep-learning репозиторий курса]. За каждый день просрочки мягкого дедлайна снимается два балла. После жёсткого дедлайна задания не принимаются.

''' Домашнее задание 1.''' Введение в PyTorch. Полносвязные нейронные сети.

Дата выдачи: 06.10.2021

Мягкий дедлайн: 23:59MSK 25.10.2021

Жесткий дедлайн: 23:59MSK 28.10.2021

[[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/homeworks/hw01/homework-01.ipynb Ноутбук с заданием]]

== Контрольная работа ==

== Экзамен ==

[[https://docs.google.com/document/d/1yf3wH-2LArk6Ck4KYiAarTXbNS90IFwX7nUOt_Ec_wE/edit?usp=sharing Вопросы для подготовки]]

== Страницы предыдущих лет ==

[[Современные_методы_машинного_обучения | 20/21 учебный год]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы глубинного обучения

2021-10-10T09:55:40Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 1-2 модулях.

Проводится с 2015 года.

Лектор — [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Занятия проходят онлайн по четвергам на второй паре (11:10 - 12:30).

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/346231287 Карточка курса и программа]

Репозиторий с материалами: https://github.com/hse-ds/iad-deep-learning

Домашние задание сдаются в Anytask:

Канал в telegram для объявлений: https://t.me/hs_iad_2021

Чат в telegram (осторожно, риск флуда и отсутствия ответов на содержательные вопросы): https://t.me/joinchat/Vuq4Lgi98RG22fQP

Таблица с оценками

'''Вопросы''' по курсу можно задавать в телеграм лектору (@esokolov), семинаристу, в чатах групп или в issues на [https://github.com/hse-ds/iad-deep-learning гитхабе].

=== Семинары ===
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Инвайт в anytask
|-
| ИАД-1 || Антон Семенкин || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/95783649988?pwd=ZDh0UEJvVkxYczR5VTFGbldPdEFKdz09 Zoom] || [https://t.me/joinchat/h66lQZ8hD5s4MGFi Чат] ||
|-
| ИАД-2 || [https://t.me/AlexeyKKovalev Алексей Ковалёв] || [https://t.me/alenaVert Алёна Вертеева], [https://t.me/egorkapiorka Егор Масликов]|| [https://zoom.us/j/98291023185?pwd=S043dEdoMHkrSG8wSWRISDF1ZUlvUT09 Zoom] || [https://t.me/joinchat/EJCLcBpN0J0yM2My Чат] ||
|-
| ИАД-3 || [https://t.me/kirili4ik Кирилл Гельван] || [https://t.me/tamogashev_kv Кирилл Тамогашев], [https://t.me/bwdare Дарья Матяш] || [https://zoom.us/j/93479034844?pwd=Tnp2cU85NDVWbmRhMTRNN29kd0ZmQT09 Zoom] || [https://t.me/joinchat/kQ-hh3YdUbc4YmMy Чат] ||
|-
|-
| ИАД-4 || [https://t.me/mikhail_h91 Михаил Гущин] || [https://t.me/aksenysh Аня Аксенова], [https://t.me/tak_ty Катя Такташева]|| [https://zoom.us/j/97982378625?pwd=VWNBa3lXTUloRW91ckZhZU9CWW4rdz09 Zoom] || [https://t.me/joinchat/eUGR_00mJbUwYjli Чат] ||
|-
| ИАД-5 || [https://t.me/Saigetsu Руслан Хайдуров] || [https://t.me/treaptofun Антон Барышников], [https://t.me/mogrigoryan Михаил Григорян]|| [https://zoom.us/j/99847089082?pwd=cmI3Umo3UG1mRlg4VytrcEIwV2hKUT09 Zoom] || [https://t.me/joinchat/CGomCy4Gn3M3NzQ6 Чат] ||
|-
| ИАД-6 || Елена Кантонистова || [https://t.me/ferekeke Елизавета Копышева] [https://t.me/kplkrpv Поликарпов Кирилл] || [https://zoom.us/j/98326366848?pwd=bFVkRnNRaVFMMUppUnAyd3BMKzBzZz09 Zoom] || [https://t.me/joinchat/9eLqNJpZEOFlZTcy Чат] ||
|-
| ИАД-7 || [https://t.me/OnixinO Тамерлан Таболов] || [https://t.me/debasering Николай Аверьянов] [https://t.me/greyworgen Сергей Тихонов] || [https://zoom.us/j/93343230384?pwd=QldZa1hhOGxudGdRRTIzS3A1YTdhdz09 Zoom] || [https://t.me/joinchat/jWnLEX7aXjgxNzFi Чат] ||
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Практические домашние работы на Python
* Проверочные работы на лекциях
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется по формуле:

Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за проверочные работы

КР — оценка за контрольную работу

Э — оценка за экзамен

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==

'''Лекция 1''' (09.09.2020). Введение в глубинное обучение. Полносвязные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture01-intro.pdf Слайды]] [[https://youtu.be/62sP9QKYrgI Запись лекции]]

'''Лекция 2''' (16.09.2020). Метод обратного распространения ошибки. Свёртки и свёрточные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture02-convnets.pdf Слайды]] [[https://youtu.be/aSTwlPjJfso Запись лекции]]

'''Лекция 3''' (23.09.2020). Свёртки. Поле восприятия. Параметры свёрток. Пулинг. Padding. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture03-convnets.pdf Слайды]] [[https://youtu.be/4nKWQno1vG8 Запись лекции]]

'''Лекция 4''' (30.09.2020). Извлечение признаков из свёрточных сетей. Стохастический градиентный спуск и mini-batch. Выбор размера батча. Momentum, AdaGram, Adam. Dropout. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture04-convnets-optimization.pdf Слайды]] [[https://www.youtube.com/watch?v=i8W_ZgiajOs Запись лекции]]

== Семинары ==

'''Семинар 1''' (16.09.2020). Введение в глубинное обучение. Полносвязные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/seminars/sem01/sem01.ipynb Тетрадка]]

'''Семинар 2''' (23.09.2020). Метод обратного распространения ошибки. Свёртки и свёрточные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/seminars/sem02/sem02_task.ipynb Тетрадка]]

'''Семинар 3''' (30.09.2020). Типичная архитектура свёрточной сети [[https://github.com/hse-ds/iad-deep-learning/tree/master/2021/seminars/sem03 Тетрадка]]

== Практические задания ==

Домашние задания выкладываются в [https://github.com/hse-ds/iad-deep-learning репозиторий курса]. За каждый день просрочки мягкого дедлайна снимается два балла. После жёсткого дедлайна задания не принимаются.

''' Домашнее задание 1.''' Введение в PyTorch. Полносвязные нейронные сети.

Дата выдачи: 06.10.2021

Мягкий дедлайн: 23:59MSK 25.10.2021

Жесткий дедлайн: 23:59MSK 28.10.2021

[[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/homeworks/hw01/homework-01.ipynb Ноутбук с заданием]]

== Контрольная работа ==

== Экзамен ==

[[https://docs.google.com/document/d/1yf3wH-2LArk6Ck4KYiAarTXbNS90IFwX7nUOt_Ec_wE/edit?usp=sharing Вопросы для подготовки]]

== Страницы предыдущих лет ==

[[Современные_методы_машинного_обучения | 20/21 учебный год]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Основы глубинного обучения

2021-10-10T09:53:32Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 1-2 модулях.

Проводится с 2015 года.

Лектор — [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Занятия проходят онлайн по четвергам на второй паре (11:10 - 12:30).

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/346231287 Карточка курса и программа]

Репозиторий с материалами: https://github.com/hse-ds/iad-deep-learning

Домашние задание сдаются в Anytask:

Канал в telegram для объявлений: https://t.me/hs_iad_2021

Чат в telegram (осторожно, риск флуда и отсутствия ответов на содержательные вопросы): https://t.me/joinchat/Vuq4Lgi98RG22fQP

Таблица с оценками

'''Вопросы''' по курсу можно задавать в телеграм лектору (@esokolov), семинаристу, в чатах групп или в issues на [https://github.com/hse-ds/iad-deep-learning гитхабе].

=== Семинары ===
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Инвайт в anytask
|-
| ИАД-1 || Антон Семенкин || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/95783649988?pwd=ZDh0UEJvVkxYczR5VTFGbldPdEFKdz09 Zoom] || [https://t.me/joinchat/h66lQZ8hD5s4MGFi Чат] ||
|-
| ИАД-2 || [https://t.me/AlexeyKKovalev Алексей Ковалёв] || [https://t.me/alenaVert Алёна Вертеева], [https://t.me/egorkapiorka Егор Масликов]|| [https://zoom.us/j/98291023185?pwd=S043dEdoMHkrSG8wSWRISDF1ZUlvUT09 Zoom] || [https://t.me/joinchat/EJCLcBpN0J0yM2My Чат] ||
|-
| ИАД-3 || [https://t.me/kirili4ik Кирилл Гельван] || [https://t.me/tamogashev_kv Кирилл Тамогашев], [https://t.me/bwdare Дарья Матяш] || [https://zoom.us/j/93479034844?pwd=Tnp2cU85NDVWbmRhMTRNN29kd0ZmQT09 Zoom] || [https://t.me/joinchat/kQ-hh3YdUbc4YmMy Чат] ||
|-
|-
| ИАД-4 || [https://t.me/mikhail_h91 Михаил Гущин] || [https://t.me/aksenysh Аня Аксенова], [https://t.me/tak_ty Катя Такташева]|| [https://zoom.us/j/97982378625?pwd=VWNBa3lXTUloRW91ckZhZU9CWW4rdz09 Zoom] || [https://t.me/joinchat/eUGR_00mJbUwYjli Чат] ||
|-
| ИАД-5 || [https://t.me/Saigetsu Руслан Хайдуров] || [https://t.me/treaptofun Антон Барышников], [https://t.me/mogrigoryan Михаил Григорян]|| [https://zoom.us/j/99847089082?pwd=cmI3Umo3UG1mRlg4VytrcEIwV2hKUT09 Zoom] || [https://t.me/joinchat/CGomCy4Gn3M3NzQ6 Чат] ||
|-
| ИАД-6 || Елена Кантонистова || [https://t.me/ferekeke Елизавета Копышева] [https://t.me/kplkrpv Поликарпов Кирилл] || [https://zoom.us/j/98326366848?pwd=bFVkRnNRaVFMMUppUnAyd3BMKzBzZz09 Zoom] || [https://t.me/joinchat/9eLqNJpZEOFlZTcy Чат] ||
|-
| ИАД-7 || [https://t.me/OnixinO Тамерлан Таболов] || [https://t.me/debasering Николай Аверьянов] [https://t.me/greyworgen Сергей Тихонов] || [https://zoom.us/j/93343230384?pwd=QldZa1hhOGxudGdRRTIzS3A1YTdhdz09 Zoom] || [https://t.me/joinchat/jWnLEX7aXjgxNzFi Чат] ||
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Практические домашние работы на Python
* Проверочные работы на лекциях
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется по формуле:

Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за проверочные работы

КР — оценка за контрольную работу

Э — оценка за экзамен

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==

'''Лекция 1''' (09.09.2020). Введение в глубинное обучение. Полносвязные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture01-intro.pdf Слайды]] [[https://youtu.be/62sP9QKYrgI Запись лекции]]

'''Лекция 2''' (16.09.2020). Метод обратного распространения ошибки. Свёртки и свёрточные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture02-convnets.pdf Слайды]] [[https://youtu.be/aSTwlPjJfso Запись лекции]]

'''Лекция 3''' (23.09.2020). Свёртки. Поле восприятия. Параметры свёрток. Пулинг. Padding. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture03-convnets.pdf Слайды]] [[https://youtu.be/4nKWQno1vG8 Запись лекции]]

'''Лекция 4''' (30.09.2020). Извлечение признаков из свёрточных сетей. Стохастический градиентный спуск и mini-batch. Выбор размера батча. Momentum, AdaGram, Adam. Dropout. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/lectures/lecture04-convnets-optimization.pdf Слайды]] [[https://www.youtube.com/watch?v=i8W_ZgiajOs Запись лекции]]

== Семинары ==

'''Семинар 1''' (16.09.2020). Введение в глубинное обучение. Полносвязные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/sem01/sem01.ipynb Тетрадка]]

'''Семинар 2''' (23.09.2020). Метод обратного распространения ошибки. Свёртки и свёрточные слои. [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/sem02/sem02_task.ipynb Тетрадка]]

'''Семинар 3''' (30.09.2020). Типичная архитектура свёрточной сети [[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/sem03/sem03_task.ipynb Тетрадка]]

== Практические задания ==

Домашние задания выкладываются в [https://github.com/hse-ds/iad-deep-learning репозиторий курса]. За каждый день просрочки мягкого дедлайна снимается два балла. После жёсткого дедлайна задания не принимаются.

''' Домашнее задание 1.''' Введение в PyTorch. Полносвязные нейронные сети.

Дата выдачи: 06.10.2021

Мягкий дедлайн: 23:59MSK 25.10.2021

Жесткий дедлайн: 23:59MSK 28.10.2021

[[https://github.com/hse-ds/iad-deep-learning/blob/master/2021/homeworks/hw01/homework-01.ipynb Ноутбук с заданием]]

== Контрольная работа ==

== Экзамен ==

[[https://docs.google.com/document/d/1yf3wH-2LArk6Ck4KYiAarTXbNS90IFwX7nUOt_Ec_wE/edit?usp=sharing Вопросы для подготовки]]

== Страницы предыдущих лет ==

[[Современные_методы_машинного_обучения | 20/21 учебный год]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Psmo 21 22

2021-10-04T19:41:51Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:''' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-04T19:41:33Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] '''Лекция 5:'' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-04T19:40:34Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

[1 октября] ''' Лекция 5:'' EM

*[https://www.youtube.com/watch?v=JBFT2JeQ2gA Видео на ютубе]
*[https://v-marco.github.io/psmo_book/content/em/lecture.html Записи по EM]
*[http://www.columbia.edu/~mh2078/MachineLearningORFE/EM_Algorithm.pdf Дополнительные материалы по EM]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-04T19:34:38Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/likelihood/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-10-04T19:33:59Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]
*[https://rpsychologist.com/viz/ Визуализация maxlik]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

'''Семинар 4:''' Тесты LR, LM, W
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_4/psmo_2021_sem_04.pdf Конспект]], [[https://youtu.be/_JMmKVzTUsw Видео]]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-09-25T19:34:20Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-09-25T19:33:49Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]
*[https://github.com/bdemeshev/maxlik_regularity/blob/main/maxlik_regularity.pdf Условия регулярности правдоподобия]

[24 сентября] '''Лекция 4:''' LR, LM, W
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_04.pdf Конспект]
*[https://www.youtube.com/watch?v=8yjXVZE93HY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=8 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-09-25T19:22:44Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-09-25T19:22:18Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood
*
[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-09-25T19:21:30Z

Aaplakhin:

== О курсе ==

Курс читается для студентов 3-го курса в 1-2 модулях.

'''Лектор:''' [https://t.me/boris_demeshev Демешев Борис Борисович]

Лекции проходят по пятницам (09:30 - 10:50) онлайн.

'''Семинаристы:''' [https://t.me/vsomelyusik Владимир Омелюсик] и [https://t.me/xenakas Ксения Касьянова]

'''Учебные ассистенты:''' [https://t.me/anastasiia_altunina Анастасия Алтунина] и [https://t.me/ipomeya31 Александр Плахин]

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Семинарист !! Учебный ассистент || Время занятий || Аудитория/ссылка
|-
| БПМИ191 МОП || Владимир Омелюсик || Анастасия Алтунина || Пт, 13:00–14:20 || D509
|-
| БПМИ192 МОП || Владимир Омелюсик|| Анастасия Алтунина || Вт, 13:00–14:20 || R206
|-
| БПМИ193 МОП || Владимир Омелюсик || Александр Плахин || Вт, 14:40 - 16:00 || R304
|-
| по выбору || Ксения Касьянова || Александр Плахин || Вт, 18:10–19:30 || D502
|}

=== Полезные ссылки ===

* [https://t.me/joinchat/R7RiNkJYEIZmYzZi Чат в Телеграме]

* [https://t.me/joinchat/IjUEwjbNw3JhOGYy Канал в Телеграме (для важных объявлений)]

* [https://github.com/V-Marco/psmo_21_22 GitHub с материалами]

* [https://v-marco.github.io/psmo_book/intro.html Сборник с теорией]

* [https://docs.google.com/spreadsheets/d/1djnSw8GKD-wNKfKP7biZz7K753zNliYL6JtYtcQJBUo/edit?usp=sharing Таблица с баллами]

* [https://www.youtube.com/playlist?list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&jct=VhF9VwEfUf7EufSGIJVXptZRJ9LR0g Плейлист с лекциями на ютубе]

== Боевой листок ==

=== Лекции ===

[3 сентября] '''Лекция 1:''' Энтропия и дивергенция Кульбака-Лейблера. AIC.
*[https://eduhseru.sharepoint.com/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%201.%20%D0%AD%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%B8%D1%8F,%20KL,%20AIC-20210903_092944-Meeting%20Recording.mp4?web=1 Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_01.pdf Конспект]
* [https://colah.github.io/posts/2015-09-Visual-Information/ Дополнительные материалы]
* [https://youtu.be/bkr2KQsWBo0 Видео на ютубе]

[10 сентября] '''Лекция 2:''' Метод максимального правдоподобия

*[https://eduhseru.sharepoint.com/:v:/r/sites/Appliedstatistics2021/Shared%20Documents/General/Recordings/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D1%8F%202.%20%D0%9C%D0%B0%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D0%BF%D1%80%D0%B0%D0%B2%D0%B4%D0%BE%D0%BF%D0%BE%D0%B4%D0%BE%D0%B1%D0%BD%D0%B0%D1%8F%20_)-20210910_093337-Meeting%20Recording.mp4?csf=1&web=1&e=wIGd5M Видео]
* [https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_02.pdf Конспект]
* [https://www2.stat.duke.edu/~sayan/SAMSI/lec/411notes03.pdf Дополнительные материалы]
* [https://youtu.be/8d5g3N4LTmA Видео на ютубе]

[17 сентября] '''Лекция 3:''' maximum likelihood

*
[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео]
*[https://github.com/V-Marco/psmo_21_22/blob/main/lectures/psmo_2021_lec_03.pdf Конспект]
*[https://www.youtube.com/watch?v=BKwxk7pFMiY&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=3 Видео на ютубе]

=== Семинары ===
'''Семинар 1:''' Гипотезы и доверительные интервалы.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_1/psmo_2021_sem_01.pdf Конспект]], [[https://youtu.be/6T9ds4n_y6I Видео]]

'''Семинар 2:''' Энтропия и KL-дивергенция. Метод максимального правдоподобия.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_2/psmo_2021_sem_02.pdf Конспект]], [[https://youtu.be/L6lWf-7FcmY Видео]], [[https://youtu.be/-QEL03DwtMk Ответы на вопросы]], [[https://arxiv.org/abs/1212.5630 Бесконечная энтропия]]

'''Семинар 3:''' Метод максимального правдоподобия. Информация Фишера.
* Группы 191, 192, 193: [[https://github.com/V-Marco/psmo_21_22/blob/main/seminars/191_192_193/seminar_3/psmo_2021_sem_03.pdf Конспект]], [[https://www.youtube.com/watch?v=ExA6h2sbF-Y&list=PLEwK9wdS5g0quaKouRQKl7afKTJNRvEHo&index=4 Видео]], [Ответы на вопросы]

=== Домашние задания ===

Домашние задания загружаются в личный репозиторий в GitHub Classroom.

Правила оформления решений находятся на первой странице каждого домашнего задания.

====Домашнее задание 1.====

'''Темы:'''
* Метод максимального правдоподобия. Тесты LR, LM, W.
* Энтропия и дивергенция Кульбака-Лейблера. EM-алгоритм.
* Бутстрэп.
* МНК. Тестирование гипотез в линейной регресии.

'''Дата выдачи:''' 8 сентября

'''Дедлайн:''' 29 октября 23:59

[[https://github.com/V-Marco/psmo_21_22/tree/main/hw/hw1 Условие]]

[[https://classroom.github.com/a/KZaAKjaA Ссылка на задание в Classroom]]

====Домашнее задание 2.====

'''Темы:'''
* Мультиколлинеарность. Отбор регрессоров.
* Гетероскедастичность. Эндогенность.
* Логистическая регрессия.
* Нестандартные регрессии.

'''Дата выдачи:'''

'''Дедлайн:''' 3 декабря 23:59

[Условие]

[Ссылка на задание в Classroom]

=== Квизы ===

Квизы выдаются в начале семинара строго на 10-15 минут. Каждый квиз содержит случайную задачу из задач для подготовки с изменёнными числовыми данными.

В первом столбце таблицы указан номер семинара, на котором пройдёт квиз, а во втором – дата лекции, '''после которой''' на соответствующих семинарах пройдут квизы.

{| class="wikitable"
|-
! На семинаре № !! После лекции !! Тема || Задачи
|-
| 3 || 17 сентября || Энтропия и дивергенция Кульбака-Лейблера || [https://v-marco.github.io/psmo_book/content/entropy_kl/quiz.html Ссылка]
|-
| 5 || 1 октября || Тесты LR, LM, W || [https://v-marco.github.io/psmo_book/content/lr_lm_w/quiz.html Ссылка]
|-
| 6 || 8 октября || EM-алгоритм || [https://v-marco.github.io/psmo_book/content/em/quiz.html Ссылка]
|-
| 7 || 15 октября || ТГМ и МНК ||
|-
| 8 || 29 октября || Тестирование гипотез в линейной регрессии ||
|-
| 9 || 5 ноября || Корректировка гетероскедастичности ||
|-
| 11 || 19 ноября || Логистическая регрессия ||
|}

===Контрольная работа===

Контрольная работа является письменной формой контроля. В контрольную работу войдут задачи по темам лекций и семинаров первого модуля.

[[https://github.com/V-Marco/psmo_20_21/blob/master/misc/midterm_info.pdf Задачи для подготовки прошлого года]]

[[https://github.com/V-Marco/psmo_20_21/blob/master/midterm/midterm.pdf Задания контрольной прошлого года]]

===Экзамен===

Экзамен является устной формой контроля. В экзамен войдут теория и задачи по темам лекций и семинаров всего курса.

Подробный состав тем и процедура проведения будут объявлены в начале второго модуля.

==Отчётность по курсу и критерии оценки==

===Итоговая оценка за курс===

Итоговая оценка за курс рассчитывается по следующей формуле:

Итог = 0.6 * Накоп + 0.4 * Экз.

В этой формуле

Накоп = 0.2 * Квиз + 0.2 * (ДЗ1 + ДЗ2) + 0.4 * КР,

где
* Квиз – средняя оценка за все квизы.
* ДЗ1 и ДЗ2 – оценки за ДЗ1 и ДЗ2 соответственно.
* КР – оценка за контрольную работу.

Экз =

* Накопленная оценка, если она меньше или равна 7.
* 7, если Накопленная оценка больше 7.
* Оценка за устный экзамен, если прийти и сдать его.

Округление арифметическое, округляется только итоговая оценка.

==Литература==

* '''Frederick Gravetter, Larry Wallnau. Statistics for the Behavioral Sciences''' – базовый курс с большим количеством картинок и подробных текстовых объяснений. Прекрасно подходит для быстрого повторения интуиции и основной методологии.

* '''Larry Wasserman. All of Statistics: A Concise Course in Statistical Inference''' – хороший курс магистерского уровня, охватывающий большое количество тем из теории вероятностей и статистики. Основной фокус делается на прикладных применениях и методологии, поэтому книга содержит ровно столько математики, сколько необходимо для понимания практических аспектов. Тем не менее, качество изложенного материала на высоте: все математические утверждения доказываются и сопровождаются подробной интуицией.

* '''David Williams. Weighing the Odds. A Course in Probability and Statistics''' – суровая книжка для самых смелых. Содержит все основные темы по теории вероятностей и статистике в рамках программы для технических специальностей. Сквозная идея книги – показать связь теории вероятностей и статистики с другими разделами математики, поэтому для каждого утверждения приводятся строгие и очень подробные доказательства. Сильно расширяет общематематический кругозор, содержит много нетривиальных утверждений.

Psmo 21 22

2021-09-14T16:33:35Z

Aaplakhin:

Psmo 21 22

2021-09-14T16:32:03Z

Aaplakhin:

Psmo 21 22

2021-09-11T13:11:26Z

Aaplakhin:

Psmo 21 22

2021-09-11T13:05:00Z

Aaplakhin: