Wiki - Факультет компьютерных наук - Вклад [ru]

Intro to DL 21/22

2021-11-25T18:37:45Z

Sorain: /* О курсе */

== О курсе ==

Курс читается для студентов 3-го курса ПМИ в 1-3 модулях.

=== Полезные ссылки ===

Домашние задание сдаются в Anytask: https://anytask.org/course/876

Канал в telegram для объявлений: https://t.me/joinchat/4qNdPDzeuYpjMDVi

Чат в telegram: https://t.me/joinchat/G1kN7u-nfs03NWQy

Таблица с оценками: https://docs.google.com/spreadsheets/d/1ftHKIu0VDypvI8LRkTK8kGJPgJxLaZzvtPECBLxCP1Y/

Репозиторий курса: https://github.com/isadrtdinov/intro-to-dl-hse

Плейлист с записями занятий: https://www.youtube.com/playlist?list=PLEwK9wdS5g0rj_cRQ3iFGAHLJNRkX5nO2

=== Семинары ===
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Материалы семинаров !! Инвайт в anytask
|-
| БПМИ191 || [https://t.me/dchesakov Даниил Чесаков] || [https://t.me/egorkapiorka Егор Масликов] || https://gitlab.com/danyache1812/introdl2021_autumn || yAQ3t17
|-
| БПМИ192 || [https://t.me/Saigetsu Руслан Хайдуров] || [https://t.me/mogrigoryan Михаил Григорян] || https://github.com/new-okaerinasai/ami_intro_to_dl_2021 || wqsOl5D
|-
| БПМИ193 || [https://t.me/isadrtdinov Ильдус Садртдинов] || [https://t.me/treacker Женя Шабалин]|||| ssm8S9x
|-
| БПМИ194 || [https://t.me/aktsvigun Аким Цвигун] || [https://t.me/bwdare Дарья Матяш]|||| AVcbSvC
|-
| БПМИ197 || [https://t.me/murr4a Елена Кантонистова] || [https://t.me/ferekeke Елизавета Копышева]|||| MZ3yquv
|-
| БПМИ198 || [https://t.me/asukhareva Анжела Сухарева] || [https://t.me/tak_ty Екатерина Такташева] |||| 2ar4f52
|-
| БПМИ199, БПМИ1910 || [https://t.me/AlexeyKKovalev Алексей Ковалёв] || [https://t.me/tamogashev_kv Кирилл Тамогашев] |||| 199: kCtmrfS, 1910: LpTneWG
|-
|}

=== Правила выставления оценок ===

Итоговая оценка вычисляется по формуле:

0.7*ДЗ + 0.3*Проверочные

==Лекции==

Все лекции онлайн-курса лежат на Coursera. Также есть несколько лекций в плейлисте на YouTube — [[https://youtube.com/playlist?list=PLEwK9wdS5g0rj_cRQ3iFGAHLJNRkX5nO2 ссылка на плейлист]].

'''Лекция 1.''' Полносвязные сети и обучение. (24.09.2021). [[https://youtu.be/tsvWaL8J_Qw Запись лекции]]

'''Лекция 2.''' Введение в компьютерное зрение. (Coursera)

'''Лекция 3.''' Архитектуры в компьютерном зрении. (Coursera)

'''Лекция 4.''' Работа с последовательностями. (05.11.2021). [[https://youtu.be/XHvWqQb_cGQ Запись лекции]]

'''Лекция 5.''' Трансформеры. (22.11.2021). [[https://youtu.be/_v9WLbowAuo Запись лекции]]

== Семинары ==

'''Семинар 1''' [[Тетрадка]]

'''Семинар 2''' Свёрточные сети [https://colab.research.google.com/drive/1DxD0_D2rX957g2Ddcuo66n753566JChs?usp=sharing ноутбук].

'''Семинар 3''' [[Тетрадка]]

'''Семинар 4''' [[Тетрадка]]

'''Семинар 5''' [[Тетрадка]]

== Домашние задания ==

'''Домашнее задание 1.''' Введение в PyTorch. Полносвязные нейронные сети: [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/main/homeworks/homework-01-mlp.ipynb ноутбук с заданием]]

Дата выдачи: 05.10.2021

Мягкий дедлайн: 23:59MSK 28.10.2021

Жесткий дедлайн: 23:59MSK 28.10.2021

'''Домашнее задание 2.''' Классификация изображений. Сверточные нейронные сети: [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/main/homeworks/homework-02-cnn.ipynb ноутбук с заданием]]

Дата выдачи: 07.11.2021

Мягкий дедлайн: 23:59MSK 28.11.2021

Жесткий дедлайн: 23:59MSK 02.12.2021

Основы глубинного обучения

2021-09-17T15:29:45Z

Sorain: /* Семинары */

== О курсе ==

Курс читается для студентов 3-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 1-2 модулях.

Проводится с 2015 года.

Лектор — [http://www.hse.ru/staff/esokolov Соколов Евгений Андреевич]

Занятия проходят онлайн по четвергам на второй паре (11:10 - 12:30).

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/346231287 Карточка курса и программа]

Репозиторий с материалами: https://github.com/hse-ds/iad-deep-learning

Домашние задание сдаются в Anytask:

Канал в telegram для объявлений: https://t.me/hs_iad_2021

Чат в telegram (осторожно, риск флуда и отсутствия ответов на содержательные вопросы): https://t.me/joinchat/Vuq4Lgi98RG22fQP

Таблица с оценками

'''Вопросы''' по курсу можно задавать в телеграм лектору (@esokolov), семинаристу, в чатах групп или в issues на [https://github.com/hse-ds/iad-deep-learning гитхабе].

=== Семинары ===
{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебные ассистенты !! Zoom-конференция !! Ссылка на чат !! Инвайт в anytask
|-
| ИАД-1 || Антон Семенкин || [https://t.me/nichtdeinetraumfrau Дарья Морозова], [https://t.me/caesiummm Михаил Никифоров] || [https://zoom.us/j/95783649988?pwd=ZDh0UEJvVkxYczR5VTFGbldPdEFKdz09 Zoom] || [https://t.me/joinchat/h66lQZ8hD5s4MGFi Чат] ||
|-
| ИАД-2 || [https://t.me/AlexeyKKovalev Алексей Ковалёв] || [https://t.me/alenaVert Алёна Вертеева], [https://t.me/egorkapiorka Егор Масликов]|| [https://zoom.us/j/98291023185?pwd=S043dEdoMHkrSG8wSWRISDF1ZUlvUT09 Zoom] || [https://t.me/joinchat/EJCLcBpN0J0yM2My Чат] ||
|-
| ИАД-3 || [https://t.me/kirili4ik Кирилл Гельван] || [https://t.me/tamogashev_kv Кирилл Тамогашев], [https://t.me/bwdare Дарья Матяш] || [https://zoom.us/j/93479034844?pwd=Tnp2cU85NDVWbmRhMTRNN29kd0ZmQT09 Zoom] || [https://t.me/joinchat/kQ-hh3YdUbc4YmMy Чат] ||
|-
|-
| ИАД-4 || [https://t.me/mikhail_h91 Михаил Гущин] || [https://t.me/aksenysh Аня Аксенова], [https://t.me/tak_ty Катя Такташева]|| [https://zoom.us/j/97982378625?pwd=VWNBa3lXTUloRW91ckZhZU9CWW4rdz09 Zoom] || [https://t.me/joinchat/eUGR_00mJbUwYjli Чат] ||
|-
| ИАД-5 || [https://t.me/Saigetsu Руслан Хайдуров] || [https://t.me/treaptofun Антон Барышников], [https://t.me/mogrigoryan Михаил Григорян]|| [https://zoom.us/j/99847089082?pwd=cmI3Umo3UG1mRlg4VytrcEIwV2hKUT09 Zoom] || [https://t.me/joinchat/CGomCy4Gn3M3NzQ6 Чат] ||
|-
| ИАД-6 || Елена Кантонистова || [https://t.me/ferekeke Елизавета Копышева] [https://t.me/kplkrpv Поликарпов Кирилл] || [https://zoom.us/j/98326366848?pwd=bFVkRnNRaVFMMUppUnAyd3BMKzBzZz09 Zoom] || [https://t.me/joinchat/9eLqNJpZEOFlZTcy Чат] ||
|-
| ИАД-7 || [https://t.me/OnixinO Тамерлан Таболов] || [https://t.me/debasering Николай Аверьянов] [https://t.me/greyworgen Сергей Тихонов] || [https://zoom.us/j/93343230384?pwd=QldZa1hhOGxudGdRRTIzS3A1YTdhdz09 Zoom] || [https://t.me/joinchat/jWnLEX7aXjgxNzFi Чат] ||
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Практические домашние работы на Python
* Проверочные работы на лекциях
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется по формуле:

Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.3 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за проверочные работы

КР — оценка за контрольную работу

Э — оценка за экзамен

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Лекции==

=== Семинары ===

== Практические задания ==

Домашние задания выкладываются в [https://github.com/hse-ds/iad-deep-learning репозиторий курса]. За каждый день просрочки мягкого дедлайна снимается два балла. После жёсткого дедлайна задания не принимаются.

== Контрольная работа ==

== Экзамен ==

[[https://docs.google.com/document/d/1yf3wH-2LArk6Ck4KYiAarTXbNS90IFwX7nUOt_Ec_wE/edit?usp=sharing Вопросы для подготовки]]

[[Category:Майнор "Интеллектуальный анализ данных"]]

Машинное обучение на матфаке 2021

2021-03-19T10:14:59Z

Sorain: /* Домашние задания */

== О курсе ==
Курс читается для студентов факультета математики ВШЭ в 3-4 модулях.

Лектор: [https://www.hse.ru/staff/is Щуров Илья Валерьевич]

Лекции проходят по четвергам в 11:10-12:30.

== Полезные ссылки ==
* [https://t.me/joinchat/TeVup2Jtu2HLYNJF Чат курса]
* [https://t.me/joinchat/TdD3SkCWxQdMTZLi Телеграм канал с объявлениями]
* [https://anytask.org/course/773 Курс на Anytask]
* [https://github.com/ischurov/math-ml-2021-public/ GitHub репозиторий с материалами курса]
* [https://www.hse.ru/edu/courses/316533676 РПУД]

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Расписание
|-
| 1 || [https://tlg.name/Saigetsu Руслан Хайдуров] || [https://tlg.name/bekemax Максим Бекетов] || пятница 13:00-14:20
|-
| 2 || [https://tlg.name/svdcvt Соня Дымченко] || [https://tlg.name/pavle_us Павел Егоров] || четверг 13:00-14:20
|-
|}

=== Система оценивания ===
==== Формула оценки ====
Результирующая оценка по дисциплине рассчитывается по формуле:

<blockquote>'''Oитог = 0.2 * Окр + 0.29 * Опрак дз + 0.29 * Отеор дз + 0.22 * Оэкз'''</blockquote>

==== Правила вычисления оценок ====
Оценка за практические/теоретические домашние задания вычисляется как сумма баллов по всем практическим/теоретическим домашним заданиям, переведенная в 10-балльную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности. Все промежуточные оценки (за домашние, контрольную и экзамен) могут быть не целыми и ''не округляются''. Итоговая оценка округляется по стандартным правилам, оценка вида (k+1/2), где k — целое число округляется вверх.

==== Правила сдачи заданий ====
Если вы сдаёте работу позже срока, её оценка умножается на exp(-t / 86400), где t — число секунд, прошедшее с дедлайна. Иными словами, опоздать на пару секунд не страшно, но опоздав на сутки, вы поделите свой результат на e. Сдать после срока можно только один раз, а если вы сдали работу вовремя, досдать после срока какие-либо задачи уже нельзя. Это не касается соревнований: там есть жесткое время окончания соревнования, и после него уже ничего отправить нельзя.

Все письменные работы выполняются самостоятельно. Вам запрещено смотреть в чужие решения (в том числе в чужой код), до тех пор, пока вы не сделали и не сдали эту задачу сами. Это касается решений и кода, написанного вашими однокурсниками, написанного предшествующими поколениями или найденного где-либо ещё. Из этого, в частности, следует, что вам запрещено целенаправленно искать решение вашей задачи в интернете. (Хотя, конечно, вы можете использовать поиск в интернете, чтобы разобраться в том, как работают те или иные инструменты или как сделать конкретное действие, если это действие не является само по себе решением задачи.) Вам также запрещено показывать свои решения другим студентам. При обнаружении плагиата или иных нарушений академической этики оценки за соответствующее домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат.

При наличии ''уважительной'' причины (предоставляется справка, подтвержденная учебным офисом) вес контрольной работы может быть перенесён на экзамен; также может быть перенесён дедлайн по домашнему заданию (за исключением соревнований). Для согласования обращаться к лектору.

Теоретические домашние задания можно сдавать в виде Jupyter Notebook (.ipynb; там поддерживаются формулы в LaTeX), в виде отдельных PDF-документов, набранных в LaTeX или с помощью любого другого инструмента, поддерживающего вёрстку формул, либо в виде аккуратного скана аккуратно написанного от руки решения, также в формате PDF. В случае, если решение написано неаккуратно с точки зрения проверяющего, работа может получить штраф в 5% от оценки, либо, если работа вызывает существенные трудности для чтения, отправлена на доработку без продления срока сдачи.

== Новости курса ==
[https://t.me/joinchat/TdD3SkCWxQdMTZLi Телеграм канал с объявлениями]

== Лекции ==
{| class="wikitable"
|-
! № !! Дата !! Название !! Материалы
|-
| 1 || 14 января || Введение в ml, постановки задач, виды данных || [https://www.youtube.com/watch?v=COQFOm2tzTE&list=PLEwK9wdS5g0pq7ev-iMG9Vw8fWbld87Ic&index=2 видео]
|-
| 2 || 21 января || [http://math-info.hse.ru/math-ml/chapter/label/chap:3:els/ Статистическая теория принятия решений] || [https://www.youtube.com/watch?v=N79imD4BVZM видео]
|-
| 3 || 28 января || [http://math-info.hse.ru/math-ml/chapter/label/chap:4:bias-variance/ Шум, смещение, разброс] || [https://youtu.be/C3P0PPQYsSs видео]
|-
| 4 || 4 февраля || [http://math-info.hse.ru/math-ml/chapter/label/chap:5:linear-reg/ Линейные модели] || [https://youtu.be/K5eVQXW7GhI видео]
|-
| 5 || 11 февраля || [http://math-info.hse.ru/math-ml/chapter/label/chap:6:linear-reg2/ Линейные модели (продолжение)] || [https://youtu.be/lDdZZr8ImBM видео]
|-
| 6 || 18 февраля || Линейная и логистическая регрессии || [https://youtu.be/mFrFDXqkcOo видео]
|-
| 7 || 25 февраля || Логистическая регрессия (продолжение) || [https://youtu.be/yHLtkTJs4Vk видео]
|-
| 8 || 4 марта || SVM и решающие деревья || [https://youtu.be/QBZSD7wUR_s видео]
|-
| 9 || 11 марта || Решающие леса || [https://youtu.be/Yo2-qB7vqOo видео]
|}

== Семинары ==
{| class="wikitable"
|-
! № !! Дата !! Название !! Материалы !! Видео
|-
| 1 || 14/15 января || Введение в numpy, pandas, matplotlib || [https://github.com/ischurov/math-ml-2021-public/blob/main/seminars/sem01_intro.ipynb github] [https://colab.research.google.com/drive/1XG7P1oMK2bpv7gGPk_mTV39YCyUVOFaj?usp=sharing colab] || [https://www.youtube.com/watch?v=RYvDFiMAdtc&list=PLEwK9wdS5g0pq7ev-iMG9Vw8fWbld87Ic&index=1 семинар Сони Дымченко]
|-
| 2 || 21/22 января || Алгоритм K ближайших соседей (k-NN) || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem02_knn1/sem02_knn1.ipynb github] [https://nbviewer.jupyter.org/github/ischurov/math-ml-2021-public/blob/main/sem02_knn1/sem02_knn1.ipynb nbviewer] [https://colab.research.google.com/drive/1v5IIKV5JWFbmeGguDClqiF9RPo4wXYvM#scrollTo=RvWMp_5Z3dzd colab]|| [https://youtu.be/P87X5W9KX-8 семинар Сони Дымченко], [https://youtu.be/qp-lEX6DTV4 семинар Ильи Щурова]
|-
| 3 || 28/29 января || Разложение ошибки на смещение и разброс, кросс-валидация, проклятие размерности, KNN из коробки (продолжение) || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem03_knn2/sem03_knn2.ipynb github] || [https://youtu.be/uZYcrP1ulrY семинар Руслана Хайдурова]
|-
| 4|| 4/5 февраля || Линейная регрессия, градиентный спуск, метрика качества R^2 || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem04_linreg/sem04_linreg.ipynb github] [https://colab.research.google.com/drive/1j9fJZaUNDD4Ac0PdcFjed0YeKpVKNh78?usp=sharing colab]|| [https://youtu.be/wq0SKbLzaCE семинар Сони Дымченко]
|-
| 5 || 11/12 февраля|| Регуляризация линейной регрессии, отбор признаков || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem05_reg/sem05_reg.ipynb github] || [https://youtu.be/jwVdvWWAl-4 семинар Руслана Хайдурова]
|-
| 6 || 18/19 февраля|| Логистическая регрессия, метрики для задачи классификации (precision, recall, f-measure, ROC/PR-AUC), создание полиномиальных признаков || [https://colab.research.google.com/github/ischurov/math-ml-2021-public/blob/main/sem06_logreg/sem06_logreg.ipynb colab] [https://github.com/ischurov/math-ml-2021-public/blob/main/sem06_logreg/sem06_logreg.ipynb github] || [https://youtu.be/f2mS6vSJuuM семинар Руслана Хайдурова]
|-
| 7 || 25/26 февраля|| Обработка текстов, лемматизация и стемминг, векторное представление текстов (BOW, TfIdf), обучение моделей классификации отзывов (практика) || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem07_texts/sem07_texts.ipynb github] [https://colab.research.google.com/drive/1mI3Ff7KN-t2okw4e5G2tlSUKXrv9xykz?usp=sharing colab] [https://colab.research.google.com/drive/1Ourraf7xhnMLxrWLsBZxEIyuzSG-hyHE?usp=sharing solved] || [https://youtu.be/tgu9JJw9cE0 семинар Сони Дымченко]
|-
| 8 || 4/5 марта || Решающие деревья || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem08_trees/sem08_trees.ipynb github] [https://colab.research.google.com/github/ischurov/math-ml-2021-public/blob/main/sem08_trees/sem08_trees.ipynb colab]|| [https://youtu.be/rIcVRIQM9Ys семинар Руслана Хайдурова]
|-
|9 || 11/12 марта || Бэггинг, случайный лес || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem09_ensembles/sem09_ensembles.ipynb github] [https://colab.research.google.com/drive/1_tnviReEMwceJRc7B-zAFbC9C6eoht88?usp=sharing colab]|| [https://youtu.be/sJkS8ffgXw4 семинар Сони Дымченко]
|-
|10 || 18/19 марта || Градиентный бустинг || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem10_boosting/sem10_boosting.ipynb github] [https://colab.research.google.com/drive/16paCicj-aRy8CTEvQuhxN9OupPIHqut5?usp=sharing colab] || [ семинар Сони Дымченко]
|}

[https://stackoverflow.com/questions/45622602/how-to-jupyter-notebooks-from-github Как корректно скачать файл с расширением .ipynb с GitHub?]

== Домашние задания ==
Домашние задания сдаются в энитаск (ссылка выше). Инвайт: g1laCLh
{|class='wikitable'
! № !! тема и условие !! тип !! дата выдачи !! дедлайн !! комментарий
|-
|0
| Теория вероятностей: [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor0.ipynb условие]
| теоретическое
| 14.01
| 20.01 23:59:59
|
|-
| 1
| Бибилотеки Python: numpy, pandas, matplotlib: [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab01.ipynb условие]
| практическое
| 14.01
| 24.01 23:59:59
|
|-
| 2
| Оценки, ошибки и градиентный спуск: [https://nbviewer.jupyter.org/github/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor02.ipynb nbviewer] [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor02.ipynb github] [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor02.pdf pdf]
| теоретическое
| 8.02
| 15.02 23:59:59
|
|-
| 3
| Метод k ближайших соседей: [https://nbviewer.jupyter.org/github/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab03/hw_lab03.ipynb nbviewer] [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab03/hw_lab03.ipynb github]
| практическое
| 14.02
| 28.02 23:59:59
|
|-
| 4
| Вокруг линейных моделей: [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor04.ipynb ipynb] [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor04.pdf pdf]
| теоретическое
| 8.03
| 18.03 23:59:59
|
|-
| 5
| Линейные модели: [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab05.ipynb ipynb] [[https://nbviewer.jupyter.org/github/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab05.ipynb nbviewer]
| теоретическое
| 19.03
| Часть 1: 28.03 23:59:59, Часть 2: 04.04 23:59:59
|
|}

== Контрольные работы ==
=== Midterm ===
Промежуточная контрольная работа (мидтерм) состоится в четверг, 1 апреля. Она захватит материал первых 9 занятий: лекций, семинаров и релевантных домашних заданий.

* [http://math-info.hse.ru/f/2018-19/math-ml/midterm.pdf Вариант 2018-19 учебного года]
* [https://github.com/ischurov/math-ml-2021-public/blob/main/assessment/midterm-2020.pdf Вариант 2019-20 учебного года]
** [https://youtu.be/iGQ518pCAEM Разбор]

== Полезные материалы ==
=== Базовые учебники ===
# Hastie T., Tibshirani R, Friedman J. [http://www-stat.stanford.edu/~tibs/ElemStatLearn/download.html The Elements of Statistical Learning (2nd edition)]. Springer, 2009.
# Bishop C. M. [http://research.microsoft.com/en-us/um/people/cmbishop/prml/ Pattern Recognition and Machine Learning]. Springer, 2006.

=== Дополнительная литература ===
# Шарден Б., Массарон Л., Боскетти А. Крупномасштабное машинное обучение вместе с Python, Издательство "ДМК Пресс", 2018.
# Ian Goodfellow and Yoshua Bengio and Aaron Courville, Deep Learning, MIT Press, 2016.
# Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
# Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
# Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.

=== Разные хорошие ссылки ===

# [https://betanalpha.github.io/assets/case_studies/conditional_probability_theory.html Об условных вероятностях].
# [https://mml-book.github.io Mathematics for Machine Learning] — книга с математическим введением в машинное обучение. Вам могут быть особенно интересно главы про теорию вероятностей.

Машинное обучение на матфаке 2021

2021-02-14T10:19:04Z

Sorain: /* Домашние задания */

== О курсе ==
Курс читается для студентов факультета математики ВШЭ в 3-4 модулях.

Лектор: [https://www.hse.ru/staff/is Щуров Илья Валерьевич]

Лекции проходят по четвергам в 11:10-12:30.

== Полезные ссылки ==
* [https://t.me/joinchat/TeVup2Jtu2HLYNJF Чат курса]
* [https://t.me/joinchat/TdD3SkCWxQdMTZLi Телеграм канал с объявлениями]
* [https://anytask.org/course/773 Курс на Anytask]
* [https://github.com/ischurov/math-ml-2021-public/ GitHub репозиторий с материалами курса]
* [https://www.hse.ru/edu/courses/316533676 РПУД]

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент !! Расписание
|-
| 1 || [https://tlg.name/Saigetsu Руслан Хайдуров] || [https://tlg.name/bekemax Максим Бекетов] || пятница 13:00-14:20
|-
| 2 || [https://tlg.name/svdcvt Соня Дымченко] || [https://tlg.name/pavle_us Павел Егоров] || четверг 13:00-14:20
|-
|}

=== Система оценивания ===
==== Формула оценки ====
Результирующая оценка по дисциплине рассчитывается по формуле:

<blockquote>'''Oитог = 0.2 * Окр + 0.29 * Опрак дз + 0.29 * Отеор дз + 0.22 * Оэкз'''</blockquote>

==== Правила вычисления оценок ====
Оценка за практические/теоретические домашние задания вычисляется как сумма баллов по всем практическим/теоретическим домашним заданиям, переведенная в 10-балльную шкалу. Количество баллов за разные задания может различаться в зависимости от их сложности. Все промежуточные оценки (за домашние, контрольную и экзамен) могут быть не целыми и ''не округляются''. Итоговая оценка округляется по стандартным правилам, оценка вида (k+1/2), где k — целое число округляется вверх.

==== Правила сдачи заданий ====
Если вы сдаёте работу позже срока, её оценка умножается на exp(-t / 86400), где t — число секунд, прошедшее с дедлайна. Иными словами, опоздать на пару секунд не страшно, но опоздав на сутки, вы поделите свой результат на e. Сдать после срока можно только один раз, а если вы сдали работу вовремя, досдать после срока какие-либо задачи уже нельзя. Это не касается соревнований: там есть жесткое время окончания соревнования, и после него уже ничего отправить нельзя.

Все письменные работы выполняются самостоятельно. Вам запрещено смотреть в чужие решения (в том числе в чужой код), до тех пор, пока вы не сделали и не сдали эту задачу сами. Это касается решений и кода, написанного вашими однокурсниками, написанного предшествующими поколениями или найденного где-либо ещё. Из этого, в частности, следует, что вам запрещено целенаправленно искать решение вашей задачи в интернете. (Хотя, конечно, вы можете использовать поиск в интернете, чтобы разобраться в том, как работают те или иные инструменты или как сделать конкретное действие, если это действие не является само по себе решением задачи.) Вам также запрещено показывают свои решения другим студентам. При обнаружении плагиата или иных нарушений академической этики оценки за соответствующее домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат.

При наличии ''уважительной'' причины (предоставляется справка, подтвержденная учебным офисом) вес контрольной работы может быть перенесён на экзамен; также может быть перенесён дедлайн по домашнему заданию (за исключением соревнований). Для согласования обращаться к лектору.

Теоретические домашние задания можно сдавать в виде Jupyter Notebook (.ipynb; там поддерживаются формулы в LaTeX), в виде отдельных PDF-документов, набранных в LaTeX или с помощью любого другого инструмента, поддерживающего вёрстку формул, либо в виде аккуратного скана аккуратно написанного от руки решения, также в формате PDF. В случае, если решение написано неаккуратно с точки зрения проверяющего, работа может получить штраф в 5% от оценки, либо, если работа вызывает существенные трудности для чтения, отправлена на доработку без продления срока сдачи.

== Новости курса ==
[https://t.me/joinchat/TdD3SkCWxQdMTZLi Телеграм канал с объявлениями]

== Лекции ==
{| class="wikitable"
|-
! № !! Дата !! Название !! Материалы
|-
| 1 || 14 января || Введение в ml, постановки задач, виды данных || [https://www.youtube.com/watch?v=COQFOm2tzTE&list=PLEwK9wdS5g0pq7ev-iMG9Vw8fWbld87Ic&index=2 видео]
|-
| 2 || 21 января || [http://math-info.hse.ru/math-ml/chapter/label/chap:3:els/ Статистическая теория принятия решений] || [https://www.youtube.com/watch?v=N79imD4BVZM видео]
|-
| 3 || 28 января || [http://math-info.hse.ru/math-ml/chapter/label/chap:4:bias-variance/ Шум, смещение, разброс] || [https://youtu.be/C3P0PPQYsSs видео]
|-
| 4 || 4 февраля || [http://math-info.hse.ru/math-ml/chapter/label/chap:5:linear-reg/ Линейные модели] || [https://youtu.be/K5eVQXW7GhI видео]
|}

== Семинары ==
{| class="wikitable"
|-
! № !! Дата !! Название !! Материалы !! Видео
|-
| 1 || 14/15 января || Введение в numpy, pandas, matplotlib || [https://github.com/ischurov/math-ml-2021-public/blob/main/seminars/sem01_intro.ipynb github] [https://colab.research.google.com/drive/1XG7P1oMK2bpv7gGPk_mTV39YCyUVOFaj?usp=sharing colab] || [https://www.youtube.com/watch?v=RYvDFiMAdtc&list=PLEwK9wdS5g0pq7ev-iMG9Vw8fWbld87Ic&index=1 семинар Сони Дымченко]
|-
| 2 || 21/22 января || Алгоритм K ближайших соседей (k-NN) || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem02_knn1/sem02_knn1.ipynb github] [https://nbviewer.jupyter.org/github/ischurov/math-ml-2021-public/blob/main/sem02_knn1/sem02_knn1.ipynb nbviewer] [https://colab.research.google.com/drive/1v5IIKV5JWFbmeGguDClqiF9RPo4wXYvM#scrollTo=RvWMp_5Z3dzd colab]|| [https://youtu.be/P87X5W9KX-8 семинар Сони Дымченко], [https://youtu.be/qp-lEX6DTV4 семинар Ильи Щурова]
|-
| 3 || 28/29 января || Разложение ошибки на смещение и разброс, кросс-валидация, проклятие размерности, KNN из коробки (продолжение) || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem03_knn2/sem03_knn2.ipynb github] || [https://youtu.be/uZYcrP1ulrY семинар Руслана Хайдурова]
|-
| 4|| 4/5 февраля || Линейная регрессия, градиентный спуск, метрика качества R^2 || [https://github.com/ischurov/math-ml-2021-public/blob/main/sem04_linreg/sem04_linreg.ipynb github] [https://colab.research.google.com/drive/1j9fJZaUNDD4Ac0PdcFjed0YeKpVKNh78?usp=sharing colab]|| [https://youtu.be/wq0SKbLzaCE семинар Сони Дымченко]
|-
| 5 || 11/12 февраля|| Регуляризация линейной регрессии, отбор признаков || ||
|-
| 6 || 18/19 февраля|| Логистическая регрессия, метрики для задачи классификации (precision, recall, f-measure, ROC/PR-AUC), создание полиномиальных признаков || ||
|}

[https://stackoverflow.com/questions/45622602/how-to-jupyter-notebooks-from-github Как корректно скачать файл с расширением .ipynb с GitHub?]

== Домашние задания ==
Домашние задания сдаются в энитаск (ссылка выше). Инвайт: g1laCLh
{|class='wikitable'
! № !! тема и условие !! тип !! дата выдачи !! дедлайн !! комментарий
|-
|0
| Теория вероятностей: [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor0.ipynb условие]
| теоретическое
| 14.01
| 20.01 23:59:59
|
|-
| 1
| Бибилотеки Python: numpy, pandas, matplotlib: [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab01.ipynb условие]
| практическое
| 14.01
| 24.01 23:59:59
|
|-
| 2
| Оценки, ошибки и градиентный спуск: [https://nbviewer.jupyter.org/github/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor02.ipynb nbviewer] [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor02.ipynb github] [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_theor02.pdf pdf]
| теоретическое
| 8.02
| 15.02 23:59:59
|
|-
| 3
| Метод k ближайших соседей: [https://nbviewer.jupyter.org/github/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab03/hw_lab03.ipynb nbviewer] [https://github.com/ischurov/math-ml-2021-public/blob/main/homeworks/hw_lab03/hw_lab03.ipynb github]
| практическое
| 14.02
| 28.02 23:59:59
|
|}

== Полезные материалы ==
=== Базовые учебники ===
# Hastie T., Tibshirani R, Friedman J. [http://www-stat.stanford.edu/~tibs/ElemStatLearn/download.html The Elements of Statistical Learning (2nd edition)]. Springer, 2009.
# Bishop C. M. [http://research.microsoft.com/en-us/um/people/cmbishop/prml/ Pattern Recognition and Machine Learning]. Springer, 2006.

=== Дополнительная литература ===
# Шарден Б., Массарон Л., Боскетти А. Крупномасштабное машинное обучение вместе с Python, Издательство "ДМК Пресс", 2018.
# Ian Goodfellow and Yoshua Bengio and Aaron Courville, Deep Learning, MIT Press, 2016.
# Mohri M., Rostamizadeh A., Talwalkar A. Foundations of Machine Learning. MIT Press, 2012.
# Murphy K. Machine Learning: A Probabilistic Perspective. MIT Press, 2012.
# Mohammed J. Zaki, Wagner Meira Jr. Data Mining and Analysis. Fundamental Concepts and Algorithms. Cambridge University Press, 2014.

=== Разные хорошие ссылки ===

# [https://betanalpha.github.io/assets/case_studies/conditional_probability_theory.html Об условных вероятностях].
# [https://mml-book.github.io Mathematics for Machine Learning] — книга с математическим введением в машинное обучение. Вам могут быть особенно интересно главы про теорию вероятностей.

2019-09-16T18:29:23Z

Sorain: /* Практические задания */

== О курсе ==

Курс читается для студентов 3-го курса [https://electives.hse.ru/minor_intel/ майнора ИАД] в 1-2 модулях.

Проводится с 2015 года.

Курс проводится в blended-формате без очных лекций.

Организационные вопросы можно задавать [http://www.hse.ru/staff/esokolov Соколову Евгению Андреевичу]

Занятия проходят по четвергам на Покровском бульваре, 11.

=== Полезные ссылки ===

[https://www.hse.ru/ba/ami/courses/292743107.html Карточка курса и программа]

Репозиторий с материалами: https://github.com/hse-ds/iad-deep-learning

Домашние задание сдаются в Anytask: https://anytask.org/course/?

Канал в telegram для объявлений: https://telegram.me/hse_minor_intro_dm_2019

Чат в telegram (осторожно, риск флуда и отсутствия ответов на содержательные вопросы): https://t.me/joinchat/A5rlQBSn7ROATFOWGlzRwg

[https://docs.google.com/spreadsheets/d/14YAN0sQYC14w_9XCf63NYm-1pNTpFLxdX6soF-psSq0/edit?usp=sharing Таблица с оценками]

Оставить отзыв на курс: [http://goo.gl/forms/RwdMxnChST форма]

'''Вопросы''' по курсу можно задавать в телеграм куратору курса (esokolov@), семинаристу, в чатах групп или в issues на [https://github.com/hse-ds/iad-deep-learning гитхабе].

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Учебный ассистент || Инвайт в anytask
|-
| ИАД-1 || [https://t.me/nbagiyan Багиян Нерсес Карленович] || Мария Головина || LNG31El
|-
| ИАД-2 || Абакумова Ольга Витальевна || || TYoAcIh ||
|-
| ИАД-3 || Анвардинов Шариф Ринатович || || T6OD7dR ||
|-
| ИАД-4 || Хайдуров Руслан Александрович || Пётр Жижин || xa50QxO
|-
| ИАД-5 || Фоменко Мария Михайловна || Эдуард Тульчинский || PlogjcE
|-
|}

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные работы на семинарах, проверяющие знание основных фактов с онлайн-курсов и семинаров
* Практические домашние работы на Python
* Контрольная где-то в середине курса
* Письменный экзамен

Итоговая оценка вычисляется по формуле:

Округление(0.4 * ДЗ + 0.1 * ПР + 0.2 * КР + 0.1 * ОК + 0.2 * Э)

ДЗ — средняя оценка за практические домашние задания

ПР — средняя оценка за проверочные работы на семинарах

КР — оценка за контрольную работу

ОК — оценка, полученная на Coursera за курс "How to Win a Data Science Competition"

Э — оценка за экзамен

=== Правила сдачи заданий ===

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

При наличии уважительной причины дедлайн по домашнему заданию может быть перенесён. Дедлайн по домашнему заданию переносится на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.

==Онлайн-курсы==

Дисциплина сопровождается двумя онлайн-курсами: [https://www.coursera.org/learn/intro-to-deep-learning Introduction to Deep learning] и [https://www.coursera.org/learn/competitive-data-science How to Win a Data Science Competition].

Курс Introduction to Deep learning не нужно проходить полностью — требуется лишь смотреть видео из него. Мы будем сообщать, к какому моменту что надо посмотреть.

Курс How to Win a Data Science Competition нужно полностью сдать на Coursera. Оценка за него войдёт в итоговую оценку.

==Семинары==

== Практические задания ==
Домашние задания выкладываются в [https://github.com/hse-ds/iad-deep-learning репозиторий курса]. За каждый день просрочки мягкого дедлайна снимается один балл. После жёсткого дедлайна задания не принимаются.

'''Домашнее задание 1'''
Мягкий дедлайн — 23 сентября, 03:59. Жёсткий дедлайн — 25 сентября, 23:59.

== Контрольная работа ==

== Экзамен ==

[[Category:Майнор "Интеллектуальный анализ данных"]]

Майнор Интеллектуальный анализ данных/Современные методы машинного обучения

2019-09-16T18:17:59Z

Sorain: