== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по понедельникам в 11:10 по [https://zoom.us/j/92432496193 ссылке].

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с лекциями на GitHub]

[https://github.com/ADKosm/lsml-2021-public Репозиторий с семинарами на GitHub]

Самостоятельные задачи cдаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

{| class="wikitable"
|-
! Задание !! Ссылка для сдачи !! Дата выдачи !! Дедлайн
|-
| Мини домашнее задание 1. Azure & Bash || https://www.dropbox.com/request/wLLX3aHRKwahk0ukMYxe || 20 января || 3 февраля 23:59
|-
| Мини домашнее задание 2. Hadoop & Spark || https://www.dropbox.com/request/jctWv4RclpbNUr7G4WCX || 10 февраля || 24 февраля 23:59
|-
| Мини домашнее задание 3. Classic models || https://www.dropbox.com/request/AS0pVq4PVvn8IEk8aHQI || 24 февраля || 10 марта 23:59
|-
| Мини домашнее задание 4. Neural netowrks || https://www.dropbox.com/request/lgnAY7cd2gNVTCMFqZY0 || 10 марта || 24 марта 23:59
|-
| Мини домашнее задание 5 (бонусное). KNN & Streaming || https://www.dropbox.com/request/8xvTfpzu14UVkN6oTf49 || 17 марта || 28 марта 23:59
|-
| Основное домашнее задание || https://www.dropbox.com/request/ntCyZLdoaRzUA4GohBEH || 24 февраля || 24 марта 23:59
|-
|}

Канал в telegram для объявлений: https://t.me/joinchat/RNZgXfAHNbG_biu3

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || Среда 14:40 - 16:00 || [https://zoom.us/j/97190579222 Zoom конференция]
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей – [https://t.me/adkosm @adkosm]

Никита – [https://t.me/naorlov @naorlov]

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Мини домашние задания (4 обязательных и 1 бонусное)
* Основное домашнее задание

Итоговая оценка вычисляется:

Oитоговая = 0.125*(OМДЗ1 + OМДЗ2 + OМДЗ3 + OМДЗ4) + 0.5*OДЗ

Округление арифметическое.

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных_2020

Машинное обучение на больших данных 2021

2021-01-11T17:19:41Z

Adkosmos: Удалил неактуальные поля

Машинное обучение на больших данных 2021

2021-01-11T17:18:46Z

Adkosmos: /* Странички прошлых лет */

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с лекциями на GitHub]

[https://github.com/ADKosm/lsml-2021-public Репозиторий с семинарами на GitHub]

Самостоятельные задачи cдаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

{| class="wikitable"
|-
! Задание !! Ссылка для сдачи !! Дата выдачи !! Дедлайн
|-
| Мини домашнее задание 1. Azure & Bash || https://www.dropbox.com/request/wLLX3aHRKwahk0ukMYxe || 20 января || 3 февраля 23:59
|-
| Мини домашнее задание 2. Hadoop & Spark || https://www.dropbox.com/request/jctWv4RclpbNUr7G4WCX || 10 февраля || 24 февраля 23:59
|-
| Мини домашнее задание 3. Classic models || https://www.dropbox.com/request/AS0pVq4PVvn8IEk8aHQI || 24 февраля || 10 марта 23:59
|-
| Мини домашнее задание 4. Neural netowrks || https://www.dropbox.com/request/lgnAY7cd2gNVTCMFqZY0 || 10 марта || 24 марта 23:59
|-
| Мини домашнее задание 5 (бонусное). KNN & Streaming || https://www.dropbox.com/request/8xvTfpzu14UVkN6oTf49 || 17 марта || 28 марта 23:59
|-
| Основное домашнее задание || https://www.dropbox.com/request/ntCyZLdoaRzUA4GohBEH || 24 февраля || 24 марта 23:59
|-
|}

Канал в telegram для объявлений: https://t.me/joinchat/RNZgXfAHNbG_biu3

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || Среда 14:40 - 16:00 || [https://zoom.us/j/97190579222 Zoom конференция]
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей - [https://t.me/adkosm @adkosm]

Никита – [https://t.me/naorlov @naorlov]

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Мини домашние задания (4 обязательных и 1 бонусное)
* Основное домашнее задание

Итоговая оценка вычисляется:

Oитоговая = 0.125*(OМДЗ1 + OМДЗ2 + OМДЗ3 + OМДЗ4) + 0.5*OДЗ

Округление арифметическое.

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: 24.03.2020

Место: онлайн,

Сдаем экзамен в гугл формах (три поля в форме) на 1,5 часа

Вопросы к экзамену:

• Граф вычислений, RDD, примеры трансформаций в Apache Spark, accumulator и broadcast переменные

• MapReduce. AllReduce в Vowpal Wabbit

• Варианты распараллеливания линейных моделей (на одной машине и на кластере). Хэширование признаков

• Варианты распараллеливания ALS

• Инвертированный индекс для подсчета попарных похожестей на MapReduce

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE)

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE). Варианты распараллеливания градиентного бустинга с feature binning

• Варианты распараллеливания градиентного бустинга с feature binning (вывести формулу для регрессии)

• MinHash и его связь с мерой Жаккара

• Как устроен Bloom Filter с оценкой ошибки

• Как работает Count-Min Sketch с выводом ошибки для точечной оценки

• LSH для поиска похожих документов по мере Жаккара (с использованием MinHash, описать как работают) с выводом вероятности попасть в кандидаты в зависимости от s

• Parameter Server и пример использования для Delayed Block Proximal Gradient.

• Как можно параллелить нейронные сети

В билеты 2 вопроса и 1 задача (на MapReduce)

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных_2020

Машинное обучение на больших данных 2021

2021-01-11T17:18:39Z

Adkosmos: /* Полезные материалы */

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с лекциями на GitHub]

[https://github.com/ADKosm/lsml-2021-public Репозиторий с семинарами на GitHub]

Самостоятельные задачи cдаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

{| class="wikitable"
|-
! Задание !! Ссылка для сдачи !! Дата выдачи !! Дедлайн
|-
| Мини домашнее задание 1. Azure & Bash || https://www.dropbox.com/request/wLLX3aHRKwahk0ukMYxe || 20 января || 3 февраля 23:59
|-
| Мини домашнее задание 2. Hadoop & Spark || https://www.dropbox.com/request/jctWv4RclpbNUr7G4WCX || 10 февраля || 24 февраля 23:59
|-
| Мини домашнее задание 3. Classic models || https://www.dropbox.com/request/AS0pVq4PVvn8IEk8aHQI || 24 февраля || 10 марта 23:59
|-
| Мини домашнее задание 4. Neural netowrks || https://www.dropbox.com/request/lgnAY7cd2gNVTCMFqZY0 || 10 марта || 24 марта 23:59
|-
| Мини домашнее задание 5 (бонусное). KNN & Streaming || https://www.dropbox.com/request/8xvTfpzu14UVkN6oTf49 || 17 марта || 28 марта 23:59
|-
| Основное домашнее задание || https://www.dropbox.com/request/ntCyZLdoaRzUA4GohBEH || 24 февраля || 24 марта 23:59
|-
|}

Канал в telegram для объявлений: https://t.me/joinchat/RNZgXfAHNbG_biu3

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || Среда 14:40 - 16:00 || [https://zoom.us/j/97190579222 Zoom конференция]
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей - [https://t.me/adkosm @adkosm]

Никита – [https://t.me/naorlov @naorlov]

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Мини домашние задания (4 обязательных и 1 бонусное)
* Основное домашнее задание

Итоговая оценка вычисляется:

Oитоговая = 0.125*(OМДЗ1 + OМДЗ2 + OМДЗ3 + OМДЗ4) + 0.5*OДЗ

Округление арифметическое.

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: 24.03.2020

Место: онлайн,

Сдаем экзамен в гугл формах (три поля в форме) на 1,5 часа

Вопросы к экзамену:

• Граф вычислений, RDD, примеры трансформаций в Apache Spark, accumulator и broadcast переменные

• MapReduce. AllReduce в Vowpal Wabbit

• Варианты распараллеливания линейных моделей (на одной машине и на кластере). Хэширование признаков

• Варианты распараллеливания ALS

• Инвертированный индекс для подсчета попарных похожестей на MapReduce

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE)

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE). Варианты распараллеливания градиентного бустинга с feature binning

• Варианты распараллеливания градиентного бустинга с feature binning (вывести формулу для регрессии)

• MinHash и его связь с мерой Жаккара

• Как устроен Bloom Filter с оценкой ошибки

• Как работает Count-Min Sketch с выводом ошибки для точечной оценки

• LSH для поиска похожих документов по мере Жаккара (с использованием MinHash, описать как работают) с выводом вероятности попасть в кандидаты в зависимости от s

• Parameter Server и пример использования для Delayed Block Proximal Gradient.

• Как можно параллелить нейронные сети

В билеты 2 вопроса и 1 задача (на MapReduce)

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных_2020

Машинное обучение на больших данных 2021

2021-01-11T17:17:40Z

Adkosmos: /* Семинары */

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с лекциями на GitHub]

[https://github.com/ADKosm/lsml-2021-public Репозиторий с семинарами на GitHub]

Самостоятельные задачи cдаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

{| class="wikitable"
|-
! Задание !! Ссылка для сдачи !! Дата выдачи !! Дедлайн
|-
| Мини домашнее задание 1. Azure & Bash || https://www.dropbox.com/request/wLLX3aHRKwahk0ukMYxe || 20 января || 3 февраля 23:59
|-
| Мини домашнее задание 2. Hadoop & Spark || https://www.dropbox.com/request/jctWv4RclpbNUr7G4WCX || 10 февраля || 24 февраля 23:59
|-
| Мини домашнее задание 3. Classic models || https://www.dropbox.com/request/AS0pVq4PVvn8IEk8aHQI || 24 февраля || 10 марта 23:59
|-
| Мини домашнее задание 4. Neural netowrks || https://www.dropbox.com/request/lgnAY7cd2gNVTCMFqZY0 || 10 марта || 24 марта 23:59
|-
| Мини домашнее задание 5 (бонусное). KNN & Streaming || https://www.dropbox.com/request/8xvTfpzu14UVkN6oTf49 || 17 марта || 28 марта 23:59
|-
| Основное домашнее задание || https://www.dropbox.com/request/ntCyZLdoaRzUA4GohBEH || 24 февраля || 24 марта 23:59
|-
|}

Канал в telegram для объявлений: https://t.me/joinchat/RNZgXfAHNbG_biu3

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || Среда 14:40 - 16:00 || [https://zoom.us/j/97190579222 Zoom конференция]
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей - [https://t.me/adkosm @adkosm]

Никита – [https://t.me/naorlov @naorlov]

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Мини домашние задания (4 обязательных и 1 бонусное)
* Основное домашнее задание

Итоговая оценка вычисляется:

Oитоговая = 0.125*(OМДЗ1 + OМДЗ2 + OМДЗ3 + OМДЗ4) + 0.5*OДЗ

Округление арифметическое.

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: 24.03.2020

Место: онлайн,

Сдаем экзамен в гугл формах (три поля в форме) на 1,5 часа

Вопросы к экзамену:

• Граф вычислений, RDD, примеры трансформаций в Apache Spark, accumulator и broadcast переменные

• MapReduce. AllReduce в Vowpal Wabbit

• Варианты распараллеливания линейных моделей (на одной машине и на кластере). Хэширование признаков

• Варианты распараллеливания ALS

• Инвертированный индекс для подсчета попарных похожестей на MapReduce

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE)

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE). Варианты распараллеливания градиентного бустинга с feature binning

• Варианты распараллеливания градиентного бустинга с feature binning (вывести формулу для регрессии)

• MinHash и его связь с мерой Жаккара

• Как устроен Bloom Filter с оценкой ошибки

• Как работает Count-Min Sketch с выводом ошибки для точечной оценки

• LSH для поиска похожих документов по мере Жаккара (с использованием MinHash, описать как работают) с выводом вероятности попасть в кандидаты в зависимости от s

• Parameter Server и пример использования для Delayed Block Proximal Gradient.

• Как можно параллелить нейронные сети

В билеты 2 вопроса и 1 задача (на MapReduce)

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

http://wiki.cs.hse.ru/%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_%D0%BD%D0%B0_%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D1%85_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_2020

Машинное обучение на больших данных 2021

2021-01-11T17:04:55Z

Adkosmos: TG Invite link + Домашние задания

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с лекциями на GitHub]

[https://github.com/ADKosm/lsml-2021-public Репозиторий с семинарами на GitHub]

Самостоятельные задачи cдаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

{| class="wikitable"
|-
! Задание !! Ссылка для сдачи !! Дата выдачи !! Дедлайн
|-
| Мини домашнее задание 1. Azure & Bash || https://www.dropbox.com/request/wLLX3aHRKwahk0ukMYxe || 20 января || 3 февраля 23:59
|-
| Мини домашнее задание 2. Hadoop & Spark || https://www.dropbox.com/request/jctWv4RclpbNUr7G4WCX || 10 февраля || 24 февраля 23:59
|-
| Мини домашнее задание 3. Classic models || https://www.dropbox.com/request/AS0pVq4PVvn8IEk8aHQI || 24 февраля || 10 марта 23:59
|-
| Мини домашнее задание 4. Neural netowrks || https://www.dropbox.com/request/lgnAY7cd2gNVTCMFqZY0 || 10 марта || 24 марта 23:59
|-
| Мини домашнее задание 5 (бонусное). KNN & Streaming || https://www.dropbox.com/request/8xvTfpzu14UVkN6oTf49 || 17 марта || 28 марта 23:59
|-
| Основное домашнее задание || https://www.dropbox.com/request/ntCyZLdoaRzUA4GohBEH || 24 февраля || 24 марта 23:59
|-
|}

Канал в telegram для объявлений: https://t.me/joinchat/RNZgXfAHNbG_biu3

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || ||
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей - @adkosm

Никита –

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные задания, выдаваемые на каждом семинаре. Дедлайн на сдачу заданий - 2 недели с момента проведения семинара. Не включая день семинара через две недели.
* Практическое домашнее задание (будет выдано ориентировочно на 3 семинаре).
* Письменный экзамен.

Итоговая оценка вычисляется:

Oитоговая = 0.5* Oдомашка + 0.2 * Oсам. раб. + 0.3 * Оэкзамен

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайн на самостоятельные задачи, которые выдаются на семинаре - 2 недели со дня семинара. Не включая день семинара через две недели.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: 24.03.2020

Место: онлайн,

Сдаем экзамен в гугл формах (три поля в форме) на 1,5 часа

Вопросы к экзамену:

• Граф вычислений, RDD, примеры трансформаций в Apache Spark, accumulator и broadcast переменные

• MapReduce. AllReduce в Vowpal Wabbit

• Варианты распараллеливания линейных моделей (на одной машине и на кластере). Хэширование признаков

• Варианты распараллеливания ALS

• Инвертированный индекс для подсчета попарных похожестей на MapReduce

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE)

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE). Варианты распараллеливания градиентного бустинга с feature binning

• Варианты распараллеливания градиентного бустинга с feature binning (вывести формулу для регрессии)

• MinHash и его связь с мерой Жаккара

• Как устроен Bloom Filter с оценкой ошибки

• Как работает Count-Min Sketch с выводом ошибки для точечной оценки

• LSH для поиска похожих документов по мере Жаккара (с использованием MinHash, описать как работают) с выводом вероятности попасть в кандидаты в зависимости от s

• Parameter Server и пример использования для Delayed Block Proximal Gradient.

• Как можно параллелить нейронные сети

В билеты 2 вопроса и 1 задача (на MapReduce)

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

http://wiki.cs.hse.ru/%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_%D0%BD%D0%B0_%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D1%85_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_2020

Машинное обучение на больших данных 2021

2021-01-11T12:26:45Z

Adkosmos: Добавил ссылки на сдачу домашних заданий

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с лекциями на GitHub]

[https://github.com/ADKosm/lsml-2021-public Репозиторий с семинарами на GitHub]

Самостоятельные задачи cдаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

* Мини домашнее задание 1. Azure & Bash - https://www.dropbox.com/request/wLLX3aHRKwahk0ukMYxe
* Мини домашнее задание 2. Hadoop & Spark - https://www.dropbox.com/request/jctWv4RclpbNUr7G4WCX
* Мини домашнее задание 3. Classic models - https://www.dropbox.com/request/AS0pVq4PVvn8IEk8aHQI
* Мини домашнее задание 4. Neural netowrks - https://www.dropbox.com/request/lgnAY7cd2gNVTCMFqZY0
* Мини домашнее задание 5 (бонусное). KNN & Streaming - https://www.dropbox.com/request/8xvTfpzu14UVkN6oTf49

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAFj8HdBYgd79RDeQpg

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || ||
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей - @adkosm

Никита –

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные задания, выдаваемые на каждом семинаре. Дедлайн на сдачу заданий - 2 недели с момента проведения семинара. Не включая день семинара через две недели.
* Практическое домашнее задание (будет выдано ориентировочно на 3 семинаре).
* Письменный экзамен.

Итоговая оценка вычисляется:

Oитоговая = 0.5* Oдомашка + 0.2 * Oсам. раб. + 0.3 * Оэкзамен

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайн на самостоятельные задачи, которые выдаются на семинаре - 2 недели со дня семинара. Не включая день семинара через две недели.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: 24.03.2020

Место: онлайн,

Сдаем экзамен в гугл формах (три поля в форме) на 1,5 часа

Вопросы к экзамену:

• Граф вычислений, RDD, примеры трансформаций в Apache Spark, accumulator и broadcast переменные

• MapReduce. AllReduce в Vowpal Wabbit

• Варианты распараллеливания линейных моделей (на одной машине и на кластере). Хэширование признаков

• Варианты распараллеливания ALS

• Инвертированный индекс для подсчета попарных похожестей на MapReduce

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE)

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE). Варианты распараллеливания градиентного бустинга с feature binning

• Варианты распараллеливания градиентного бустинга с feature binning (вывести формулу для регрессии)

• MinHash и его связь с мерой Жаккара

• Как устроен Bloom Filter с оценкой ошибки

• Как работает Count-Min Sketch с выводом ошибки для точечной оценки

• LSH для поиска похожих документов по мере Жаккара (с использованием MinHash, описать как работают) с выводом вероятности попасть в кандидаты в зависимости от s

• Parameter Server и пример использования для Delayed Block Proximal Gradient.

• Как можно параллелить нейронные сети

В билеты 2 вопроса и 1 задача (на MapReduce)

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

http://wiki.cs.hse.ru/%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_%D0%BD%D0%B0_%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D1%85_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_2020

Машинное обучение на больших данных 2021

2021-01-11T12:06:10Z

Adkosmos: Добавил ссылку на материалы

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с лекциями на GitHub]

[https://github.com/ADKosm/lsml-2021-public Репозиторий с семинарами на GitHub]

Самостоятельные задачи здаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

* Семинар 1. MapReduce. - https://www.dropbox.com/request/DxQZg2jEwvTQxmUnmIdh (deadline: 04.02.2020 23:59)
* Семинар 2. Hadoop MapReduce. - https://www.dropbox.com/request/4zMflMWC7YogYvbXeOP4 (deadline: 11.02.2020 23:59)
* Семинар 3. Spark. - https://www.dropbox.com/request/cMf6OxepfwGxNnbR1hWM (deadline: 18.02.2020 23:59)
* Семинар 4. VW + Spark SQL. - https://www.dropbox.com/request/iLXrNjSL5nFnCW3Mh4Rc (deadline: 04.03.2020 23:59)
* Cеминар 5. Streaming algorithms. - https://www.dropbox.com/request/oG8mpP7Jcz7BKjtg58Qd (deadline: 03.03.2020 23:59)
* Семинар 6. KNN. - https://www.dropbox.com/request/Xkf4EH9dJUO7nIAcwvIk (нестрогий deadline: 162 - 10.03.2020 23:59, 161 - 11.03.2020 23:59, после дедлайна формула: #(sum) * (0.85)^#(days after deadline), строгий дедлайн 18.03.2020 00:00)
* Семинар 7. Azure ML. - https://www.dropbox.com/request/PR2xVnId9OQPMhgFlNDq (deadline: 17.03.2020 23:59)
* Cеминар 8. Distributed neural networks. - https://www.dropbox.com/request/qPTZuOB3t1ftxFf2i9E9 (deadline: 22.03.2020 23:59)
* Семинар 9. Mastering bash. - https://www.dropbox.com/request/mfLaSxjEJ9hBlgx2neBF (deadline: 22.03.2020 23:59)

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAFj8HdBYgd79RDeQpg

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || ||
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей - @adkosm

Никита –

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные задания, выдаваемые на каждом семинаре. Дедлайн на сдачу заданий - 2 недели с момента проведения семинара. Не включая день семинара через две недели.
* Практическое домашнее задание (будет выдано ориентировочно на 3 семинаре).
* Письменный экзамен.

Итоговая оценка вычисляется:

Oитоговая = 0.5* Oдомашка + 0.2 * Oсам. раб. + 0.3 * Оэкзамен

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайн на самостоятельные задачи, которые выдаются на семинаре - 2 недели со дня семинара. Не включая день семинара через две недели.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: 24.03.2020

Место: онлайн,

Сдаем экзамен в гугл формах (три поля в форме) на 1,5 часа

Вопросы к экзамену:

• Граф вычислений, RDD, примеры трансформаций в Apache Spark, accumulator и broadcast переменные

• MapReduce. AllReduce в Vowpal Wabbit

• Варианты распараллеливания линейных моделей (на одной машине и на кластере). Хэширование признаков

• Варианты распараллеливания ALS

• Инвертированный индекс для подсчета попарных похожестей на MapReduce

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE)

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE). Варианты распараллеливания градиентного бустинга с feature binning

• Варианты распараллеливания градиентного бустинга с feature binning (вывести формулу для регрессии)

• MinHash и его связь с мерой Жаккара

• Как устроен Bloom Filter с оценкой ошибки

• Как работает Count-Min Sketch с выводом ошибки для точечной оценки

• LSH для поиска похожих документов по мере Жаккара (с использованием MinHash, описать как работают) с выводом вероятности попасть в кандидаты в зависимости от s

• Parameter Server и пример использования для Delayed Block Proximal Gradient.

• Как можно параллелить нейронные сети

В билеты 2 вопроса и 1 задача (на MapReduce)

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

http://wiki.cs.hse.ru/%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_%D0%BD%D0%B0_%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D1%85_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_2020

Машинное обучение на больших данных 2021

2021-01-11T12:00:25Z

Adkosmos: Добавил ссылку на таблицу с оценками

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

Таблица с оценками: https://docs.google.com/spreadsheets/d/1cdzBaW_k4uzyMDtBijeyjji0o21VhJ3g-mO185vmKso/edit#gid=0

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с материалами на GitHub]

Самостоятельные задачи здаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

* Семинар 1. MapReduce. - https://www.dropbox.com/request/DxQZg2jEwvTQxmUnmIdh (deadline: 04.02.2020 23:59)
* Семинар 2. Hadoop MapReduce. - https://www.dropbox.com/request/4zMflMWC7YogYvbXeOP4 (deadline: 11.02.2020 23:59)
* Семинар 3. Spark. - https://www.dropbox.com/request/cMf6OxepfwGxNnbR1hWM (deadline: 18.02.2020 23:59)
* Семинар 4. VW + Spark SQL. - https://www.dropbox.com/request/iLXrNjSL5nFnCW3Mh4Rc (deadline: 04.03.2020 23:59)
* Cеминар 5. Streaming algorithms. - https://www.dropbox.com/request/oG8mpP7Jcz7BKjtg58Qd (deadline: 03.03.2020 23:59)
* Семинар 6. KNN. - https://www.dropbox.com/request/Xkf4EH9dJUO7nIAcwvIk (нестрогий deadline: 162 - 10.03.2020 23:59, 161 - 11.03.2020 23:59, после дедлайна формула: #(sum) * (0.85)^#(days after deadline), строгий дедлайн 18.03.2020 00:00)
* Семинар 7. Azure ML. - https://www.dropbox.com/request/PR2xVnId9OQPMhgFlNDq (deadline: 17.03.2020 23:59)
* Cеминар 8. Distributed neural networks. - https://www.dropbox.com/request/qPTZuOB3t1ftxFf2i9E9 (deadline: 22.03.2020 23:59)
* Семинар 9. Mastering bash. - https://www.dropbox.com/request/mfLaSxjEJ9hBlgx2neBF (deadline: 22.03.2020 23:59)

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAFj8HdBYgd79RDeQpg

Заметки с семинаров (там же указываются задачи для самостоятельного решения) - https://github.com/ADKosm/lsml-seminars-2020-public

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 171 || Космачев Алексей Дмитриевич || ||
|-
| МОП 172 || Орлов Никита || ||
|-
|}

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Алексей - @adkosm

Никита –

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные задания, выдаваемые на каждом семинаре. Дедлайн на сдачу заданий - 2 недели с момента проведения семинара. Не включая день семинара через две недели.
* Практическое домашнее задание (будет выдано ориентировочно на 3 семинаре).
* Письменный экзамен.

Итоговая оценка вычисляется:

Oитоговая = 0.5* Oдомашка + 0.2 * Oсам. раб. + 0.3 * Оэкзамен

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайн на самостоятельные задачи, которые выдаются на семинаре - 2 недели со дня семинара. Не включая день семинара через две недели.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: 24.03.2020

Место: онлайн,

Сдаем экзамен в гугл формах (три поля в форме) на 1,5 часа

Вопросы к экзамену:

• Граф вычислений, RDD, примеры трансформаций в Apache Spark, accumulator и broadcast переменные

• MapReduce. AllReduce в Vowpal Wabbit

• Варианты распараллеливания линейных моделей (на одной машине и на кластере). Хэширование признаков

• Варианты распараллеливания ALS

• Инвертированный индекс для подсчета попарных похожестей на MapReduce

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE)

• Feature binning в градиентном бустинге, процедура выбора лучшего сплита для задачи регрессии (показать, что такой сплит ведет к уменьшению MSE). Варианты распараллеливания градиентного бустинга с feature binning

• Варианты распараллеливания градиентного бустинга с feature binning (вывести формулу для регрессии)

• MinHash и его связь с мерой Жаккара

• Как устроен Bloom Filter с оценкой ошибки

• Как работает Count-Min Sketch с выводом ошибки для точечной оценки

• LSH для поиска похожих документов по мере Жаккара (с использованием MinHash, описать как работают) с выводом вероятности попасть в кандидаты в зависимости от s

• Parameter Server и пример использования для Delayed Block Proximal Gradient.

• Как можно параллелить нейронные сети

В билеты 2 вопроса и 1 задача (на MapReduce)

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

http://wiki.cs.hse.ru/%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_%D0%BD%D0%B0_%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D1%85_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_2020

Машинное обучение на больших данных 2020

2020-03-16T18:07:35Z

Adkosmos:

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по четвергам, 10:30 - 11:50, ауд. R407.

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с материалами на GitHub]

Самостоятельные задачи здаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

* Семинар 1. MapReduce. - https://www.dropbox.com/request/DxQZg2jEwvTQxmUnmIdh (deadline: 04.02.2020 23:59)
* Семинар 2. Hadoop MapReduce. - https://www.dropbox.com/request/4zMflMWC7YogYvbXeOP4 (deadline: 11.02.2020 23:59)
* Семинар 3. Spark. - https://www.dropbox.com/request/cMf6OxepfwGxNnbR1hWM (deadline: 18.02.2020 23:59)
* Семинар 4. VW + Spark SQL. - https://www.dropbox.com/request/iLXrNjSL5nFnCW3Mh4Rc (deadline: 04.03.2020 23:59)
* Cеминар 5. Streaming algorithms. - https://www.dropbox.com/request/oG8mpP7Jcz7BKjtg58Qd (deadline: 03.03.2020 23:59)
* Семинар 6. KNN. - https://www.dropbox.com/request/Xkf4EH9dJUO7nIAcwvIk (нестрогий deadline: 162 - 10.03.2020 23:59, 161 - 11.03.2020 23:59, после дедлайна формула: #(sum) * (0.85)^#(days after deadline), строгий дедлайн 18.03.2020 00:00)
* Семинар 7. Azure ML. - https://www.dropbox.com/request/PR2xVnId9OQPMhgFlNDq (deadline: 17.03.2020 23:59)
* Cеминар 8. Distributed neural networks. - https://www.dropbox.com/request/qPTZuOB3t1ftxFf2i9E9 (deadline: 24.03.2020 23:59)
* Семинар 9. Mastering bash. - https://www.dropbox.com/request/mfLaSxjEJ9hBlgx2neBF (deadline: 31.01.2020 23:59)
* To be continued...

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAFj8HdBYgd79RDeQpg

Заметки с семинаров (там же указываются задачи для самостоятельного решения) - https://github.com/ADKosm/lsml-seminars-2020-public

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 161 || Бардуков Анатолий Андреевич || Четверг 12:10-13:30 || M302
|-
| МОП 162 || Космачев Алексей Дмитриевич || Среда 10:30-11:50 || D208
|-
|}

Ассистенты: Анвардинов Шариф Ринатович

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Анатолий - @sindb

Алексей - @adkosm

Шариф - @shedx

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные задания, выдаваемые на каждом семинаре. Дедлайн на сдачу заданий - 2 недели с момента проведения семинара. Не включая день семинара через две недели.
* Практическое домашнее задание (будет выдано ориентировочно на 3 семинаре).
* Письменный экзамен.

Итоговая оценка вычисляется:

Oитоговая = 0.5* Oдомашка + 0.2 * Oсам. раб. + 0.3 * Оэкзамен

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайн на самостоятельные задачи, которые выдаются на семинаре - 2 недели со дня семинара. Не включая день семинара через две недели.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: ?

Место: ?

Вопросы к экзамену: ?

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных

Основы обработки больших данных 2020

2020-03-13T13:39:57Z

Adkosmos:

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции, которые вы смотрите в онлайне бесплатно, вот тут: https://www.coursera.org/learn/big-data-essentials

Канал в telegram для объявлений:

=== Вебинары ===

Все вебинары начинаются в 19:30.

*'''Вебинар 1.''' 4 февраля — "Базовый спарк + скринкаст в колаб на простых примерах" Зимовнов Андрей Вадимович
*'''Вебинар 2.''' 18 февраля — "SQL + Spark SQL + скринкаст в колаб на логах" Бардуков Анатолий Андреевич
*'''Вебинар 3.''' 3 марта — "Hashing trick и большие линейные модели + скринкаст в колаб на датасете с оф. сайта" Космачев Алексей Дмитриевич

Ассистенты: Анвардинов Шариф Ринатович

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Анатолий - @sindb

Алексей - @adkosm

Шариф - @shedx

=== Правила выставления оценок ===

Оценка за курс выставляется по оценке за практическое домашнее задание.

=== Правила сдачи заданий ===

Присылайте jupyter notebook, если сдаёте несколько раз в названии указывайте дату версии.

Для сдачи: https://www.dropbox.com/request/n4WtzIbtObuLE8kCwbLU

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Практическое домашнее задание ==

Суть задания:
с помощью Spark SQL посчитать различные статистики по данным '''(5 баллов)''', собрать датасет для VW и запустить обучение '''(5 баллов)'''.

По ссылке найдёте подробное описание и помощь в настройке окружения в колабе https://bit.ly/BDEHOME

Уменьшенный датасет доступен здесь: https://sindhdphdistorage.blob.core.windows.net/bdesome/zipfile.zip

Дата выдачи - '''18 февраля'''

Дедлайн - '''14 марта 23:59'''

== Экзамен ==

Дата: -

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

Машинное обучение на больших данных 2020

2020-03-04T18:21:08Z

Adkosmos:

== О курсе ==

Курс читается для студентов 4-го курса [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 3 модуле. Проводится с 2017 года.

'''Лектор:''' [https://www.hse.ru/org/persons/175396509 Зимовнов Андрей Вадимович]

Лекции ПМИ проходят по четвергам, 10:30 - 11:50, ауд. R407.

Вычислительные мощности в облаке Azure для курса предоставила компания Microsoft.

=== Полезные ссылки ===

[https://github.com/ZEMUSHKA/lsml_hse_lectures Репозиторий с материалами на GitHub]

Самостоятельные задачи здаются в Dropbox. Для каждого семинара своя отдельная ссылка на прием заданий:

* Семинар 1. MapReduce. - https://www.dropbox.com/request/DxQZg2jEwvTQxmUnmIdh (deadline: 04.02.2020 23:59)
* Семинар 2. Hadoop MapReduce. - https://www.dropbox.com/request/4zMflMWC7YogYvbXeOP4 (deadline: 11.02.2020 23:59)
* Семинар 3. Spark. - https://www.dropbox.com/request/cMf6OxepfwGxNnbR1hWM (deadline: 18.02.2020 23:59)
* Семинар 4. VW + Spark SQL. - https://www.dropbox.com/request/iLXrNjSL5nFnCW3Mh4Rc (deadline: 04.03.2020 23:59)
* Cеминар 5. Стриминговые алгоритмы. - https://www.dropbox.com/request/oG8mpP7Jcz7BKjtg58Qd (deadline: 03.03.2020 23:59)
* Семинар 6. KNN. - https://www.dropbox.com/request/Xkf4EH9dJUO7nIAcwvIk (deadline: 10.03.2020 23:59)
* Семинар 7. Azure ML. - https://www.dropbox.com/request/PR2xVnId9OQPMhgFlNDq (deadline: 17.03.2020 23:59)
* To be continued...

Канал в telegram для объявлений: https://t.me/joinchat/AAAAAFj8HdBYgd79RDeQpg

Заметки с семинаров (там же указываются задачи для самостоятельного решения) - https://github.com/ADKosm/lsml-seminars-2020-public

Ошибки в материалах лекций/семинаров/заданий лучше всего оформлять в виде issue на github.

== Семинары ==

{| class="wikitable"
|-
! Группа !! Преподаватель !! Время !! Аудитория
|-
| МОП 161 || Бардуков Анатолий Андреевич || Четверг 12:10-13:30 || M302
|-
| МОП 162 || Космачев Алексей Дмитриевич || Среда 10:30-11:50 || D208
|-
|}

Ассистенты: Анвардинов Шариф Ринатович

=== Консультации ===

Консультации с преподавателями и учебными ассистентами (если иное не оговорено на странице семинаров конкретной группы) по курсу проводятся по предварительной договорённости ввиду невостребованности регулярных консультаций.

При необходимости, можно писать на почту или в Telegram:

Анатолий - @sindb

Алексей - @adkosm

Шариф - @shedx

=== Правила выставления оценок ===

В курсе предусмотрено несколько форм контроля знания:
* Самостоятельные задания, выдаваемые на каждом семинаре. Дедлайн на сдачу заданий - 2 недели с момента проведения семинара. Не включая день семинара через две недели.
* Практическое домашнее задание (будет выдано ориентировочно на 3 семинаре).
* Письменный экзамен.

Итоговая оценка вычисляется:

Oитоговая = 0.5* Oдомашка + 0.2 * Oсам. раб. + 0.3 * Оэкзамен

Автомат возможен при высоких оценках за практическое домашнее задание и решенные самостоятельные задания.

=== Правила сдачи заданий ===

На все домашние задания каждому студенту отводится ~500$ для работы в облаке Azure.
Важно останавливать\удалять ресурсы, создаваемые в облаке, так как в противном случае финансов может не хватить для выполнения всех заданий. Полезно при этом овладеть навыком сохранения промежуточных данных в облачном хранилище - это позволит максимально быстро выполнять задания с минимальными финансовыми затратами.

Дедлайн на самостоятельные задачи, которые выдаются на семинаре - 2 недели со дня семинара. Не включая день семинара через две недели.

Дедлайны по всем домашним заданиям являются жёсткими, то есть после срока работы не принимаются.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

== Лекции ==
Слайды тут: https://github.com/ZEMUSHKA/lsml_hse_lectures

== Домашка ==
Выдана: 21 февраля 2020 23:59

Дедлайн: 14 марта 2020 23:59

https://docs.google.com/document/d/1JZ2ODuCO18tLrVPFx9k9Df_b7IbRZtgZ1MGHcLqHxFs/edit?usp=sharing

== Экзамен ==

Дата: ?

Место: ?

Вопросы к экзамену: ?

== Полезные материалы ==
===Книги===
# Ron Bekkerman, Mikhail Bilenko, John Langford. Scaling up Machine Learning: Parallel and Distributed Approaches, Cambridge University Press, 2011.
# Jure Leskovec, Anand Rajaraman, Jeff Ullman. Mining of Massive Datasets, Cambridge University Press, 2014.
# Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning (Adaptive Computation and Machine Learning series), The MIT Press, 2016.
# Sandy Ryza, Uri Laserson, Sean Owen, Josh Wills. Advanced Analytics with Spark: Patterns for Learning from Data at Scale, O'Reilly Media, 2015.

===Странички прошлых лет===
http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных