Развёртывание ML-моделей в высоконагруженных системах 26: различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к навигации Перейти к поиску
← Предыдущая правка
Нет описания правки
Нет описания правки
 
(не показаны 3 промежуточные версии этого же участника)
Строка 10: Строка 10:
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw Видеозаписи занятий]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw Видеозаписи занятий]


Github с материалами курса (TBD)
[https://github.com/alexpros/ml_deployment_in_highload_systems/tree/main Github с материалами курса]


Чат в telegram для обсуждений:  https://t.me/+JA2WBKb58yIwZWJi
[https://t.me/+JA2WBKb58yIwZWJi Чат в telegram для обсуждений]


=== Правила выставления оценок ===
=== Правила выставления оценок ===
Строка 44: Строка 44:
! Дата !! Тема !! Презентация !! Ссылка на запись
! Дата !! Тема !! Презентация !! Ссылка на запись
|-
|-
| 10.02.2026 || Вводное занятие. Общая информация. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_01_introduction/introduction_lecture.pdf Перезентация] ||
| 10.02.2026 || Вводное занятие. Общая информация. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_01_introduction/introduction_lecture.pdf Презентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-10T08-10-31Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-10T08-10-31Z.mp4 Запись]
|-
|-
| 17.02.2025 || Знакомство с Triton Inference Server. ||  
| 17.02.2026 || Знакомство с Triton Inference Server. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_02_triton_inference_server/triton_server_architecture.pdf Презентация] ||
[https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_02_triton_inference_server/triton_server_architecture.pdf Перезентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-17T08-10-06Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-17T08-10-06Z.mp4 Запись]
|-
|-
| 24.02.2025 || Backends: python, dali, tensorrt, onnx, llm. ||  
| 24.02.2026 || Backends: python, dali, tensorrt, onnx, llm. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_03_backends/backends_lecture_seminar.pdf Презентация] ||
[https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_03_backends/backends_lecture_seminar.pdf Презентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-24T08-09-49Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-24T08-09-49Z.mp4 Запись]
|-
|-
| 03.03.2025 || Конвертация моделей. ||  
| 03.03.2026 || Конвертация моделей. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_04_conversion_and_optimization/HSE_triton__speed_things_up.pptx Презентация] ||
[https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_04_conversion_and_optimization/HSE_triton__speed_things_up.pptx Презентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-03-03T08-08-49Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-03-03T08-08-49Z.mp4 Запись]
|-
|-
| 10.03.2025 || Ансамбли. || TBD || TBD
| 10.03.2026 || Ансамбли. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_05_ensembles/triton_ensembles.pdf Презентация] || [https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-03-10T07-58-29Z.mp4 Запись]
|-
|-
| 17.03.2025 || Perf-analyzer. || TBD || TBD
| 17.03.2026 || Perf-analyzer. || TBD || TBD
|-
|-
| 24.03.2025 || Сравнение подходов к развертыванию на практике. || TBD || TBD
| 24.03.2026 || Сравнение подходов к развертыванию на практике. || TBD || TBD
|-
|-
| 31.03.2025 || Итоговый проект, ответы на вопросы. || TBD || TBD
| 31.03.2026 || Итоговый проект, ответы на вопросы. || TBD || TBD
|}
 
 
== Домашние задания ==
 
{| class="wikitable"
|-
! Дата !! Тема !! Дедлайн
|-
| 21.02.2026 || Домашнее задание #1. Построить одношаговый пайплайн на базе Python Backend для классификационной модели с HuggingFace. || 07.03.2026 23:30
|-
| 10.03.2026 || Домашнее задание #2. Конвертация моделей в onnx и работа с onnx backend. || 24.03.2026 23:30
|-
| 10.03.2026 || Домашнее задание #3. Работа с ансамблями и их деплой. || 24.03.2026 23:30
|}
|}

Текущая версия от 10:39, 16 марта 2026

О курсе

Курс читается для студентов 4-го курса в 3-м модуле.


Полезные ссылки

Карточка курса и программа

Видеозаписи занятий

Github с материалами курса

Чат в telegram для обсуждений

Правила выставления оценок

Итоговая оценка вычисляется на основе оценки за домашние задания в модуле и оценки за финальный проект:

Итог = Округление(0.2 * ДЗ_1 + 0.25 * ДЗ_2 + 0.25 * ДЗ_3 + 0.3 * ПР)

ДЗ_* — оценки за домашние работы

ПР — оценка за финальный проект

Округление арифметическое.


Правила сдачи заданий

За каждый день просрочки после мягкого дедлайна снимается 2 балла. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Мы оставляем за собой право пригласить студента для защиты своего ДЗ, если заподозрим плагиат.

При наличии уважительной причины дедлайн по заданию может быть перенесён на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.


Материалы

Дата Тема Презентация Ссылка на запись
10.02.2026 Вводное занятие. Общая информация. Презентация

Запись

17.02.2026 Знакомство с Triton Inference Server. Презентация

Запись

24.02.2026 Backends: python, dali, tensorrt, onnx, llm. Презентация

Запись

03.03.2026 Конвертация моделей. Презентация

Запись

10.03.2026 Ансамбли. Презентация Запись
17.03.2026 Perf-analyzer. TBD TBD
24.03.2026 Сравнение подходов к развертыванию на практике. TBD TBD
31.03.2026 Итоговый проект, ответы на вопросы. TBD TBD


Домашние задания

Дата Тема Дедлайн
21.02.2026 Домашнее задание #1. Построить одношаговый пайплайн на базе Python Backend для классификационной модели с HuggingFace. 07.03.2026 23:30
10.03.2026 Домашнее задание #2. Конвертация моделей в onnx и работа с onnx backend. 24.03.2026 23:30
10.03.2026 Домашнее задание #3. Работа с ансамблями и их деплой. 24.03.2026 23:30
Источник — https://wiki.cs.hse.ru/index.php?title=Развёртывание_ML-моделей_в_высоконагруженных_системах_26&oldid=95812