Развёртывание ML-моделей в высоконагруженных системах 26: различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к навигации Перейти к поиску
Нет описания правки
Нет описания правки
Строка 44: Строка 44:
! Дата !! Тема !! Презентация !! Ссылка на запись
! Дата !! Тема !! Презентация !! Ссылка на запись
|-
|-
| 10.02.2026 || Вводное занятие. Общая информация. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_01_introduction/introduction_lecture.pdf Перезентация] ||
| 10.02.2026 || Вводное занятие. Общая информация. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_01_introduction/introduction_lecture.pdf Презентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-10T08-10-31Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-10T08-10-31Z.mp4 Запись]
|-
|-
| 17.02.2025 || Знакомство с Triton Inference Server. ||  
| 17.02.2026 || Знакомство с Triton Inference Server. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_02_triton_inference_server/triton_server_architecture.pdf Презентация] ||
[https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_02_triton_inference_server/triton_server_architecture.pdf Перезентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-17T08-10-06Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-17T08-10-06Z.mp4 Запись]
|-
|-
| 24.02.2025 || Backends: python, dali, tensorrt, onnx, llm. ||  
| 24.02.2026 || Backends: python, dali, tensorrt, onnx, llm. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_03_backends/backends_lecture_seminar.pdf Презентация] ||
[https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_03_backends/backends_lecture_seminar.pdf Презентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-24T08-09-49Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-02-24T08-09-49Z.mp4 Запись]
|-
|-
| 03.03.2025 || Конвертация моделей. ||  
| 03.03.2026 || Конвертация моделей. || [https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_04_conversion_and_optimization/HSE_triton__speed_things_up.pptx Презентация] ||
[https://github.com/alexpros/ml_deployment_in_highload_systems/blob/main/week_04_conversion_and_optimization/HSE_triton__speed_things_up.pptx Презентация] ||
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-03-03T08-08-49Z.mp4 Запись]
[https://disk.yandex.ru/d/bPQBMHpfmzA-Xw/%D0%9F%D1%80%D0%BE%D1%81%D0%BA%D1%83%D1%80%D1%8F%D0%BA%D0%BE%D0%B2%202026-03-03T08-08-49Z.mp4 Запись]
|-
|-
| 10.03.2025 || Ансамбли. || TBD || TBD
| 10.03.2026 || Ансамбли. || TBD || TBD
|-
|-
| 17.03.2025 || Perf-analyzer. || TBD || TBD
| 17.03.2026 || Perf-analyzer. || TBD || TBD
|-
|-
| 24.03.2025 || Сравнение подходов к развертыванию на практике. || TBD || TBD
| 24.03.2026 || Сравнение подходов к развертыванию на практике. || TBD || TBD
|-
|-
| 31.03.2025 || Итоговый проект, ответы на вопросы. || TBD || TBD
| 31.03.2026 || Итоговый проект, ответы на вопросы. || TBD || TBD
|}
|}

Версия от 22:02, 15 марта 2026

О курсе

Курс читается для студентов 4-го курса в 3-м модуле.


Полезные ссылки

Карточка курса и программа

Видеозаписи занятий

Github с материалами курса (TBD)

Чат в telegram для обсуждений: https://t.me/+JA2WBKb58yIwZWJi

Правила выставления оценок

Итоговая оценка вычисляется на основе оценки за домашние задания в модуле и оценки за финальный проект:

Итог = Округление(0.2 * ДЗ_1 + 0.25 * ДЗ_2 + 0.25 * ДЗ_3 + 0.3 * ПР)

ДЗ_* — оценки за домашние работы

ПР — оценка за финальный проект

Округление арифметическое.


Правила сдачи заданий

За каждый день просрочки после мягкого дедлайна снимается 2 балла. После жёсткого дедлайна работы не принимаются. Даже при опоздании на одну секунду. Сдавайте заранее.

При обнаружении плагиата оценки за домашнее задание обнуляются всем задействованным в списывании студентам, а также подаётся докладная записка в деканат. Следует помнить, что при повторном списывании деканат имеет право отчислить студента.

Мы оставляем за собой право пригласить студента для защиты своего ДЗ, если заподозрим плагиат.

При наличии уважительной причины дедлайн по заданию может быть перенесён на количество дней, равное продолжительности уважительной причины. Решение о том, является ли причина уважительной, принимает исключительно учебный офис.


Материалы

Дата Тема Презентация Ссылка на запись
10.02.2026 Вводное занятие. Общая информация. Презентация

Запись

17.02.2026 Знакомство с Triton Inference Server. Презентация

Запись

24.02.2026 Backends: python, dali, tensorrt, onnx, llm. Презентация

Запись

03.03.2026 Конвертация моделей. Презентация

Запись

10.03.2026 Ансамбли. TBD TBD
17.03.2026 Perf-analyzer. TBD TBD
24.03.2026 Сравнение подходов к развертыванию на практике. TBD TBD
31.03.2026 Итоговый проект, ответы на вопросы. TBD TBD