Обучение с подкреплением (ИИ24, 7 модуль): различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к навигации Перейти к поиску
Опечатки
Опечатки
Строка 39: Строка 39:
| style="background:#eaecf0;" | '''5''' [[https://www.youtube.com/watch?v=8KU9nnp1PMo&list=PLmA-1xX7IuzDe8CEWijYwsgmdHXyaEQsg&index=1&pp=iAQB YouTube]] [[https://vkvideo.ru/playlist/-227011779_68/video-227011779_456239827?linked=1 VKVideo]] || Advanced Policy-Based: TRPO, PPO and beyond || 07/02/2026 ||  
| style="background:#eaecf0;" | '''5''' [[https://www.youtube.com/watch?v=8KU9nnp1PMo&list=PLmA-1xX7IuzDe8CEWijYwsgmdHXyaEQsg&index=1&pp=iAQB YouTube]] [[https://vkvideo.ru/playlist/-227011779_68/video-227011779_456239827?linked=1 VKVideo]] || Advanced Policy-Based: TRPO, PPO and beyond || 07/02/2026 ||  
|-
|-
| style="background:#eaecf0;" | '''6''' [[ YouTube]] [[ VKVideo]] || Continuous Control: DDPG, SAC and beyond || 14/02/2026 ||  
| style="background:#eaecf0;" | '''6''' [[ Youtube]] [[ VKVideo]] || Continuous Control: DDPG, SAC and beyond || 14/02/2026 ||  
|-
|-
| style="background:#eaecf0;" | '''7''' [[ YouTube]] [[ VKVideo]] || Offline RL || 21/02/2026 ||  
| style="background:#eaecf0;" | '''7''' [[ Youtube]] [[ VKVideo]] || Offline RL || 21/02/2026 ||  
|-
|-
| style="background:#eaecf0;" | '''8''' [[ YouTube]] [[ VKVideo]] || Multi-Armed Bandits || 28/02/2026 ||  
| style="background:#eaecf0;" | '''8''' [[ Youtube]] [[ VKVideo]] || Multi-Armed Bandits || 28/02/2026 ||  
|-
|-
| style="background:#eaecf0;" | '''9''' [[ YouTube]] [[ VKVideo]] || Model-based RL: AlphaZero and friends || 07/03/2026 ||  
| style="background:#eaecf0;" | '''9''' [[ Youtube]] [[ VKVideo]] || Model-based RL: AlphaZero and friends || 07/03/2026 ||  
|-
|-
| style="background:#eaecf0;" | '''10''' [[ YouTube]] [[ VKVideo]] || RL in a context of LLMs || 14/03/2026 ||  
| style="background:#eaecf0;" | '''10''' [[ Youtube]] [[ VKVideo]] || RL in a context of LLMs || 14/03/2026 ||  
|-
|-
| style="background:#eaecf0;" | '''11''' [[ YouTube]] [[ VKVideo]] || Practical RL || 21/03/2026 ||  
| style="background:#eaecf0;" | '''11''' [[ Youtube]] [[ VKVideo]] || Practical RL || 21/03/2026 ||  
|-
|-
|}
|}

Версия от 12:45, 14 февраля 2026

О курсе

Занятия проводятся в Zoom по субботам с 13:00 МСК

Контакты

Чат курса в TG: [[1]]

Преподаватель: Сергей Лактионов, Вячеслав Бучков

Ассистент Контакты

Материалы курса

Ссылка на плейлист курса на YouTube: [YouTube-playlist]

Ссылка на плейлист курса в VKVideo: [VKVideo-playlist]

Ссылка на GitHub с материалами курса: [GitHub repository]

Занятие Тема Дата Дополнительные материалы
1 [YouTube] [VKVideo] Intro to RL, Dynamic Programming 10/01/2026
2 [YouTube] [VKVideo] Model-Free Tabular RL: Q-Learning, SARSA 17/01/2026
3 [YouTube] [VKVideo] Intro to Deep RL: DQN, RAINBOW and beyond 24/01/2026
4 [YouTube] [VKVideo] Policy-Based Methods: Policy Gradient, REINFORCE, A2C 31/01/2026
5 [YouTube] [VKVideo] Advanced Policy-Based: TRPO, PPO and beyond 07/02/2026
6 Youtube VKVideo Continuous Control: DDPG, SAC and beyond 14/02/2026
7 Youtube VKVideo Offline RL 21/02/2026
8 Youtube VKVideo Multi-Armed Bandits 28/02/2026
9 Youtube VKVideo Model-based RL: AlphaZero and friends 07/03/2026
10 Youtube VKVideo RL in a context of LLMs 14/03/2026
11 Youtube VKVideo Practical RL 21/03/2026

Формула оценивания

Оценка = МИН(10, 10*(0.65*HW + 0.10*TA + 0.25*RC)), где

  • HW - сумма баллов за (как минимум) 5 ДЗ;
  • RC - оценка за презентацию статьи, посвященной новым алгоритмам или неожиданным применениям RL-парадигмы в индустрии;
  • TA - сумма баллов за еженедельные квизы (суммарно 10 квизов).

Для каждого домашнего задания есть мягкий дедлайн, сдача после которого в течение недели до жёсткого дедлайна оценивается со штрафом 5% от оценки за ДЗ за каждый день просрочки.

Домашние задания

Литература