Генеративные модели в машинном обучении (ИИ 2024): различия между версиями

Материал из Wiki - Факультет компьютерных наук
Перейти к навигации Перейти к поиску
← Предыдущая правкаСледующая правка →
Нет описания правки
Нет описания правки
Строка 80: Строка 80:
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить)
Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить)


== Домашние задания (ТУДУ) ==
== Домашние задания ==
Инвайт в Anytask: ''UZppWJ0''
Инвайт в Anytask: ''UZppWJ0'' (проверить)


# Полносвязные нейронные сети <br/> Часть 1 "Автоматическое дифференцирование" (5 бонусных баллов)| [[https://github.com/isadrtdinov/intro-to-dl-hse/tree/2022-2023/homeworks-small/shw-01-mlp Материалы]] <br/> Часть 2 "Полносвязные нейронные сети" (основная, 10 баллов) | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-01-mlp-light.ipynb Ноутбук]] <br/> '''Дедлайн: 08.05.2024'''
===Задание 1. Трансформеры ===
# Свёрточные нейронные сети | [[https://github.com/isadrtdinov/intro-to-dl-hse/blob/2022-2023/homeworks-small/shw-02-cnn.ipynb Ноутбук]] | '''Дедлайн: 26.05.2024'''
Вам предстоит дообучить трансформер на своих данных.
# Рекуррентные нейронные сети | [https://drive.google.com/drive/folders/1cB7C0MlqRU-LdYsASP2Uy_gD-kbwx0Fg?usp=drive_link Языковые модели (RNN, LSTM)] | '''Дедлайн: 09.06.2024'''
 
'''Дедлайн''': 04 марта 2024 года 23:59
 
'''Ссылка''': (ссылка)
 
===Задание 2. Генеративные модели ===
Вам предстоит обучить генеративную модель ее на своих данных.
 
'''Дедлайн''': 01 апреля 2024 года 23:59
 
'''Ссылка''': (ссылка)
 
===Задание 3. Мультимодельные модели ===
Вам предстоит разобраться с мультимодальностью.
 
'''Дедлайн''': 01 апреля 2024 года 23:59
 
'''Ссылка''': (ссылка)


== Тесты и неоцениваемые теоретические ДЗ (ТУДУ) ==
== Тесты и неоцениваемые теоретические ДЗ (ТУДУ) ==
Строка 94: Строка 111:
...
...


== Литература (ТУДУ) ==
== Литература ==
* Гудфеллоу Я. − Глубокое обучение  
 
* Christopher M. Bishop - Pattern Recognition and Machine Learning
===Курсы по машинному обучению и анализу данных===
* Стивенс Э. - PyTorch. Освещая глубокое обучение
* [http://wiki.cs.hse.ru/Основы_глубинного_обучения/2023 Основы глубинного обучения, ВШЭ]
* [https://github.com/mryab/dl-hse-ami Глубинное обучение, ВШЭ ]
* [https://stepik.org/course/124069/promo, Глубинное обучение 1, МФТИ]
* [https://stepik.org/course/111171/promo, Глубинное обучение 2, МФТИ]
* [https://academy.yandex.ru/handbook/ml Онлайн-учебник по машинному обучению от ШАД]
* [http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_%28курс_лекций%2C_К.В.Воронцов%29 Курс по машинному обучению К.В. Воронцова]
 
===Книги===
* [https://d2l.ai/ Dive into Deep Learning]
* [https://www.deeplearningbook.org/ Goodfellow I., Bengio Y. and Courville A., Deep Learning]
* [https://link.springer.com/book/10.1007/978-0-387-84858-7 Hastie T., Tibshirani R, Friedman J. The Elements of Statistical Learning (2nd edition). Springer, 2009]
* [https://www.microsoft.com/en-us/research/uploads/prod/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning-2006.pdf Bishop C. M. Pattern Recognition and Machine Learning. Springer, 2006]

Версия от 15:23, 30 августа 2024

О курсе

Курс читается на первом модуле студентам магистерской образовательной программы "Искусственный интеллект".

Семинары (ТУДУ)

У базовой группы с 11:10 по 12:30 по ссылке [ Zoom].

У продвинутой группы с 13:00 по 14:20 по ссылке [ Zoom].

Контакты

Канал и чат курса в TG: channel link

Преподаватели Контакты
Ершов Глеб @GLBHLB
Гущин Михаил @mikhail_h91
Ассистенты Контакты
Прохоров Савелий @Savely_Prokhorov
Охотин Даниил @danokil
Никифорова Соня-Аня @sonya_leaf
Кураторы Контакты
Залесинский Роман @roman_zalesinskii
Зуев Гордей @WhiteShape

Материалы курса

Ссылка на плейлист курса на VK: VK-playlist

Ссылка на GitHub с материалами курса: [GitHub] (ТУДУ)

Ссылка на GDrive c заполненными семинарскими ноутбуками: [GDrive] (ТУДУ)

Ссылка на stepik: stepik

Занятие Тема Дата Материалы для самоподготовки к семинарам Дополнительные материалы
1 Трансформеры 09.09.2024 - 15.09.2024 - -
2 Архитектуры трансформеров 16.09.2024 - 22.09.2024 - -
3 Генеративно-состязательные сети (GANs) 23.09.2024 - 29.09.2024 - -
4 Вариационные автокодировщики (VAEs) и нормализующие потоки (Normalizing Flows) 30.09.2024 - 06.10.2024 - -
5 Диффузионные модели 07.10.2024 - 13.10.2024 - -
6 Мультимодальные модели 14.10.2024 - 20.10.2024 - -
7 Синтез речи (Text-to-Speech) 21.10.2024 - 27.10.2024 - -
8 Оптимизация моделей 28.10.2024 - 03.11.2024 - -

Формула оценивания

Общая оценка: min(0.45*ДЗ + 0.2*СР + 0.35*Экз. + 0.05*Самооценка, 10)

Оценка за экзамен: 0.225 * Письм. + 0.125 * Уст.

Самооценка: 0.005 * 10 (проверить)

Условие автомата: накоп >= 7.5, где накоп = (0.15*степик + 0.6*ДЗ) / 0.75 (проверить)

Домашние задания

Инвайт в Anytask: UZppWJ0 (проверить)

Задание 1. Трансформеры

Вам предстоит дообучить трансформер на своих данных.

Дедлайн: 04 марта 2024 года 23:59

Ссылка: (ссылка)

Задание 2. Генеративные модели

Вам предстоит обучить генеративную модель ее на своих данных.

Дедлайн: 01 апреля 2024 года 23:59

Ссылка: (ссылка)

Задание 3. Мультимодельные модели

Вам предстоит разобраться с мультимодальностью.

Дедлайн: 01 апреля 2024 года 23:59

Ссылка: (ссылка)

Тесты и неоцениваемые теоретические ДЗ (ТУДУ)

...

Экзамен (ТУДУ)

...

Литература

Курсы по машинному обучению и анализу данных

Книги

Источник — https://wiki.cs.hse.ru/index.php?title=Генеративные_модели_в_машинном_обучении_(ИИ_2024)&oldid=85538