Автоматическая обработка текста 24/25 (МОВС23) - История изменений

Saprokhorov 1: small impro

2025-06-20T19:28:10Z

small impro

← Предыдущая версия		Версия от 19:28, 20 июня 2025
Строка 65:		Строка 65:
	\| style="background:#eaecf0;" \| '''7''' [[https://www.youtube.com/watch?v=LT_pJ56tVso&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=7&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/Efficiency_slides.pdf Слайды]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| [https://github.com/mryab/efficient-dl-systems Хороший курс] по взрослой работе с моделями \|\|		\| style="background:#eaecf0;" \| '''7''' [[https://www.youtube.com/watch?v=LT_pJ56tVso&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=7&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/Efficiency_slides.pdf Слайды]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| [https://github.com/mryab/efficient-dl-systems Хороший курс] по взрослой работе с моделями \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''8''' [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/RAG_Tools_slides.pdf Доска], [https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Ноутбук]] Retrieval-Augmented (RAG) LLM \|\| 19.12.24 (Чт.) \|\|		\| style="background:#eaecf0;" \| '''8''' [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/RAG_Tools_slides.pdf Доска], [https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Ноутбук]] Retrieval-Augmented Generation (RAG), Tools, LLM-based System Overview \|\| 19.12.24 (Чт.) \|\|
	RAG and Tooling Frameworks: https://www.llamaindex.ai/framework, https://www.langchain.com/, https://huggingface.co/docs/transformers/en/agents		RAG and Tooling Frameworks: https://www.llamaindex.ai/framework, https://www.langchain.com/, https://huggingface.co/docs/transformers/en/agents

Saprokhorov 1: add deadlines for optional track and weights for hw1-3 if no exam

2024-12-21T01:29:48Z

add deadlines for optional track and weights for hw1-3 if no exam

← Предыдущая версия		Версия от 01:29, 21 декабря 2024
Строка 94:		Строка 94:

	=== Main Track ===		=== Main Track ===
	# Обучение эмбеддингов с помощью библиотеки fasttext, реализация реального движка поиска эмбеддинга-ответа по запросу в векторной БД <br /> - Выдана 21.11.24, '''Дедлайн - 23:59 (МСК), 01.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/2.Classification/NLP_hw_week_2.ipynb Ноутбук] <br /> - Весит 30% от итога		# Обучение эмбеддингов с помощью библиотеки fasttext, реализация реального движка поиска эмбеддинга-ответа по запросу в векторной БД <br /> - Выдана 21.11.24, '''Дедлайн - 23:59 (МСК), 01.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/2.Classification/NLP_hw_week_2.ipynb Ноутбук] <br /> - Весит 30% от итога (если выбираете идти на экзамен) и 40% при перевзвешивании в случае отказа от экзамена
	# Тонкая настройка (fine-tuning) BERT на собственных данных // Имплементация GPT 2 <br /> - Выдана 03.12.24, '''Дедлайн - 23:59 (МСК), 15.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_BERT.ipynb Ноутбук (BERT)], [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_GPT.ipynb Ноутбук (GPT)] <br /> - Весит 20% от итога		# Тонкая настройка (fine-tuning) BERT на собственных данных // Имплементация GPT 2 <br /> - Выдана 03.12.24, '''Дедлайн - 23:59 (МСК), 15.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_BERT.ipynb Ноутбук (BERT)], [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_GPT.ipynb Ноутбук (GPT)] <br /> - Весит 20% от итога (если выбираете идти на экзамен) и 30% при перевзвешивании в случае отказа от экзамена
	# Тонкая настройка LLM (LLAMA 3 8b) с помощью PEFT <br /> - Выдана 12.12.24, '''Дедлайн - 23:59 (МСК), 22.12.2024 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/NLP_seminar_finetuning_raw.ipynb Ноутбук] <br /> - Весит 20% от итога		# Тонкая настройка LLM (LLAMA 3 8b) с помощью PEFT <br /> - Выдана 12.12.24, '''Дедлайн - 23:59 (МСК), 22.12.2024 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/NLP_seminar_finetuning_raw.ipynb Ноутбук] <br /> - Весит 20% от итога (если выбираете идти на экзамен) и 30% при перевзвешивании в случае отказа от экзамена

	=== Optional Track ===		=== Optional Track ===
			'''Мягкий дедлайн - 27.12.24 (Пт.)''', ''жёсткий - 30.12.24 (Пн.)''

	* Тонкая настройка собственной модели с использованием библиотеки TRL <br /> - Выдана 14.12.24, [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/HSE_NLP_HW_4_optional.ipynb Ноутбук] <br /> - Весит 15% от итога		* Тонкая настройка собственной модели с использованием библиотеки TRL <br /> - Выдана 14.12.24, [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/HSE_NLP_HW_4_optional.ipynb Ноутбук] <br /> - Весит 15% от итога
	* Реализация Round-to-Nearest (RTN), Generalized Post-Training Quantization (GPTQ) <br /> - Выдано 16.12.24, [https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/HSE_NLP_HW_5_optional.ipynb.ipynb Ноутбук] <br /> - Весит 15% от итога		* Реализация Round-to-Nearest (RTN), Generalized Post-Training Quantization (GPTQ) <br /> - Выдано 16.12.24, [https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/HSE_NLP_HW_5_optional.ipynb.ipynb Ноутбук] <br /> - Весит 15% от итога

Saprokhorov 1: add kinda of further reading list

2024-12-21T00:29:30Z

add kinda of further reading list

← Предыдущая версия		Версия от 00:29, 21 декабря 2024
Строка 111:		Строка 111:

	== Литература ==		== Литература ==
	#		Статьи, упомянутые в лекциях
	#
	#
	#

Saprokhorov 1: add some external links

2024-12-20T20:16:47Z

add some external links

← Предыдущая версия		Версия от 20:16, 20 декабря 2024
Строка 63:		Строка 63:
	\| style="background:#eaecf0;" \| '''6''' [[https://www.youtube.com/watch?v=C5HRjlQLMBM&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=6&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_slides.pdf Слайды], [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_whiteboard.pdf Доска]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 14.12.24 (Сб.) \|\| \|\|		\| style="background:#eaecf0;" \| '''6''' [[https://www.youtube.com/watch?v=C5HRjlQLMBM&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=6&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_slides.pdf Слайды], [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_whiteboard.pdf Доска]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 14.12.24 (Сб.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''7''' [[https://www.youtube.com/watch?v=LT_pJ56tVso&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=7&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/Efficiency_slides.pdf Слайды]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| \|\|		\| style="background:#eaecf0;" \| '''7''' [[https://www.youtube.com/watch?v=LT_pJ56tVso&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=7&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/Efficiency_slides.pdf Слайды]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| [https://github.com/mryab/efficient-dl-systems Хороший курс] по взрослой работе с моделями \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''8''' [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/RAG_Tools_slides.pdf ~~Слайды~~], [https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Ноутбук]] Retrieval-Augmented (RAG) LLM \|\| 19.12.24 (Чт.) \|\| \|\|		\| style="background:#eaecf0;" \| '''8''' [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/RAG_Tools_slides.pdf Доска], [https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Ноутбук]] Retrieval-Augmented (RAG) LLM \|\| 19.12.24 (Чт.) \|\|
			RAG and Tooling Frameworks: https://www.llamaindex.ai/framework, https://www.langchain.com/, https://huggingface.co/docs/transformers/en/agents

			Graph RAG-specific Repos: https://github.com/HKUDS/LightRAG, https://github.com/microsoft/graphrag
			\|\|
			Faiss (vectorDB): https://github.com/facebookresearch/faiss, https://github.com/facebookresearch/faiss/wiki/Guidelines-to-choose-an-index

			GraphDB (turn-on your VPN): https://neo4j.com/docs/getting-started/graph-database/
	\|}		\|}

Saprokhorov 1: del hws from what was notebooks

2024-12-20T09:22:05Z

del hws from what was notebooks

← Предыдущая версия		Версия от 09:22, 20 декабря 2024
Строка 59:		Строка 59:
	\|\|		\|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''5''' [[https://www.youtube.com/watch?v=Mi21czVUyCo&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=5&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/Pretrain_finetune_slides.pdf Слайды~~], [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/NLP_seminar_finetuning_raw.ipynb Ноутбук~~], [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/Pretrain_finetune_whiteboard.pdf Доска]] Обучение Больших языковых моделей (Large Language Models): Обучение с нуля vs Тонкая настройка (finetuning) \|\| 12.12.24 (Чт.) \|\| \|\|		\| style="background:#eaecf0;" \| '''5''' [[https://www.youtube.com/watch?v=Mi21czVUyCo&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=5&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/Pretrain_finetune_slides.pdf Слайды], [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/Pretrain_finetune_whiteboard.pdf Доска]] Обучение Больших языковых моделей (Large Language Models): Обучение с нуля vs Тонкая настройка (finetuning) \|\| 12.12.24 (Чт.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''6''' [[https://www.youtube.com/watch?v=C5HRjlQLMBM&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=6&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_slides.pdf Слайды~~], [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/HSE_NLP_HW_4_optional.ipynb Ноутбук~~], [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_whiteboard.pdf Доска]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 14.12.24 (Сб.) \|\| \|\|		\| style="background:#eaecf0;" \| '''6''' [[https://www.youtube.com/watch?v=C5HRjlQLMBM&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=6&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_slides.pdf Слайды], [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_whiteboard.pdf Доска]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 14.12.24 (Сб.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''7''' [[https://www.youtube.com/watch?v=LT_pJ56tVso&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=7&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/Efficiency_slides.pdf Слайды]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| \|\|		\| style="background:#eaecf0;" \| '''7''' [[https://www.youtube.com/watch?v=LT_pJ56tVso&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=7&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/Efficiency_slides.pdf Слайды]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| \|\|

Saprokhorov 1: add (optional) hws4-5

2024-12-20T09:20:43Z

add (optional) hws4-5

← Предыдущая версия		Версия от 09:20, 20 декабря 2024
Строка 92:		Строка 92:

	=== Optional Track ===		=== Optional Track ===
	* Тонкая настройка собственной модели с использованием библиотеки TRL <br /> - ~~Выдаётся на неделе~~ 6 <br /> - Весит 15% от итога		* Тонкая настройка собственной модели с использованием библиотеки TRL <br /> - Выдана 14.12.24, [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/HSE_NLP_HW_4_optional.ipynb Ноутбук] <br /> - Весит 15% от итога
	* Реализация Round-to-Nearest (RTN), Generalized Post-Training Quantization (GPTQ) <br /> - ~~Выдаётся на неделе~~ 7 <br /> - Весит 15% от итога		* Реализация Round-to-Nearest (RTN), Generalized Post-Training Quantization (GPTQ) <br /> - Выдано 16.12.24, [https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/HSE_NLP_HW_5_optional.ipynb.ipynb Ноутбук] <br /> - Весит 15% от итога

	== Устный экзамен ==		== Устный экзамен ==

Saprokhorov 1: add hw3

2024-12-20T09:18:13Z

add hw3

← Предыдущая версия		Версия от 09:18, 20 декабря 2024
Строка 89:		Строка 89:
	# Обучение эмбеддингов с помощью библиотеки fasttext, реализация реального движка поиска эмбеддинга-ответа по запросу в векторной БД <br /> - Выдана 21.11.24, '''Дедлайн - 23:59 (МСК), 01.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/2.Classification/NLP_hw_week_2.ipynb Ноутбук] <br /> - Весит 30% от итога		# Обучение эмбеддингов с помощью библиотеки fasttext, реализация реального движка поиска эмбеддинга-ответа по запросу в векторной БД <br /> - Выдана 21.11.24, '''Дедлайн - 23:59 (МСК), 01.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/2.Classification/NLP_hw_week_2.ipynb Ноутбук] <br /> - Весит 30% от итога
	# Тонкая настройка (fine-tuning) BERT на собственных данных // Имплементация GPT 2 <br /> - Выдана 03.12.24, '''Дедлайн - 23:59 (МСК), 15.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_BERT.ipynb Ноутбук (BERT)], [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_GPT.ipynb Ноутбук (GPT)] <br /> - Весит 20% от итога		# Тонкая настройка (fine-tuning) BERT на собственных данных // Имплементация GPT 2 <br /> - Выдана 03.12.24, '''Дедлайн - 23:59 (МСК), 15.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_BERT.ipynb Ноутбук (BERT)], [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_GPT.ipynb Ноутбук (GPT)] <br /> - Весит 20% от итога
	# Тонкая настройка LLM (LLAMA 3 8b) с помощью PEFT <br /> - ~~Выдаётся на неделе~~ 5 <br /> - Весит 20% от итога		# Тонкая настройка LLM (LLAMA 3 8b) с помощью PEFT <br /> - Выдана 12.12.24, '''Дедлайн - 23:59 (МСК), 22.12.2024 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/NLP_seminar_finetuning_raw.ipynb Ноутбук] <br /> - Весит 20% от итога

	=== Optional Track ===		=== Optional Track ===

Saprokhorov 1: upd links

2024-12-20T09:05:55Z

upd links

← Предыдущая версия		Версия от 09:05, 20 декабря 2024
Строка 59:		Строка 59:
	\|\|		\|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''5''' [[ Запись]] \|\| [[ Ноутбук]] Обучение Больших языковых моделей (Large Language Models): Обучение с нуля vs Тонкая настройка (finetuning) \|\| 12.12.24 (Чт.) \|\| \|\|		\| style="background:#eaecf0;" \| '''5''' [[https://www.youtube.com/watch?v=Mi21czVUyCo&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=5&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/Pretrain_finetune_slides.pdf Слайды], [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/NLP_seminar_finetuning_raw.ipynb Ноутбук], [https://github.com/greedisneutral/NLP-course/blob/master/5.Pretrain_finetune/Pretrain_finetune_whiteboard.pdf Доска]] Обучение Больших языковых моделей (Large Language Models): Обучение с нуля vs Тонкая настройка (finetuning) \|\| 12.12.24 (Чт.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''6''' [[ Запись]] \|\| [[ Ноутбук]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 14.12.24 (Сб.) \|\| \|\|		\| style="background:#eaecf0;" \| '''6''' [[https://www.youtube.com/watch?v=C5HRjlQLMBM&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=6&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_slides.pdf Слайды], [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/HSE_NLP_HW_4_optional.ipynb Ноутбук], [https://github.com/greedisneutral/NLP-course/blob/master/6.RLHF/RLHF_whiteboard.pdf Доска]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 14.12.24 (Сб.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''7''' [[ Запись]] \|\| [[ ~~Ноутбук~~]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| \|\|		\| style="background:#eaecf0;" \| '''7''' [[https://www.youtube.com/watch?v=LT_pJ56tVso&list=PLmA-1xX7IuzBARI5ES_l6WOduw0CZs3t4&index=7&pp=iAQB Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/7.Efficiency/Efficiency_slides.pdf Слайды]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''8''' [[ Запись]] \|\| [[ Ноутбук]] Retrieval-Augmented (RAG) LLM \|\| 19.12.24 (Чт.) \|\| \|\|		\| style="background:#eaecf0;" \| '''8''' [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Запись]] \|\| [[https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/RAG_Tools_slides.pdf Слайды], [https://github.com/greedisneutral/NLP-course/blob/master/8.RAG_Tools/NLP%20system%20showcase_whiteboard.pdf Ноутбук]] Retrieval-Augmented (RAG) LLM \|\| 19.12.24 (Чт.) \|\| \|\|
	\|}		\|}

Saprokhorov 1: add hw2

2024-12-11T04:17:58Z

add hw2

← Предыдущая версия		Версия от 04:17, 11 декабря 2024
Строка 88:		Строка 88:
	=== Main Track ===		=== Main Track ===
	# Обучение эмбеддингов с помощью библиотеки fasttext, реализация реального движка поиска эмбеддинга-ответа по запросу в векторной БД <br /> - Выдана 21.11.24, '''Дедлайн - 23:59 (МСК), 01.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/2.Classification/NLP_hw_week_2.ipynb Ноутбук] <br /> - Весит 30% от итога		# Обучение эмбеддингов с помощью библиотеки fasttext, реализация реального движка поиска эмбеддинга-ответа по запросу в векторной БД <br /> - Выдана 21.11.24, '''Дедлайн - 23:59 (МСК), 01.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/2.Classification/NLP_hw_week_2.ipynb Ноутбук] <br /> - Весит 30% от итога
	# Тонкая настройка (fine-tuning) BERT на собственных данных <br /> - ~~Выдаётся на неделе~~ 4 <br /> - Весит 20% от итога		# Тонкая настройка (fine-tuning) BERT на собственных данных // Имплементация GPT 2 <br /> - Выдана 03.12.24, '''Дедлайн - 23:59 (МСК), 15.12.24 (Вс.)''', [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_BERT.ipynb Ноутбук (BERT)], [https://github.com/greedisneutral/NLP-course/blob/master/4.Transformers/HSE_NLP_HW_GPT.ipynb Ноутбук (GPT)] <br /> - Весит 20% от итога
	# Тонкая настройка LLM (LLAMA 3 8b) с помощью PEFT <br /> - Выдаётся на неделе 5 <br /> - Весит 20% от итога		# Тонкая настройка LLM (LLAMA 3 8b) с помощью PEFT <br /> - Выдаётся на неделе 5 <br /> - Весит 20% от итога

Saprokhorov 1: upd dates of meet-ups

2024-12-11T04:14:11Z

upd dates of meet-ups

← Предыдущая версия		Версия от 04:14, 11 декабря 2024
Строка 59:		Строка 59:
	\|\|		\|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''5''' [[ Запись]] \|\| [[ Ноутбук]] Обучение Больших языковых моделей (Large Language Models): Обучение с нуля vs Тонкая настройка (finetuning) \|\| 05.12.24 (Чт.) \|\| \|\|		\| style="background:#eaecf0;" \| '''5''' [[ Запись]] \|\| [[ Ноутбук]] Обучение Больших языковых моделей (Large Language Models): Обучение с нуля vs Тонкая настройка (finetuning) \|\| 12.12.24 (Чт.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''6''' [[ Запись]] \|\| [[ Ноутбук]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 12.12.24 (Чт.) \|\| \|\|		\| style="background:#eaecf0;" \| '''6''' [[ Запись]] \|\| [[ Ноутбук]] Reinforcement Learning From Human Feedback (RLHF), Direct Preference Optimization (DPO) \|\| 14.12.24 (Сб.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''7''' [[ Запись]] \|\| [[ Ноутбук]] Практические подходы для эффективного обучения и развертывания LLM \|\| 19.12.24 (Чт.) \|\| \|\|		\| style="background:#eaecf0;" \| '''7''' [[ Запись]] \|\| [[ Ноутбук]] Практические подходы для эффективного обучения и развертывания LLM \|\| 16.12.24 (Пн.) \|\| \|\|
	\|-		\|-
	\| style="background:#eaecf0;" \| '''8''' [[ Запись]] \|\| [[ Ноутбук]] Retrieval-Augmented (RAG) LLM \|\| ...~~<date>...~~ \|\| \|\|		\| style="background:#eaecf0;" \| '''8''' [[ Запись]] \|\| [[ Ноутбук]] Retrieval-Augmented (RAG) LLM \|\| 19.12.24 (Чт.) \|\| \|\|
	\|}		\|}