=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

[https://docs.google.com/spreadsheets/d/1Yv4vwT2uRpGzfRORH1NCVfAaWPqcEBLk5ybKrj5bRbY/edit?usp=sharing Оценки за модуль NLP]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

Д3 3. Кластеризация изображений: [https://www.dropbox.com/sh/9vamc23gmxcjkrq/AABAwq2qp7PTkA2_qMWl1DEGa?dl=0 (dropbox)]

ДЗ 4. Рекомендательные системы: [https://yadi.sk/d/ekgg5-nA3W52YQ (Я.Диск)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Недели 7-10. март 2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели [https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

'''Семинар''': [https://yadi.sk/d/VENYrFB43TDhhz Классификация и кластеризация текстов]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

===5.04.2018===

Поиск частых множеств (товаров) и ассоциативных правил. Алгоритмы. [https://www.dropbox.com/s/y8wl6r6dlc2cih7/PatternMiningIntro_DPO_2018.pdf?dl=0]

===12.04.2018===

Упражнения для самопроверки [https://www.dropbox.com/s/wnzt48068fv5s1i/Exercises_wo_solutions.pptx?dl=0]

Поиск частых множеств (товаров) и ассоциативных правил. Задачи. (см. слайды предыдущего занятия)

===19.04.2018===

Рамочная презентация. [https://www.dropbox.com/s/a6q6s1grg0gs4o9/RecSysIntro.pdf?dl=0]

Case-study 1. Коллаборативная фильтрация: user-based and item-based алгоритмы [https://www.dropbox.com/s/jvmxljjj1wobylc/Case%201.%20%D0%A0%D0%B5%D0%BA%D0%BE%D0%BC%D0%B5%D0%BD%D0%B4%D0%B0%D1%82%D0%B5%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5%20%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D1%8B.pdf?dl=0]

===26.04.2018===

Case-study 2. Булева матричная факторизация и сингулярное разложение матриц для коллаборативной фильтрации [https://www.dropbox.com/s/f2anmkhlm2b9i7o/Case%202%20Varna%20Boolean%20Matrix%20Factorisation%20for%20Collaborative%20Filtering.pdf?dl=0]

Скрипт с примерами SVD и NMF средствами Питона.[https://www.dropbox.com/s/aij1ussi8p26on4/SVD%20%26%20NMF.ipynb?dl=0]

===10.04.2018===

Case-study 3. Рекомендация радиостанций. Гибридные рекомендательные системы [https://www.dropbox.com/s/4f8b5o9f0mleiit/Case%203%20Warsaw_FMhostTalk.pdf?dl=0]

Статья [https://www.dropbox.com/s/83vsmjdsiultwxn/1-s2.0-S0957417416300513-main.pdf?dl=0]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-03-16T22:25:00Z

Nkozlovskaya:

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-22T16:22:50Z

Nkozlovskaya: /* Семинары */

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-22T16:20:26Z

Nkozlovskaya: