Wiki - Факультет компьютерных наук - Вклад [ru]

О факультете

2018-09-04T10:31:01Z

Katya:

__NOTOC__

== Учебные курсы факультета компьютерных наук==
=== Курсы за 2018/19 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3 курс !! 4 курс !! майноры и факультативы
|-
|

[[Линейная_алгебра_и_геометрия_на_ПМИ_2018/2019_(пилотный_поток) | Линейная алгебра и геометрия на ПМИ (пилотный поток)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2018/2019_(основной_поток) | Линейная алгебра и геометрия на ПМИ (основной поток)]]

[[Discrete Mathematics DSBA |Discrete Mathematics DSBA]]

||

[[Теория_вероятностей_2018/2019_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Теория_вероятностей_2018/2019_(основной_поток) | Теория вероятностей на ПМИ (основной поток)]]

[[DM2-pilot2018/2019 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[DM2-basic2018/2019 | Дискретная математика-2 на ПМИ (основной поток)]]

||

[[Машинное_обучение_1 | Машинное обучение 1 на ПМИ]]

[[Theory_of_Computing_2018_2019 | Theory of Computing, AMI]]

||

[[Statistical_learning_theory_2018_2019 | Introduction to statistical learning theory]]

[[Анализ_неструктурированных_данных-2018 |Анализ неструктурированных данных ]]
||

|}

== Курсы в рамках проекта [https://www.hse.ru/dataculture/ Data Culture]==

=== 1 семестр ===
[[Основы анализа данных в международных отношениях 2018/2019|Основы анализа данных в международных отношениях (ОП "Международные отношения", 2 курс, 1-2 модули)]] 
[[Программирование_и_компьютерные_инструменты_лингвистического_исследования|Программирование и компьютерные инструменты лингвистического исследования ("Фундаментальная и компьютерная лингвистика", 1 курс, 1-4 модули)]] 
[[Цифровая грамотность(востоковедение)|Цифровая грамотность ( ОП "Востоковедение", 1 курс, 1 модуль)]] 
[[Разработка управленческих решений в маркетинге | Разработка управленческих решений в маркетинге(ОП "Маркетинг и рыночная аналитика", 2 курс, 1-2 модули)]] 
[[Информационные технологии в деятельности юриста_2018-2019| Информационные технологии в деятельности юриста (ОП "Юриспруденция", 1 курс, 1-2 модули)]] 
[[Машинное обучение на матфаке 2018/2019| Машинное обучение (факультет математики)]] 
[[ПМСАР-2| Методы анализа больших данных в исследованиях поведения покупателей (факультет социологии, ПМСАР, 2 курс)]] 
[[Анализ данных в Python (Политологи 1 семестр 1-2 модули)]] 
[[Основы анализа и визуализации данных для медиа (Журналисты 1 семестр 1 модуль)]] 
[[Программирование_(python)_для_лингвистов|Компьютерная лингвистика и информационные технологии (ОП "Фундаментальная и компьютерная лингвистика", 4 курc)]] 
[[Введение в анализ текстов на Python для ФГН 2018|Введение в анализ текстов на Python для ФГН 2018 (3 курс, Компьютерная лингвистика и информационные технологии)]] 

== Архив ==

=== Курсы за 2017/18 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3 курс !! 4 курс !! майноры и факультативы
|-
|

[[Математический_анализ_на_ПМИ_2017/2018_(пилотный_поток) | Математический анализ на ПМИ 2017/2018 (пилотный поток)]]

[[Математический_анализ_на_ПМИ_2017/2018_(основной_поток) | Математический анализ на ПМИ 2017/2018 (основной поток)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(пилотный_поток,_1_модуль) | Основы и методология программирования на ПМИ 2017/2018 (пилотный поток, 1 модуль)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(основной_поток,_2_модуль) | Основы и методология программирования на ПМИ 2017/2018 (основной поток, 2 модуль)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(основной_поток,_3_модуль) | Основы и методология программирования на ПМИ 2017/2018 (основной поток, 3 модуль)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_2017/2018_(основной_поток) | Алгоритмы и структуры данных на ПМИ 2017/2018 (основной поток)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(пилотный_поток) | Линейная алгебра и геометрия на ПМИ (пилотный поток)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(основной_поток) | Линейная алгебра и геометрия на ПМИ (основной поток)]]

[[Дискретная_математика_1_2017/2018 | Дискретная математика-1 на ПМИ]]

[[Алгоритмы и структуры данных 1 | Алгоритмы и структуры данных – 1 (пилотный поток)]]

[[Алгебра_на_ПМИ_2017/2018 | Алгебра на ПМИ]]

[http://hsealgebra18.wikidot.com Алгебра на ПИ]

||
[[Теория_вероятностей_2017/2018_(основной_поток) | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2017/2018_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Математический анализ-3 на ПМИ_2017/2018_(основной_поток) | Математический анализ-2 на ПМИ (основной поток)]]

[[Математический анализ на ПМИ_2017/2018 | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM2-pilot2017/2018 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[DM_2_2017_2018 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Алгоритмы и структуры данных_2_2017/2018 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Дифференциальные уравнения (2 курс, 2017/2018)| Дифференциальные уравнения]]

||
[[Машинное_обучение_1/2017_2018 | Машинное обучение 1 на ПМИ]]

[[Машинное_обучение_2 | Машинное обучение 2 на ПМИ]]

[[Численные_методы_2017 | Численные методы]]

[[Statistics of Stochastic Processes|Статистика случайных процессов 2018]]

[[Прикладная_статистика_в_машинном_обучении | Прикладная статистика в машинном обучении]]

[[Theory_of_Computing | Theory of Computing, AMI]]

[[Statistical_learning_theory | Introduction to statistical learning theory]]

[[Основные_методы_анализа_данных_(специализация_АДИС) | Основные методы анализа данных на ПМИ]]

[[Параллельные и распределенные вычисления 2017 | Параллельные и распределенные вычисления]]

[[Анализ неструктурированных данных]]

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[НИС_Распределенные_системы_(3_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]

[[Непрерывная_оптимизация | Непрерывная оптимизация]]

[[ Сложность_и_логика| Сложность вычислений и логика в теоретической информатике]]

[[Data_analysis_(Software_Engineering)_2018 | Data Analysis на ПИ]]

[http://telegra.ph/Kurs-Vvedenie-v-OOP-VSHEH-2018-Modul-3-01-30 Введение в ООП]

[http://wiki.cs.hse.ru/Машинное_обучение_на_больших_данных Машинное обучение на больших данных]

[[Дискретная_оптимизация | Дискретная оптимизация]]

||

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[Философия_науки_2017 | Философия науки]]

[[НИС_Распределенные_системы_(4_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]

[[Анализ неструктурированных данных]]

[[Байесовские методы машинного обучения 2017 | Байесовские методы машинного обучения]]

[[Функциональное программирование 2018 | Функциональное программирование]]

[http://telegra.ph/Kurs-Vvedenie-v-OOP-VSHEH-2018-Modul-3-01-30 Введение в ООП]

||

[[Современные методы машинного обучения (курс майнора) 2017/2018]]

[[Введение в программирование (курс майнора) 2017/2018]]

[[Майнор Интеллектуальный анализ данных/Введение в анализ данных | Введение в анализ данных (курс майнора)]]

[[Прикладные задачи анализа данных (майнор - весна 2018)]]

[[Маго-лего "Линейная алгебра в приложениях" весна 2018 | Линейная алгебра в приложениях (маго-лего)]]

[[Функциональный анализ 2017/18 | Функциональный анализ на ПМИ (факультатив)]]

[[Дополнительные главы теории вероятностей и математической статистики (факультативы) | Дополнительные главы теории вероятностей и математической статистики (факультативы)]]

[[Дополнительные главы дискретной математики 2017/18 | Дополнительные главы дискретной математики (факультатив)]]

[[Цифровые технологии в гуманитарных науках]]

|}

== Курсы в рамках проекта [https://www.hse.ru/dataculture/ Data Culture]==

=== 2 семестр ===

[[Цифровая_грамотность_2018_(2_семестр)|Цифровая грамотность (факультет гуманитарных наук — 2 семестр: ИЯМК, Филология, История искусств, Культурология, 1 курс)]] 
[[Научно-исследовательский семинар (ФСН) |Научно-исследовательский семинар (ОП "Политология", 1 курс)]] 
[[Introduction_to_Data_Culture|Introduction to Data Culture (HSE and University of London Parallel Degree Programme in International Relations, 1 year)]] 
[[ИИ_и_БД|Искусственный интеллект и большие данные (ОП "Дизайн", "Мода", 1 курс)]] 
[[Программирование_(python)_для_лингвистов|Компьютерная лингвистика и информационные технологии (ОП "Фундаментальная и компьютерная лингвистика", 4 курс, 2 семестр)]] 
[[Основы анализа данных в международных отношениях|Основы анализа данных в международных отношениях (ОП "Международные отношения", 2 курс, 4 модуль)]] 
[[Введение в data science (2_семестр)|Профориентационный семинар (блок по введению в data scicence) (Факультет социальных наук — 2 семестр: Социология, 1 курс)]] 
[[Введение в Data Science| Введение в Data Science (ФБиМ, 4 модуль)]] 

=== 1 семестр ===

[[Цифровая_грамотность|Цифровая грамотность (факультет гуманитарных наук — 1 семестр: История, Философия, 1 курс)]] 
[[Машинное обучение (факультет экономических наук)|Машинное обучение (факультет экономических наук)]] 
[[Программирование (python) для лингвистов | Программирование (python) для лингвистов (факультет гуманитарных наук)]] 
[[Извлечение и анализ интернет-данных | Извлечение и анализ интернет-данных (факультет экономических наук)]] 
[[Анализ больших данных в социальных науках (ФСН, 2017) | Анализ больших данных в социальных науках (ФСН, 2017)]] 
[[Информационные_технологии_в_деятельности_юриста|Информационные технологии в деятельности юриста (Факультет права)]] 
[[Машинное_обучение_для_лингвистов|Машинное обучение (магистратура Школы лингвистики)]] 

== Курсы магистратуры Финансовые технологии и анализ данных ==

[[Вероятностные_модели_и_прикладная_статистика_в_финансовой_математике|Вероятностные модели и прикладная статистика в финансовой математике]] 

=== Курсы за 2016/17 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3-4 курс !! майноры
|-
|

[[Математический анализ на ПМИ_2016/2017 | Математический анализ на ПМИ (пилотный поток)]]

[[Линейная алгебра и геометрия_2016/2017 | Линейная алгебра и геометрия на ПМИ]]

[[Дискретная_математика_1_2016/2017 | Дискретная математика-1 на ПМИ]]

[[Основы и методология программирования_2016/2017_пилотный_поток | Основы и методология программирования на ПМИ (пилотный поток)]]

[[Основы и методология программирования_2016/2017 | Основы и методология программирования на ПМИ (основной поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(пилотный_поток) | Алгоритмы и структуры данных на ПМИ (пилотный поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(основной_поток) | Алгоритмы и структуры данных на ПМИ (основной поток)]]

[[Алгебра_на_ПМИ_2016/2017 | Алгебра на ПМИ]]

[http://hsealgebra17.wikidot.com/ Алгебра на ПИ]

||

[[Математический анализ_2016/2017 | Математический анализ-3 на ПМИ (основной поток)]]

[[Математически_анализ_3_на_ПМИ_(пилотный_поток) | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM_2_2016_2017 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Дискретная математика_2_2016/2017 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[Алгоритмы и структуры данных_2_2016/2017 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Теория вероятностей_2016/2017 | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2016/2017_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы]]

[[Факультатив_теория_вычислений_2016/2017 | Факультатив теория вычислений на ПМИ]]

[[Дополнительные_главы_теории_вероятностей_(факультатив,_2017) | Дополнительные главы теории вероятностей (факультатив)]]

[[Дифференциальные_уравнения_(2_курс,_2016/2017) | Дифференциальные уравнения]]

[[Математическая_статистика_2016/2017_(пилотный_поток) | Математическая статистика на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы ]]

||

[[НИС_Машинное_обучение_и_приложения_2016/2017 | НИС Машинное обучение и приложения на ПМИ]]

[[Машинное_обучение_1/2016_2017 | Машинное обучение 1 на ПМИ]]

[[Машинное_обучение_2/2016_2017 | Машинное обучение 2 на ПМИ]]

[[Прикладной_статистический_анализ_данных | Прикладной статистический анализ данных на ПМИ]]

[[Численные_методы_в_анализе_данных | Численные методы в анализе данных на ПМИ]]

[http://www.machinelearning.ru/wiki/index.php?title=Статистика_случайных_процессов_(курс_лекций,_ФКН_ВШЭ) Вероятностные модели и статистика случайных процессов на ПМИ]

[http://www.machinelearning.ru/wiki/index.php?title=Opt Методы оптимизации на ПМИ (специализации МОП и РС)]

[[Методы_оптимизации_(весна_2017)|Методы оптимизации 2 (дискретная оптимизация)]]

[[НИС_Распределенные_системы_(осень_2016) | НИС Распределенные системы]]

[[Анализ и верификация алгоритмов биржевой торговли | Анализ и верификация алгоритмов для систем биржевой торговли ]]

[[Программирование_на_графических_процессорах | Программирование на графических процессорах]]

[[ЯРПО | Языки разработки ПО (курс по выбору) на ПМИ]]

[[Data analysis (Software Engineering) 2017 | Data analysis на ПИ]]

[[Базы данных 2 | Базы данных 2 ]]

[[Компьютерные сети 2 | Компьютерные сети 2]]

[[Машинное_обучение_на_больших_данных | Машинное обучение на больших данных на ПМИ]]

||

[[Современные_методы_машинного_обучения_(курс_майнора) | Современные методы машинного обучения (курс майнора)]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_программирование_2016/2017 | Введение в программирование (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Введение в анализ данных/2016-2017 | Введение в анализ данных (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Прикладные задачи анализа данных| Прикладные задачи анализа данных (курс майнора)]]

|}

{|width=100%
|style="vertical-align:top;"|



=== Курсы за 2015/16 учебный год ===
{|
|-
| [[Технологии программирования|Технологии программирования на ПМИ]]
|-
|[[ОиМП-2015|Основы и методология программирования на ПМИ]]
|-
|[[Алгоритмы и структуры данных 2016]]
|-
|[[Линейная алгебра и геометрия_2015/2016 | Линейная алгебра и геометрия на ПМИ]]
|-
|[[Алгебра_2015/2016 | Алгебра на ПМИ]]
|-
|[http://hsealgebra.wikidot.com/ Алгебра на ПИ]
|-
|[[Компьютерные системы]]
|-
|[[Математический анализ на ПМИ_2015/2016 | Математический анализ на ПМИ]]
|-
|[[Факультатив_Матпрактикум | Матпрактикум (факультатив) на ПМИ]]
|-
|[[Data analysis (Software Engineering)]] 
|-
|[[Майнор Интеллектуальный анализ данных/Введение в программирование|Введение в программирование (курс майнора) на ПМИ]]
|-
|[[Майнор Интеллектуальный анализ данных/Введение в анализ данных/2015-2016|Введение в анализ данных (курс майнора) на ПМИ]]
|-
|[[НИС Машинное обучение и приложения|НИС Машинное обучение и приложения на ПМИ]]
|-
|[[Архитектура компьютеров и системное программирование (ПМИ_4, 2015/2016)|Архитектура компьютеров и системное программирование (4 курс)]]
|-
|[[Дифференциальные уравнения (2 курс, 2015/2016)| Дифференциальные уравнения]]
|-
|[[Введение в VBA|Введение в VBA]]
|}

|style="vertical-align:top;"|



=== Курсы за 2014/15 учебный год ===
{|
|-
|[[Основы и методологии программирования]] 
|-
|[[Алгоритмы и структуры данных 2015 | Алгоритмы и структуры данных]] 
|-
|[[Анализ данных (Программная инженерия)]] 
|-
|[[Алгебра_2014/2015 | Алгебра]] 
|-
|[[Magolego_sna_2015| MAGoLEGO Social Network Analysis]]
|}

==== Проектная работа ====
{|
|-
|[[Проектная работа]] 
|-
|[[Учебная практика 1 курс (2016)]]
|-
|[[Проектная работа 2 курс (2016)]]
|}


|}

== Мероприятия факультета компьютерных наук ==
=== Summer School 2015 ===
[[Introduction to Natural Language Processing|Introduction to Natural Language Processing]]
#[[Lecture 1. Introduction|Introduction]]
#[[Lecture 2. Tokenization and word counts|Tokenization and word counts]]
#[[Lecture 3. POS tagging. Key word and phrase extraction|POS tagging. Key word and phrase extraction]]
#[[Lecture 4. Parsing|Parsing]]
#[[Lecture 5. Language sources|Language sources]]
#[[Lecture 6. Synonyms and near-synonyms detection|Synonyms and near-synonyms detection]]
#[[Lecture 8. Suffix trees for NLP|Suffix trees for NLP]]
#[[NLP References|References]]

== Архив ==
* [[Учебная практика 1 курс (2015)]]

Анализ неструктурированных данных-2018

2018-09-03T08:24:34Z

Katya:

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Анна Потапенко, Екатерина Черняк

Лекции проходят по средам, 12:10 – 13:30 , ауд. 622.

=== Полезные ссылки ===

Репозиторий с материалами на GitHub: https://github.com/MelLain/hse-nlp

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| БПМИ154 АДИС, БПМИ155 РС, БПМИ 156 ТИ || Сергей Аксенов || среда, 10:30 – 11:50, ауд. 501
|-
| БПМИ151 МОП || Наталья Козловская, Мурат Апишев || четверг, 12:10 – 13:30, ауд. 501
|-
| БПМИ152 МОП || Наталья Козловская, Мурат Апишев || четверг, 10:30 – 11:50, ауд. 501
|-
|}

Анализ неструктурированных данных-2018

2018-09-03T08:22:29Z

Katya: Новая страница: «== О курсе == Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 мод…»

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Анна Потапенко, Екатерина Черняк

Лекции проходят по средам, 12:10 – 13:30 , ауд. 622.

=== Полезные ссылки ===

Репозиторий с материалами на GitHub: https://github.com/MelLain/hse-nlp

telegram:

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| БПМИ154 АДИС, БПМИ155 РС, БПМИ 156 ТИ || Сергей Аксенов || среда, 10:30 – 11:50, ауд. 501
|-
| БПМИ151 МОП || Наталья Козловская, Мурат Апишев || четверг, 12:10 – 13:30, ауд. 501
|-
| БПМИ152 МОП || Наталья Козловская, Мурат Апишев || четверг, 10:30 – 11:50, ауд. 501
|-
|}

NLP

2018-09-03T08:17:43Z

Katya:

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Анна Потапенко, Екатерина Черняк

Лекции проходят по средам, 12:10 – 13:30 , ауд. 622.

=== Полезные ссылки ===

Репозиторий с материалами на GitHub: https://github.com/MelLain/hse-nlp

telegram:

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| БПМИ154 АДИС, БПМИ155 РС, БПМИ 156 ТИ || Сергей Аксенов || среда, 10:30 – 11:50, ауд. 501
|-
| БПМИ151 МОП || Наталья Козловская, Мурат Апишев || четверг, 12:10 – 13:30, ауд. 501
|-
| БПМИ152 МОП || Наталья Козловская, Мурат Апишев || четверг, 10:30 – 11:50, ауд. 501
|-
|}

NLP

2018-09-03T08:17:24Z

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Анна Потапенко, Екатерина Черняк

Лекции проходят по средам, 12:10 – 13:30 , ауд. 622.

=== Полезные ссылки ===

Репозиторий с материалами на GitHub: https://github.com/MelLain/hse-nlp

telegram:

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| БПМИ154 АДИС, БПМИ155 РС, БПМИ 156 || Сергей Аксенов || среда, 10:30 – 11:50, ауд. 501
|-
| БПМИ151 МОП || Наталья Козловская, Мурат Апишев || четверг, 12:10 – 13:30, ауд. 501
|-
| БПМИ152 МОП || Наталья Козловская, Мурат Апишев || четверг, 10:30 – 11:50, ауд. 501
|-
|}

Прикладные задачи анализа данных (майнор - весна 2018)

2018-04-13T07:29:20Z

Katya: /* Домашние задания */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

[https://docs.google.com/spreadsheets/d/1Yv4vwT2uRpGzfRORH1NCVfAaWPqcEBLk5ybKrj5bRbY/edit?usp=sharing Оценки за модуль NLP]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

Д3 3. Кластеризация изображений: [https://www.dropbox.com/sh/9vamc23gmxcjkrq/AABAwq2qp7PTkA2_qMWl1DEGa?dl=0 (dropbox)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Недели 7-10. март 2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели [https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

'''Семинар''': [https://yadi.sk/d/VENYrFB43TDhhz Классификация и кластеризация текстов]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-03-30T10:30:58Z

Katya: /* О курсе */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

[https://docs.google.com/spreadsheets/d/1Yv4vwT2uRpGzfRORH1NCVfAaWPqcEBLk5ybKrj5bRbY/edit?usp=sharing Оценки за модуль NLP]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Недели 7-10. март 2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели [https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

'''Семинар''': [https://yadi.sk/d/VENYrFB43TDhhz Классификация и кластеризация текстов]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-03-30T10:30:31Z

Katya: /* Неделя 7. 1.03.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Недели 7-10. март 2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели [https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

'''Семинар''': [https://yadi.sk/d/VENYrFB43TDhhz Классификация и кластеризация текстов]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-28T20:42:32Z

Katya: /* Неделя 6. 22.02.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Неделя 7. 1.03.2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели [https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-28T20:42:22Z

Katya: /* Неделя 6. 22.02.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Неделя 7. 1.03.2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели [https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-28T20:40:04Z

Katya: /* Домашние задания */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-28T20:39:59Z

Katya: /* Домашние задания */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

ДЗ 2. Предсказание цены акции: [https://github.com/echernyak/minor/tree/master/NLP/hw2 (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-28T20:39:07Z

Katya: /* Неделя 6. 22.02.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталия Козловская || 12:10 – 13:30, ауд. 3316 || [https://t.me/joinchat/B3rxURJauyfLrG168XVAfA ссылка]
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

'''Семинар''': [https://yadi.sk/d/LB6owaMb3SGu3X Модели скрытых тем]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

==== Неделя 6. 22.02.2018 ====

'''Лекция''': Языковые модели. Цепи Маркова, нейронные языковые модели, рекуррентные нейронные языковые модели https://github.com/echernyak/ML-for-compling/blob/master/l7_LM.ipynb (слайды)]

'''Семинар''': [https://yadi.sk/d/G-3NVs613SVqXf Дистрибутивная семантика]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-20T12:36:18Z

Katya: /* Неделя 5. 15.02.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталья Козловская || 12:10 – 13:30, ауд. 3316 ||
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

==== Неделя 6. 15.02.2018 ====

'''Лекция''': Классификация текстов. ML и DL методы классификации текстов. [https://github.com/echernyak/ML-for-compling/blob/master/l3_classification.ipynb (слайды1)] [https://github.com/echernyak/ML-for-compling/blob/master/l6_RU_FNN_CNN.ipynb (слайды2)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-15T12:43:14Z

Katya: /* Неделя 5. 15.02.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталья Козловская || 12:10 – 13:30, ауд. 3316 ||
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/j6gsnobrcnyrmvj/5_DS.pdf?dl=0 (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-14T23:17:30Z

Katya: /* Неделя 4. 08.02.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталья Козловская || 12:10 – 13:30, ауд. 3316 ||
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

==== Неделя 5. 15.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Векторное представление слова. Счетные и нейронные модели. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-08T20:46:37Z

Katya: /* Семинары */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталья Козловская || 12:10 – 13:30, ауд. 3316 ||
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 || [https://t.me/joinchat/GH1hLBCm6iYjd93vNWlLYA ссылка]
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-07T18:56:34Z

Katya: /* Неделя 4. 08.02.2018 */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталья Козловская || 12:10 – 13:30, ауд. 3316 ||
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 ||
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

==== Неделя 4. 08.02.2018 ====

'''Лекция''': Векторная модель, снижение размерности в векторной модели. Информационный поиск. Модели скрытых тем. [https://www.dropbox.com/s/kf79mcmiaj7of72/3_VSM.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/xhhna4aav7f0ikx/M_sem4.pdf?dl=0 Ключевые слова]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-02T11:49:48Z

Katya: /* Семинары */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк (автоматическая обработка текстов)

В 4 модуле: Дмитрий Игнатов (майнинг данных)

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталья Козловская || 12:10 – 13:30, ауд. 3316 ||
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 ||
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 || [https://t.me/joinchat/DXW6bVHR3pHjpTXUyPbBKA ссылка]
|-
|}

=== Домашние задания ===

ДЗ 1. Генератор описания погоды: [https://github.com/echernyak/minor/blob/master/NLP/hw1.ipynb (GitHub)]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== Неделя 1. 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

==== Неделя 2. 25.01.2018 ====

'''Лекция''': Морфологический анализ. Скрытый цепи Маркова. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/8wxyvvkar1bq206/M_sem2.pdf?dl=0 NLTK]

==== Неделя 3. 01.02.2018 ====

'''Лекция''' (И. Смуров): Синтаксический анализ [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/qid0ohgzq4holo1/M_sem3.pdf?dl=0 Scrapy]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-02T11:48:17Z

Katya: /* Программа */

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-02T11:47:20Z

Katya: /* 3) 01.02.2018 */

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-02T11:46:22Z

Katya: /* 2) 25.01.2018 */

Прикладные задачи анализа данных (майнор - весна 2018)

2018-02-02T11:44:08Z

Katya: /* 2) 25.01.2018 */

О факультете

2018-01-23T11:16:12Z

Katya:

__NOTOC__

== Учебные курсы факультета компьютерных наук==

=== Курсы за 2017/18 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3 курс !! 4 курс !! майноры и факультативы
|-
|

[[Математический_анализ_на_ПМИ_2017/2018_(пилотный_поток) | Математический анализ на ПМИ 2017/2018 (пилотный поток)]]

[[Математический_анализ_на_ПМИ_2017/2018_(основной_поток) | Математический анализ на ПМИ 2017/2018 (основной поток)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(пилотный_поток,_1_модуль) | Основы и методология программирования на ПМИ 2017/2018 (пилотный поток, 1 модуль)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(основной_поток,_2_модуль) | Основы и методология программирования на ПМИ 2017/2018 (основной поток, 2 модуль)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(пилотный_поток) | Линейная алгебра и геометрия на ПМИ (пилотный поток)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(основной_поток) | Линейная алгебра и геометрия на ПМИ (основной поток)]]

[[Дискретная_математика_1_2017/2018 | Дискретная математика-1 на ПМИ]]

[[Алгоритмы и структуры данных 1 | Алгоритмы и структуры данных – 1 (пилотный поток)]]

||
[[Теория_вероятностей_2017/2018_(основной_поток) | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2017/2018_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Математический анализ-3 на ПМИ_2017/2018_(основной_поток) | Математический анализ-3 на ПМИ (основной поток)]]

[[Математический анализ на ПМИ_2017/2018 | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM2-pilot2017/2018 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[DM_2_2017_2018 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Алгоритмы и структуры данных_2_2017/2018 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Дифференциальные уравнения (2 курс, 2017/2018)| Дифференциальные уравнения]]

||
[[Машинное_обучение_1 | Машинное обучение 1 на ПМИ]]

[[Машинное_обучение_2 | Машинное обучение 2 на ПМИ]]

[[Численные_методы_2017 | Численные методы]]

[[Прикладная_статистика_в_машинном_обучении | Прикладная статистика в машинном обучении]]

[[Theory_of_Computing | Theory of Computing, AMI]]

[[Statistical_learning_theory | Introduction to statistical learning theory]]

[[Основные_методы_анализа_данных_(специализация_АДИС) | Основные методы анализа данных на ПМИ]]

[[Параллельные и распределенные вычисления 2017 | Параллельные и распределенные вычисления]]

[[Анализ неструктурированных данных]]

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[НИС_Распределенные_системы_(3_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]

[[Непрерывная_оптимизация | Непрерывная оптимизация]]

[[ Сложность_и_логика| Сложность вычислений и логика в теоретической информатике]]

[[Data_analysis_(Software_Engineering)_2018 | Data Analysis на ПИ]]

||

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[Философия_науки_2017 | Философия науки]]

[[НИС_Распределенные_системы_(4_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]

[[Анализ неструктурированных данных]]

[[Байесовские методы машинного обучения 2017 | Байесовские методы машинного обучения]]

[[Функциональное программирование 2018 | Функциональное программирование]]

||

[[Современные методы машинного обучения (курс майнора) 2017/2018]]

[[Введение в программирование (курс майнора) 2017/2018]]

[[Майнор Интеллектуальный анализ данных/Введение в анализ данных | Введение в анализ данных (курс майнора)]]

[[Прикладные задачи анализа данных (майнор - весна 2018)]]

[[Факультативы "Дополнительные главы линейной алгебры" и "Практическая линейная алгебра"_2017/2018 | Дополнительные главы линейной алгебры на ПМИ (факультатив)]]

[[Функциональный анализ 2017/18 | Функциональный анализ на ПМИ (факультатив)]]

[[Дополнительные главы теории вероятностей и математической статистики (факультативы) | Дополнительные главы теории вероятностей и математической статистики (факультативы)]]

[[Дополнительные главы дискретной математики 2017/18 | Дополнительные главы дискретной математики (факультатив)]]

[[Цифровые технологии в гуманитарных науках]]

|}

== Курсы в рамках проекта [https://www.hse.ru/dataculture/ Data Culture]==

=== 2 семестр ===

[[Цифровая_грамотность_2018_(2_семестр)|Цифровая грамотность (факультет гуманитарных наук — 2 семестр: ИЯМК, Филология, История искусств, Культурология, 1 курс)]] 
[[Научно-исследовательский семинар (ФСН) |Научно-исследовательский семинар (ОП "Политология", 1 курс)]] 
[[Introduction_to_Data_Culture|Introduction to Data Culture (HSE and University of London Parallel Degree Programme in International Relations, 1 year)]] 
[[ИИ_и_БД|Искусственный интеллект и большие данные (ОП "Дизайн", "Мода", 1 курс)]] 
[[Программирование_(python)_для_лингвистов|Компьютерная лингвистика и информационные технологии (ОП "Фундаментальная и компьютерная лингвистика", 4 курс, 2 семестр)]] 

=== 1 семестр ===

[[Цифровая_грамотность|Цифровая грамотность (факультет гуманитарных наук — 1 семестр: История, Философия, 1 курс)]] 
[[Машинное обучение (факультет экономических наук)|Машинное обучение (факультет экономических наук)]] 
[[Программирование (python) для лингвистов | Программирование (python) для лингвистов (факультет гуманитарных наук)]] 
[[Извлечение и анализ интернет-данных | Извлечение и анализ интернет-данных (факультет экономических наук)]] 
[[Анализ больших данных в социальных науках (ФСН, 2017) | Анализ больших данных в социальных науках (ФСН, 2017)]] 
[[Информационные_технологии_в_деятельности_юриста|Информационные технологии в деятельности юриста (Факультет права)]] 
[[Машинное_обучение_для_лингвистов|Машинное обучение (магистратура Школы лингвистики)]] 

== Архив ==

=== Курсы за 2016/17 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3-4 курс !! майноры
|-
|

[[Математический анализ на ПМИ_2016/2017 | Математический анализ на ПМИ (пилотный поток)]]

[[Линейная алгебра и геометрия_2016/2017 | Линейная алгебра и геометрия на ПМИ]]

[[Дискретная_математика_1_2016/2017 | Дискретная математика-1 на ПМИ]]

[[Основы и методология программирования_2016/2017_пилотный_поток | Основы и методология программирования на ПМИ (пилотный поток)]]

[[Основы и методология программирования_2016/2017 | Основы и методология программирования на ПМИ (основной поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(пилотный_поток) | Алгоритмы и структуры данных на ПМИ (пилотный поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(основной_поток) | Алгоритмы и структуры данных на ПМИ (основной поток)]]

[[Алгебра_на_ПМИ_2016/2017 | Алгебра на ПМИ]]

[http://hsealgebra17.wikidot.com/ Алгебра на ПИ]

||

[[Математический анализ_2016/2017 | Математический анализ-3 на ПМИ (основной поток)]]

[[Математически_анализ_3_на_ПМИ_(пилотный_поток) | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM_2_2016_2017 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Дискретная математика_2_2016/2017 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[Алгоритмы и структуры данных_2_2016/2017 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Теория вероятностей_2016/2017 | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2016/2017_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы]]

[[Факультатив_теория_вычислений_2016/2017 | Факультатив теория вычислений на ПМИ]]

[[Дополнительные_главы_теории_вероятностей_(факультатив,_2017) | Дополнительные главы теории вероятностей (факультатив)]]

[[Дифференциальные_уравнения_(2_курс,_2016/2017) | Дифференциальные уравнения]]

[[Математическая_статистика_2016/2017_(пилотный_поток) | Математическая статистика на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы ]]

||

[[НИС_Машинное_обучение_и_приложения_2016/2017 | НИС Машинное обучение и приложения на ПМИ]]

[[Машинное_обучение_1/2016_2017 | Машинное обучение 1 на ПМИ]]

[[Машинное_обучение_2/2016_2017 | Машинное обучение 2 на ПМИ]]

[[Прикладной_статистический_анализ_данных | Прикладной статистический анализ данных на ПМИ]]

[[Численные_методы_в_анализе_данных | Численные методы в анализе данных на ПМИ]]

[http://www.machinelearning.ru/wiki/index.php?title=Статистика_случайных_процессов_(курс_лекций,_ФКН_ВШЭ) Вероятностные модели и статистика случайных процессов на ПМИ]

[http://www.machinelearning.ru/wiki/index.php?title=Opt Методы оптимизации на ПМИ (специализации МОП и РС)]

[[Методы_оптимизации_(весна_2017)|Методы оптимизации 2 (дискретная оптимизация)]]

[[НИС_Распределенные_системы_(осень_2016) | НИС Распределенные системы]]

[[Анализ и верификация алгоритмов биржевой торговли | Анализ и верификация алгоритмов для систем биржевой торговли ]]

[[Программирование_на_графических_процессорах | Программирование на графических процессорах]]

[[ЯРПО | Языки разработки ПО (курс по выбору) на ПМИ]]

[[Data analysis (Software Engineering) 2017 | Data analysis на ПИ]]

[[Базы данных 2 | Базы данных 2 ]]

[[Компьютерные сети 2 | Компьютерные сети 2]]

[[Машинное_обучение_на_больших_данных | Машинное обучение на больших данных на ПМИ]]

||

[[Современные_методы_машинного_обучения_(курс_майнора) | Современные методы машинного обучения (курс майнора)]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_программирование_2016/2017 | Введение в программирование (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Введение в анализ данных/2016-2017 | Введение в анализ данных (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Прикладные задачи анализа данных| Прикладные задачи анализа данных (курс майнора)]]

|}

{|width=100%
|style="vertical-align:top;"|



=== Курсы за 2015/16 учебный год ===
{|
|-
| [[Технологии программирования|Технологии программирования на ПМИ]]
|-
|[[ОиМП-2015|Основы и методология программирования на ПМИ]]
|-
|[[Алгоритмы и структуры данных 2016]]
|-
|[[Линейная алгебра и геометрия_2015/2016 | Линейная алгебра и геометрия на ПМИ]]
|-
|[[Алгебра_2015/2016 | Алгебра на ПМИ]]
|-
|[http://hsealgebra.wikidot.com/ Алгебра на ПИ]
|-
|[[Компьютерные системы]]
|-
|[[Математический анализ на ПМИ_2015/2016 | Математический анализ на ПМИ]]
|-
|[[Факультатив_Матпрактикум | Матпрактикум (факультатив) на ПМИ]]
|-
|[[Data analysis (Software Engineering)]] 
|-
|[[Майнор Интеллектуальный анализ данных/Введение в программирование|Введение в программирование (курс майнора) на ПМИ]]
|-
|[[Майнор Интеллектуальный анализ данных/Введение в анализ данных/2015-2016|Введение в анализ данных (курс майнора) на ПМИ]]
|-
|[[НИС Машинное обучение и приложения|НИС Машинное обучение и приложения на ПМИ]]
|-
|[[Архитектура компьютеров и системное программирование (ПМИ_4, 2015/2016)|Архитектура компьютеров и системное программирование (4 курс)]]
|-
|[[Дифференциальные уравнения (2 курс, 2015/2016)| Дифференциальные уравнения]]
|-
|[[Введение в VBA|Введение в VBA]]
|}

|style="vertical-align:top;"|



=== Курсы за 2014/15 учебный год ===
{|
|-
|[[Основы и методологии программирования]] 
|-
|[[Алгоритмы и структуры данных 2015 | Алгоритмы и структуры данных]] 
|-
|[[Анализ данных (Программная инженерия)]] 
|-
|[[Алгебра_2014/2015 | Алгебра]] 
|-
|[[Magolego_sna_2015| MAGoLEGO Social Network Analysis]]
|}

==== Проектная работа ====
{|
|-
|[[Проектная работа]] 
|-
|[[Учебная практика 1 курс (2016)]]
|-
|[[Проектная работа 2 курс (2016)]]
|}


|}

== Мероприятия факультета компьютерных наук ==
=== Summer School 2015 ===
[[Introduction to Natural Language Processing|Introduction to Natural Language Processing]]
#[[Lecture 1. Introduction|Introduction]]
#[[Lecture 2. Tokenization and word counts|Tokenization and word counts]]
#[[Lecture 3. POS tagging. Key word and phrase extraction|POS tagging. Key word and phrase extraction]]
#[[Lecture 4. Parsing|Parsing]]
#[[Lecture 5. Language sources|Language sources]]
#[[Lecture 6. Synonyms and near-synonyms detection|Synonyms and near-synonyms detection]]
#[[Lecture 8. Suffix trees for NLP|Suffix trees for NLP]]
#[[NLP References|References]]

== Архив ==
* [[Учебная практика 1 курс (2015)]]

Цифровые технологии в гуманитарных науках

2018-01-23T11:15:10Z

Katya:

=== О курсе ===

Читается для студентов 3-4 курса в 3 модуле.

Лекции проходят по вторникам, 18-00 – 21-00, Кочновский пр., 3, ауд. 618.

'''Лекторы:'''

Дмитрий Ильвовский

Екатерина Черняк

[https://t.me/joinchat/EVGQlg5IZdvfVI8hka-Uzw Чат в Telegram]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Опроект

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oпрезентация + 0.3 * Oаудиторная работа

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== 18.01.2018 ====

'''Лекция (Д. Ильвовский)''': Дистрибутивная семантика в задачах анализа художественной литературы

Цифровые технологии в гуманитарных науках

2018-01-23T11:15:02Z

Katya:

=== О курсе ===

Читается для студентов 3-4 курса в 3 модуле.

Лекции проходят по вторникам, 18-00 – 21-00, Кочновский пр., 3, ауд. 618.

'''Лекторы:'''

Дмитрий Ильвовский

Екатерина Черняк

[https://t.me/joinchat/EVGQlg5IZdvfVI8hka-Uzw Чат в Telegram]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Опроект

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oпрезентация + 0.3 * Oаудиторная работа

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== 18.01.2018 ====

'''Лекция (Д. Ильвовский)''': Дистрибутивная семантика в задачах анализа художественной литературы

Цифровые технологии в гуманитарных науках

2018-01-23T11:14:46Z

Katya: Новая страница: «=== О курсе === Читается для студентов 3-4 курса в 3 модуле. Лекции проходят по вторникам, 18-00…»

=== О курсе ===

Читается для студентов 3-4 курса в 3 модуле.

Лекции проходят по вторникам, 18-00 – 21-00, Кочновский пр., 3, ауд. 618.

'''Лекторы:'''

Дмитрий Ильвовский

Екатерина Черняк

[https://t.me/joinchat/EVGQlg5IZdvfVI8hka-Uzw Чат в Telegram]

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Опроект

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oпрезентация + 0.3 * Oаудиторная работа

Активная работа на семинарах может положительно повлиять на округление оценки в спорных ситуациях.

При накопленное оценке в 8, 9, 10 баллов такая же оценка за экзамен выставляется автоматом.

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== 18.01.2018 ====

'''Лекция (Д. Ильвовский)''': Дистрибутивная семантика в задачах анализа художественной литературы

О факультете

2018-01-18T06:39:35Z

Katya:

__NOTOC__

== Учебные курсы факультета компьютерных наук==

=== Курсы за 2017/18 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3 курс !! 4 курс !! майноры и факультативы
|-
|

[[Математический_анализ_на_ПМИ_2017/2018_(пилотный_поток) | Математический анализ на ПМИ 2017/2018 (пилотный поток)]]

[[Математический_анализ_на_ПМИ_2017/2018_(основной_поток) | Математический анализ на ПМИ 2017/2018 (основной поток)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(пилотный_поток,_1_модуль) | Основы и методология программирования на ПМИ 2017/2018 (пилотный поток, 1 модуль)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(основной_поток,_2_модуль) | Основы и методология программирования на ПМИ 2017/2018 (основной поток, 2 модуль)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(пилотный_поток) | Линейная алгебра и геометрия на ПМИ (пилотный поток)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(основной_поток) | Линейная алгебра и геометрия на ПМИ (основной поток)]]

[[Дискретная_математика_1_2017/2018 | Дискретная математика-1 на ПМИ]]

[[Алгоритмы и структуры данных 1 | Алгоритмы и структуры данных – 1 (пилотный поток)]]

||
[[Теория_вероятностей_2017/2018_(основной_поток) | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2017/2018_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Математический анализ-3 на ПМИ_2017/2018_(основной_поток) | Математический анализ-3 на ПМИ (основной поток)]]

[[Математический анализ на ПМИ_2017/2018 | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM2-pilot2017/2018 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[DM_2_2017_2018 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Алгоритмы и структуры данных_2_2017/2018 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Дифференциальные уравнения (2 курс, 2017/2018)| Дифференциальные уравнения]]

||
[[Машинное_обучение_1 | Машинное обучение 1 на ПМИ]]

[[Машинное_обучение_2 | Машинное обучение 2 на ПМИ]]

[[Численные_методы_2017 | Численные методы]]

[[Прикладная_статистика_в_машинном_обучении | Прикладная статистика в машинном обучении]]

[[Theory_of_Computing | Theory of Computing, AMI]]

[[Statistical_learning_theory | Introduction to statistical learning theory]]

[[Основные_методы_анализа_данных_(специализация_АДИС) | Основные методы анализа данных на ПМИ]]

[[Параллельные и распределенные вычисления 2017 | Параллельные и распределенные вычисления]]

[[Анализ неструктурированных данных]]

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[НИС_Распределенные_системы_(3_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]

[[Непрерывная_оптимизация | Непрерывная оптимизация]]

[[ Сложность_и_логика| Сложность вычислений и логика в теоретической информатике]]

||

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[Философия_науки_2017 | Философия науки]]

[[НИС_Распределенные_системы_(4_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]

[[Анализ неструктурированных данных]]

[[Байесовские методы машинного обучения 2017 | Байесовские методы машинного обучения]]

[[Функциональное программирование 2018 | Функциональное программирование]]

||

[[Современные методы машинного обучения (курс майнора) 2017/2018]]

[[Введение в программирование (курс майнора) 2017/2018]]

[[Майнор Интеллектуальный анализ данных/Введение в анализ данных | Введение в анализ данных (курс майнора)]]

[[Прикладные задачи анализа данных (майнор - весна 2018)]]

[[Факультативы "Дополнительные главы линейной алгебры" и "Практическая линейная алгебра"_2017/2018 | Дополнительные главы линейной алгебры на ПМИ (факультатив)]]

[[Функциональный анализ 2017/18 | Функциональный анализ на ПМИ (факультатив)]]

[[Дополнительные главы теории вероятностей и математической статистики (факультативы) | Дополнительные главы теории вероятностей и математической статистики (факультативы)]]

[[Дополнительные главы дискретной математики 2017/18 | Дополнительные главы дискретной математики (факультатив)]]
|}

== Курсы в рамках проекта [https://www.hse.ru/dataculture/ Data Culture]==

=== 2 семестр ===

[[Цифровая_грамотность_2018_(2_семестр)|Цифровая грамотность (факультет гуманитарных наук — 2 семестр: ИЯМК, Филология, История искусств, Культурология, 1 курс)]] 
[[Научно-исследовательский семинар (ФСН) |Научно-исследовательский семинар (ОП "Политология", 1 курс)]] 
[[Introduction_to_Data_Culture|Introduction to Data Culture (HSE and University of London Parallel Degree Programme in International Relations, 1 year)]] 

=== 1 семестр ===

[[Цифровая_грамотность|Цифровая грамотность (факультет гуманитарных наук — 1 семестр: История, Философия, 1 курс)]] 
[[Машинное обучение (факультет экономических наук)|Машинное обучение (факультет экономических наук)]] 
[[Программирование (python) для лингвистов | Программирование (python) для лингвистов (факультет гуманитарных наук)]] 
[[Извлечение и анализ интернет-данных | Извлечение и анализ интернет-данных (факультет экономических наук)]] 
[[Анализ больших данных в социальных науках (ФСН, 2017) | Анализ больших данных в социальных науках (ФСН, 2017)]] 
[[Информационные_технологии_в_деятельности_юриста|Информационные технологии в деятельности юриста (Факультет права)]] 
[[Машинное_обучение_для_лингвистов|Машинное обучение (магистратура Школы лингвистики)]] 

== Архив ==

=== Курсы за 2016/17 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3-4 курс !! майноры
|-
|

[[Математический анализ на ПМИ_2016/2017 | Математический анализ на ПМИ (пилотный поток)]]

[[Линейная алгебра и геометрия_2016/2017 | Линейная алгебра и геометрия на ПМИ]]

[[Дискретная_математика_1_2016/2017 | Дискретная математика-1 на ПМИ]]

[[Основы и методология программирования_2016/2017_пилотный_поток | Основы и методология программирования на ПМИ (пилотный поток)]]

[[Основы и методология программирования_2016/2017 | Основы и методология программирования на ПМИ (основной поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(пилотный_поток) | Алгоритмы и структуры данных на ПМИ (пилотный поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(основной_поток) | Алгоритмы и структуры данных на ПМИ (основной поток)]]

[[Алгебра_на_ПМИ_2016/2017 | Алгебра на ПМИ]]

[http://hsealgebra17.wikidot.com/ Алгебра на ПИ]

||

[[Математический анализ_2016/2017 | Математический анализ-3 на ПМИ (основной поток)]]

[[Математически_анализ_3_на_ПМИ_(пилотный_поток) | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM_2_2016_2017 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Дискретная математика_2_2016/2017 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[Алгоритмы и структуры данных_2_2016/2017 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Теория вероятностей_2016/2017 | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2016/2017_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы]]

[[Факультатив_теория_вычислений_2016/2017 | Факультатив теория вычислений на ПМИ]]

[[Дополнительные_главы_теории_вероятностей_(факультатив,_2017) | Дополнительные главы теории вероятностей (факультатив)]]

[[Дифференциальные_уравнения_(2_курс,_2016/2017) | Дифференциальные уравнения]]

[[Математическая_статистика_2016/2017_(пилотный_поток) | Математическая статистика на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы ]]

||

[[НИС_Машинное_обучение_и_приложения_2016/2017 | НИС Машинное обучение и приложения на ПМИ]]

[[Машинное_обучение_1/2016_2017 | Машинное обучение 1 на ПМИ]]

[[Машинное_обучение_2/2016_2017 | Машинное обучение 2 на ПМИ]]

[[Прикладной_статистический_анализ_данных | Прикладной статистический анализ данных на ПМИ]]

[[Численные_методы_в_анализе_данных | Численные методы в анализе данных на ПМИ]]

[http://www.machinelearning.ru/wiki/index.php?title=Статистика_случайных_процессов_(курс_лекций,_ФКН_ВШЭ) Вероятностные модели и статистика случайных процессов на ПМИ]

[http://www.machinelearning.ru/wiki/index.php?title=Opt Методы оптимизации на ПМИ (специализации МОП и РС)]

[[Методы_оптимизации_(весна_2017)|Методы оптимизации 2 (дискретная оптимизация)]]

[[НИС_Распределенные_системы_(осень_2016) | НИС Распределенные системы]]

[[Анализ и верификация алгоритмов биржевой торговли | Анализ и верификация алгоритмов для систем биржевой торговли ]]

[[Программирование_на_графических_процессорах | Программирование на графических процессорах]]

[[ЯРПО | Языки разработки ПО (курс по выбору) на ПМИ]]

[[Data analysis (Software Engineering) 2017 | Data analysis на ПИ]]

[[Базы данных 2 | Базы данных 2 ]]

[[Компьютерные сети 2 | Компьютерные сети 2]]

[[Машинное_обучение_на_больших_данных | Машинное обучение на больших данных на ПМИ]]

||

[[Современные_методы_машинного_обучения_(курс_майнора) | Современные методы машинного обучения (курс майнора)]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_программирование_2016/2017 | Введение в программирование (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Введение в анализ данных/2016-2017 | Введение в анализ данных (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Прикладные задачи анализа данных| Прикладные задачи анализа данных (курс майнора)]]

|}

{|width=100%
|style="vertical-align:top;"|



=== Курсы за 2015/16 учебный год ===
{|
|-
| [[Технологии программирования|Технологии программирования на ПМИ]]
|-
|[[ОиМП-2015|Основы и методология программирования на ПМИ]]
|-
|[[Алгоритмы и структуры данных 2016]]
|-
|[[Линейная алгебра и геометрия_2015/2016 | Линейная алгебра и геометрия на ПМИ]]
|-
|[[Алгебра_2015/2016 | Алгебра на ПМИ]]
|-
|[http://hsealgebra.wikidot.com/ Алгебра на ПИ]
|-
|[[Компьютерные системы]]
|-
|[[Математический анализ на ПМИ_2015/2016 | Математический анализ на ПМИ]]
|-
|[[Факультатив_Матпрактикум | Матпрактикум (факультатив) на ПМИ]]
|-
|[[Data analysis (Software Engineering)]] 
|-
|[[Майнор Интеллектуальный анализ данных/Введение в программирование|Введение в программирование (курс майнора) на ПМИ]]
|-
|[[Майнор Интеллектуальный анализ данных/Введение в анализ данных/2015-2016|Введение в анализ данных (курс майнора) на ПМИ]]
|-
|[[НИС Машинное обучение и приложения|НИС Машинное обучение и приложения на ПМИ]]
|-
|[[Архитектура компьютеров и системное программирование (ПМИ_4, 2015/2016)|Архитектура компьютеров и системное программирование (4 курс)]]
|-
|[[Дифференциальные уравнения (2 курс, 2015/2016)| Дифференциальные уравнения]]
|-
|[[Введение в VBA|Введение в VBA]]
|}

|style="vertical-align:top;"|



=== Курсы за 2014/15 учебный год ===
{|
|-
|[[Основы и методологии программирования]] 
|-
|[[Алгоритмы и структуры данных 2015 | Алгоритмы и структуры данных]] 
|-
|[[Анализ данных (Программная инженерия)]] 
|-
|[[Алгебра_2014/2015 | Алгебра]] 
|-
|[[Magolego_sna_2015| MAGoLEGO Social Network Analysis]]
|}

==== Проектная работа ====
{|
|-
|[[Проектная работа]] 
|-
|[[Учебная практика 1 курс (2016)]]
|-
|[[Проектная работа 2 курс (2016)]]
|}


|}

== Мероприятия факультета компьютерных наук ==
=== Summer School 2015 ===
[[Introduction to Natural Language Processing|Introduction to Natural Language Processing]]
#[[Lecture 1. Introduction|Introduction]]
#[[Lecture 2. Tokenization and word counts|Tokenization and word counts]]
#[[Lecture 3. POS tagging. Key word and phrase extraction|POS tagging. Key word and phrase extraction]]
#[[Lecture 4. Parsing|Parsing]]
#[[Lecture 5. Language sources|Language sources]]
#[[Lecture 6. Synonyms and near-synonyms detection|Synonyms and near-synonyms detection]]
#[[Lecture 8. Suffix trees for NLP|Suffix trees for NLP]]
#[[NLP References|References]]

== Архив ==
* [[Учебная практика 1 курс (2015)]]

Прикладные задачи анализа данных (майнор - весна 2018)

2018-01-17T17:07:17Z

Katya:

Прикладные задачи анализа данных (майнор - весна 2018)

2018-01-17T17:06:31Z

Katya: /* День первый (18 января) */

=== О курсе ===

Читается для студентов 3 курса в 3-4 модулях.

Лекции проходят по четвергам, 10:30 – 11:50, ауд. 5306 (Шаболовка, 26).

'''Лекторы:'''

В 3 модуле: Екатерина Черняк

В 4 модуле: Дмитрий Игнатов

[https://www.hse.ru/edu/courses/???? Карточка курса]

Сдача домашних заданий: в системе [http://anytask.org/ Anytask]

[https://t.me/minor2018 Канал для оповещений в Telegram]

=== Семинары ===

Семинары проходят по четвергам (Шаболовка, 26).

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание !! чат группы
|-
| ИАД1 || Наталья Козловская || 12:10 – 13:30, ауд. 3316 ||
|-
| ИАД2 || Иван Смуров || 12:10 – 13:30, ауд. 4428 ||
|-
| ИАД3 || Александр Панов || 09:00 – 10:20, ауд. 4435 ||
|-
| ИАД4|| Анна Шишкова || 12:10 – 13:00, ауд. 4335 ||
|-
|}

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.6 * Oнакопл + 0.4 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.7 * Oдз (4 шт) + 0.3 * Oср (2 шт)

[Здесь будет ссылка на ведомость, (ведомость)]

=== Программа ===

==== 18.01.2018 ====

'''Лекция (Е. Черняк)''': Введение в автоматическую обработку текстов [https://www.dropbox.com/s/prq0foeqqcsus5s/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': [https://www.dropbox.com/s/wls2j41ctsu85dp/M_sem1.pdf?dl=0 Regexp]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Машинное обучение для лингвистов

2017-12-08T12:38:41Z

Katya: /* Неделя 1. 11/11/17 */

= Машинное обучение в ШЛ 2017/18 =

[https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ чат в телеграме для вопросов]

[https://t.me/ml_for_compling канал в телеграме для объявлений]

[https://github.com/echernyak/ML-for-compling репозиторий]

== Неделя 1. 11/11/17 ==

Лекция: введение в МО. Кластеризация текстов. Иерахические алгоритмы, алгоритм k-средних, тематическое моделирование как кластеризация

Лабораторная работа: Pipeline для кластеризации текстов

Домашнее задание: кластеризация новостей (до 23:59 1.12.17)

== Неделя 2. 25/11/17 ==

Лекция: введение в МО. Классификация текстов. Метод Наивного Байеса и логистическая регрессия

Лабораторная работа: Pipeline для кластеризации текстов

Домашнее задание: классификация новостей (до 10.1.18 23:59)

== Неделя 3. 9/12/17 ==

Лекция: Классификация последовательностей. HMM, MEMM, CRF

Лабораторная работа: HMM для POS-tagging'а

Анализ неструктурированных данных

2017-12-08T10:50:23Z

Katya: /* Неделя 13 (4 декабря– 12 декабря) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 1, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]
# Проект 2, до 23:59 20.12.2017 [https://drive.google.com/open?id=1jLPAIUt5Eb_9ORFnD-XFAVHCyLj00jZQ (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (6 ноября – 12 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

'''Семинар''' Информационный поиск [https://www.dropbox.com/s/h2u3f26jjpbgd9u/sem9___final.pdf?dl=0 (слайды)]

==== Неделя 10 (13 ноября – 19 ноября) ====

'''Лекция (Е. Черняк)''' Языковые модели. Счетные модели и нейронные модели. Реккурентные нейронные сети. LSTM.

'''Семинар''' Автоматическая генерация текстов [https://www.dropbox.com/s/7p7l0azbj948cnk/sem10.pdf?dl=0 (слайды)] [https://yadi.sk/i/jTNrjF283PzYz8 (слайды группы 142)]

==== Неделя 11 (20 ноября – 25 ноября) ====

'''Лекция (Е. Черняк)''' Извлечение информации: именованные сущности, отношения, факты и события. Использование методов классификации и методов классификации последовательностей. MEMM, CRF, BiLSTM-CRF.

'''Семинар''' [http://dmitryfrolov.com/pdf/sem11.pdf (слайды)]

==== Неделя 12 (27 ноября – 1 декабря) ====

'''Лекция (Е. Черняк)''' Генерация текстов. Обучение с подкреплением (reinforcment learning) в задачах генерации текстов (обзор). [https://www.dropbox.com/s/god4t70rwe1zlwm/1_NLG.pdf?dl=0 (слайды)]

'''Семинар''' Вопросно-ответные системы [http://dmitryfrolov.com/pdf/sem12.pdf (слайды)]

==== Неделя 13 (4 декабря – 10 декабря) ====

'''Лекция (приглашенный лектор Сергей Губанов):''' Исправление опечаток

Начиная с самых основ и заканчивая машинным обучением, будет рассказано о том, как устроен современный спеллчекер, способный обрабатывать поток поисковых запросов Яндекса.

О лекторе: Сергей Губанов, руководитель группы ядра машинного перевода, работаю над исправлением опечаток и над нейросетевым машинным переводом.

==== Неделя 13 (11 декабря – 17 декабря) ====

'''Лекция (приглашенный лектор Василий Быль):''' Обработка речи

Лекция будет посвящена общему устройству систем распознавания речи и тому, какое место в них занимают языковые модели.

О лекторе: Василий Быль руководит бригадой (небольшой группой) языковых моделей в отделе голосовых технологий Яндекса.

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-12-04T10:11:59Z

Katya:

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 1, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]
# Проект 2, до 23:59 20.12.2017 [https://drive.google.com/open?id=1jLPAIUt5Eb_9ORFnD-XFAVHCyLj00jZQ (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (6 ноября – 12 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

'''Семинар''' Информационный поиск [https://www.dropbox.com/s/h2u3f26jjpbgd9u/sem9___final.pdf?dl=0 (слайды)]

==== Неделя 10 (13 ноября – 19 ноября) ====

'''Лекция (Е. Черняк)''' Языковые модели. Счетные модели и нейронные модели. Реккурентные нейронные сети. LSTM.

'''Семинар''' Автоматическая генерация текстов [https://www.dropbox.com/s/7p7l0azbj948cnk/sem10.pdf?dl=0 (слайды)] [https://yadi.sk/i/jTNrjF283PzYz8 (слайды группы 142)]

==== Неделя 11 (20 ноября – 25 ноября) ====

'''Лекция (Е. Черняк)''' Извлечение информации: именованные сущности, отношения, факты и события. Использование методов классификации и методов классификации последовательностей. MEMM, CRF, BiLSTM-CRF.

==== Неделя 12 (27 ноября – 1 декабря) ====

'''Лекция (Е. Черняк)''' Генерация текстов. Обучение с подкреплением (reinforcment learning) в задачах генерации текстов (обзор). [https://www.dropbox.com/s/god4t70rwe1zlwm/1_NLG.pdf?dl=0 (слайды)]

'''Семинар''' Вопросно-ответные системы [https://www.dropbox.com/s/s3sbm3v03sftjqm/sem12.pdf?dl=0 (слайды)]

==== Неделя 13 (4 декабря– 12 декабря) ====

'''Лекция (приглашенный лектор Сергей Губанов):''' Исправление опечаток

Начиная с самых основ и заканчивая машинным обучением, будет рассказано о том, как устроен современный спеллчекер, способный обрабатывать поток поисковых запросов Яндекса.

О лекторе: Сергей Губанов, руководитель группы ядра машинного перевода, работаю над исправлением опечаток и над нейросетевым машинным переводом.

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-11-28T15:40:17Z

Katya: /* Неделя 12 (27 ноября – 1 декабя) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (6 ноября – 12 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

'''Семинар''' Информационный поиск [https://www.dropbox.com/s/h2u3f26jjpbgd9u/sem9___final.pdf?dl=0 (слайды)]

==== Неделя 10 (13 ноября – 19 ноября) ====

'''Лекция (Е. Черняк)''' Языковые модели. Счетные модели и нейронные модели. Реккурентные нейронные сети. LSTM.

'''Семинар''' Автоматическая генерация текстов [https://www.dropbox.com/s/7p7l0azbj948cnk/sem10.pdf?dl=0 (слайды)] [https://yadi.sk/i/jTNrjF283PzYz8 (слайды группы 142)]

==== Неделя 11 (20 ноября – 25 ноября) ====

'''Лекция (Е. Черняк)''' Извлечение информации: именованные сущности, отношения, факты и события. Использование методов классификации и методов классификации последовательностей. MEMM, CRF, BiLSTM-CRF.

==== Неделя 12 (27 ноября – 1 декабя) ====

'''Лекция (Е. Черняк)''' Генерация текстов. Обучение с подкреплением (reinforcment learning) в задачах генерации текстов (обзор). [https://www.dropbox.com/s/god4t70rwe1zlwm/1_NLG.pdf?dl=0 (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-11-22T20:04:28Z

Katya: /* Неделя 10 (13 ноября – 19 ноября) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (6 ноября – 12 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

'''Семинар''' Информационный поиск [https://www.dropbox.com/s/h2u3f26jjpbgd9u/sem9___final.pdf?dl=0 (слайды)]

==== Неделя 10 (13 ноября – 19 ноября) ====

'''Лекция (Е. Черняк)''' Языковые модели. Счетные модели и нейронные модели. Реккурентные нейронные сети. LSTM.

'''Семинар''' Автоматическая генерация текстов [https://www.dropbox.com/s/7p7l0azbj948cnk/sem10.pdf?dl=0 (слайды)]

==== Неделя 11 (20 ноября – 25 ноября) ====

'''Лекция (Е. Черняк)''' Извлечение информации: именованные сущности, отношения, факты и события. Использование методов классификации и методов классификации последовательностей. MEMM, CRF, BiLSTM-CRF.

==== Неделя 12 (27 ноября – 1 декабя) ====

'''Лекция (Е. Черняк)''' Обучение с подкреплением (reinforcment learning) в задачах обработки текстов.

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-11-18T09:27:52Z

Katya: /* Неделя 10 (13 ноября – 19 ноября) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (6 ноября – 12 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

'''Семинар''' Информационный поиск [https://www.dropbox.com/s/h2u3f26jjpbgd9u/sem9___final.pdf?dl=0 (слайды)]

==== Неделя 10 (13 ноября – 19 ноября) ====

'''Лекция (Е. Черняк)''' Языковые модели. Счетные модели и нейронные модели. Реккурентные нейронные сети. LSTM.

'''Семинар''' Автоматическая генерация текстов [https://www.dropbox.com/s/7p7l0azbj948cnk/sem10.pdf?dl=0 (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-11-18T09:27:32Z

Katya: /* Неделя 10 (13 ноября – 19 ноября) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (6 ноября – 12 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

'''Семинар''' Информационный поиск [https://www.dropbox.com/s/h2u3f26jjpbgd9u/sem9___final.pdf?dl=0 (слайды)]

==== Неделя 10 (13 ноября – 19 ноября) ====

'''Лекция''' Языковые модели. Счетные модели и нейронные модели. Реккурентные нейронные сети. LSTM.

'''Семинар''' Автоматическая генерация текстов [https://www.dropbox.com/s/7p7l0azbj948cnk/sem10.pdf?dl=0 (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-11-18T09:27:02Z

Katya: /* Неделя 10 (13 ноября – 19 ноября) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (6 ноября – 12 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

'''Семинар''' Информационный поиск [https://www.dropbox.com/s/h2u3f26jjpbgd9u/sem9___final.pdf?dl=0 (слайды)]

==== Неделя 10 (13 ноября – 19 ноября) ====

'''Семинар'' Языковые модели. Счетные модели и нейронные модели. Реккурентные нейронные сети. LSTM.

'''Семинар''' Автоматическая генерация текстов [https://www.dropbox.com/s/7p7l0azbj948cnk/sem10.pdf?dl=0 (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Машинное обучение для лингвистов

2017-11-11T10:46:23Z

Katya:

Машинное обучение для лингвистов

2017-11-11T10:45:54Z

Katya: /* Машинное обучение в ШЛ 2017/18 */

Машинное обучение для лингвистов

2017-11-11T10:45:37Z

Katya:

= Машинное обучение в ШЛ 2017/18 =

[https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ чат в телеграме для вопросов]

[https://github.com/echernyak/ML-for-compling https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ]

[https://t.me/ml_for_compling канал в телеграме для объявлений]

[https://github.com/echernyak/ML-for-compling репозиторий]

== Неделя 1. 11/11/17 ==

Лекция: введение в МО. Кластеризация текстов. Иерахические алгоритмы, алгоритм k-средних, тематическое моделирование как кластеризация

Лабораторная работа: Pipeline для кластеризации текстов

Домашнее задание: кластеризация новостей (до 23:59 1.12.17)

Машинное обучение для лингвистов

2017-11-09T16:53:09Z

Katya:

= Машинное обучение в ШЛ 2017/18 =

[https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ чат в телеграме для вопросов]

[https://github.com/echernyak/ML-for-compling https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ]

[канал в телеграме для объявлений https://t.me/ml_for_compling]

== Неделя 1. 11/11/17 ==

Лекция: введение в МО. Кластеризация текстов. Иерахические алгоритмы, алгоритм k-средних, тематическое моделирование как кластеризация

Лабораторная работа: Pipeline для кластеризации текстов

Домашнее задание: кластеризация новостей (до 23:59 1.12.17)

Машинное обучение для лингвистов

2017-11-09T16:50:29Z

Katya: /* Машинное обучение в ШЛ 2017/18 */

= Машинное обучение в ШЛ 2017/18 =

[https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ (чат в телеграме для вопросов)]

[https://github.com/echernyak/ML-for-compling (https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ)]
[канал в телеграме для объявлений (https://t.me/ml_for_compling)]

Машинное обучение для лингвистов

2017-11-09T16:49:47Z

Katya:

= Машинное обучение в ШЛ 2017/18 =

чат в телеграме для вопросов: https://t.me/joinchat/EVGQlkTn6X4UQXxqbCKIlQ
Wiki-страница: http://wiki.cs.hse.ru/Машинное_обучение_для_лингвистов
репозиторий: https://github.com/echernyak/ML-for-compling
канал в телеграме для объявлений: https://t.me/ml_for_compling

Анализ неструктурированных данных

2017-11-09T09:22:50Z

Katya: /* Неделя 10 (6 ноября – 13 ноября) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

'''Семинар:''' [https://yadi.sk/i/zct5pith3PYAmz Тематическое моделирование]

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 10 (6 ноября – 13 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

[https://www.dropbox.com/s/0btntom44qve5q5/ML%20-%20%D0%B4%D0%BB%D1%8F%20%D0%BA%D1%80%D1%83%D1%82%D1%8B%D1%85%20%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2.pptx?dl=0 (слайды)]

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-11-07T08:29:25Z

Katya: /* Программа */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 9 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

'''Семинар:''' Классификация и анализ тональности. [https://www.dropbox.com/s/sid2nto8gmjys2y/sem8.pdf?dl=0 (слайды и дз)]

==== Неделя 10 (6 ноября – 13 ноября) ====

'''Лекция (приглашенный лектор Алексей Шаграев):''' Информационный поиск.

В лекции будут обсуждаться различные прикладные задачи машинного обучения в информационном поиске, возникающие при разработке поисковых систем. Среди них:
- кластеризация новостных сообщений
- построение метрик качества для поисковых систем и оптимизация под них
- классическое ранжирование и обучение ранжированию по пользовательским данным
- разнообразие и свежесть в поисковой выдаче

О лекторе: Алексей Шаграев, к.т.н., руководитель службы разработки свеже-социального поиска Яндекса

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

О факультете

2017-11-03T12:21:40Z

Katya: /* Data Culture */

__NOTOC__

== Учебные курсы факультета компьютерных наук==

=== Курсы за 2017/18 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3 курс !! 4 курс !! майноры
|-
|

[[Математический_анализ_на_ПМИ_2017/2018_(пилотный_поток) | Математический анализ на ПМИ 2017/2018 (пилотный поток)]]

[[Математический_анализ_на_ПМИ_2017/2018_(основной_поток) | Математический анализ на ПМИ 2017/2018 (основной поток)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(пилотный_поток,_1_модуль) | Основы и методология программирования на ПМИ 2017/2018 (пилотный поток, 1 модуль)]]

[[Основы_и_методология_программирования_на_ПМИ_2017/2018_(основной_поток,_2_модуль) | Основы и методология программирования на ПМИ 2017/2018 (основной поток, 2 модуль)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(пилотный_поток) | Линейная алгебра и геометрия на ПМИ (пилотный поток)]]

[[Линейная_алгебра_и_геометрия_на_ПМИ_2017/2018_(основной_поток) | Линейная алгебра и геометрия на ПМИ (основной поток)]]

[[Дискретная_математика_1_2017/2018 | Дискретная математика-1 на ПМИ]]

||
[[Теория_вероятностей_2017/2018_(основной_поток) | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2017/2018_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Математический анализ-3 на ПМИ_2017/2018_(основной_поток) | Математический анализ-3 на ПМИ (основной поток)]]

[[Математический анализ на ПМИ_2017/2018 | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM2-pilot2017/2018 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[DM_2_2017_2018 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Алгоритмы и структуры данных_2_2017/2018 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Факультативы "Дополнительные главы линейной алгебры" и "Практическая линейная алгебра"_2017/2018 | Дополнительные главы линейной алгебры на ПМИ (факультатив)]]
||
[[Машинное_обучение_1 | Машинное обучение 1 на ПМИ]]

[[Численные_методы_2017 | Численные методы]]

[[Прикладная_статистика_в_машинном_обучении | Прикладная статистика в машинном обучении]]

[[Theory_of_Computing | Theory of Computing, AMI]]

[[Statistical_learning_theory | Introduction to statistical learning theory]]

[[Основные_методы_анализа_данных_(специализация_АДИС) | Основные методы анализа данных на ПМИ]]

[[Параллельные и распределенные вычисления 2017 | Параллельные и распределенные вычисления]]

[[Анализ неструктурированных данных]]

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[НИС_Распределенные_системы_(3_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]
||

[[Безопасность компьютерных систем 2017 | Безопасность компьютерных систем]]

[[Философия_науки_2017 | Философия науки]]

[[НИС_Распределенные_системы_(4_курс,_2017) | НИС Распределенные системы]]

[[НИС_Машинное_обучение_и_приложения_2017/2018 | НИС Машинное обучение и приложения]]

[[Анализ неструктурированных данных]]

[[Байесовские методы машинного обучения 2017 | Байесовские методы машинного обучения]]

||

[[Современные методы машинного обучения (курс майнора) 2017/2018]]

[[Введение в программирование (курс майнора) 2017/2018]]

|}

== Data Culture==

[[Цифровая_грамотность|Цифровая грамотность (факультет гуманитарных наук)]] 
[[Машинное обучение (факультет экономических наук)|Машинное обучение (факультет экономических наук)]] 
[[Программирование (python) для лингвистов | Программирование (python) для лингвистов (факультет гуманитарных наук)]] 
[[Извлечение и анализ интернет-данных | Извлечение и анализ интернет-данных (факультет экономических наук)]] 
[[Анализ больших данных в социальных науках (ФСН, 2017) | Анализ больших данных в социальных науках (ФСН, 2017)]] 
[[Информационные_технологии_в_деятельности_юриста|Информационные технологии в деятельности юриста (Факультет права)]] 
[[Машинное_обучение_для_лингвистов|Машинное обучение (магистратура Школы лингвистики)]]

=== Курсы за 2016/17 учебный год ===
{| class="wikitable"
|-
! 1 курс !! 2 курс !! 3-4 курс !! майноры
|-
|

[[Математический анализ на ПМИ_2016/2017 | Математический анализ на ПМИ (пилотный поток)]]

[[Линейная алгебра и геометрия_2016/2017 | Линейная алгебра и геометрия на ПМИ]]

[[Дискретная_математика_1_2016/2017 | Дискретная математика-1 на ПМИ]]

[[Основы и методология программирования_2016/2017_пилотный_поток | Основы и методология программирования на ПМИ (пилотный поток)]]

[[Основы и методология программирования_2016/2017 | Основы и методология программирования на ПМИ (основной поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(пилотный_поток) | Алгоритмы и структуры данных на ПМИ (пилотный поток)]]

[[Алгоритмы_и_структуры_данных_на_ПМИ_(основной_поток) | Алгоритмы и структуры данных на ПМИ (основной поток)]]

[[Алгебра_на_ПМИ_2016/2017 | Алгебра на ПМИ]]

[http://hsealgebra17.wikidot.com/ Алгебра на ПИ]

||

[[Математический анализ_2016/2017 | Математический анализ-3 на ПМИ (основной поток)]]

[[Математически_анализ_3_на_ПМИ_(пилотный_поток) | Математический анализ-3 на ПМИ (пилотный поток)]]

[[DM_2_2016_2017 | Дискретная математика-2 на ПМИ (основной поток)]]

[[Дискретная математика_2_2016/2017 | Дискретная математика-2 на ПМИ (пилотный поток)]]

[[Алгоритмы и структуры данных_2_2016/2017 | Алгоритмы и структуры данных – 2 на ПМИ (основной поток)]]

[[Теория вероятностей_2016/2017 | Теория вероятностей на ПМИ (основной поток)]]

[[Теория_вероятностей_2016/2017_(пилотный_поток) | Теория вероятностей на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы]]

[[Факультатив_теория_вычислений_2016/2017 | Факультатив теория вычислений на ПМИ]]

[[Дополнительные_главы_теории_вероятностей_(факультатив,_2017) | Дополнительные главы теории вероятностей (факультатив)]]

[[Дифференциальные_уравнения_(2_курс,_2016/2017) | Дифференциальные уравнения]]

[[Математическая_статистика_2016/2017_(пилотный_поток) | Математическая статистика на ПМИ (пилотный поток)]]

[[Архитектура_компьютеров_и_операционные_системы_2016/2017 | Архитектура компьютеров и операционные системы ]]

||

[[НИС_Машинное_обучение_и_приложения_2016/2017 | НИС Машинное обучение и приложения на ПМИ]]

[[Машинное_обучение_1/2016_2017 | Машинное обучение 1 на ПМИ]]

[[Машинное_обучение_2 | Машинное обучение 2 на ПМИ]]

[[Прикладной_статистический_анализ_данных | Прикладной статистический анализ данных на ПМИ]]

[[Численные_методы_в_анализе_данных | Численные методы в анализе данных на ПМИ]]

[http://www.machinelearning.ru/wiki/index.php?title=Статистика_случайных_процессов_(курс_лекций,_ФКН_ВШЭ) Вероятностные модели и статистика случайных процессов на ПМИ]

[http://www.machinelearning.ru/wiki/index.php?title=Opt Методы оптимизации на ПМИ (специализации МОП и РС)]

[[Методы_оптимизации_(весна_2017)|Методы оптимизации 2 (дискретная оптимизация)]]

[[НИС_Распределенные_системы_(осень_2016) | НИС Распределенные системы]]

[[Анализ и верификация алгоритмов биржевой торговли | Анализ и верификация алгоритмов для систем биржевой торговли ]]

[[Программирование_на_графических_процессорах | Программирование на графических процессорах]]

[[ЯРПО | Языки разработки ПО (курс по выбору) на ПМИ]]

[[Data analysis (Software Engineering) 2017 | Data analysis на ПИ]]

[[Базы данных 2 | Базы данных 2 ]]

[[Компьютерные сети 2 | Компьютерные сети 2]]

[[Машинное_обучение_на_больших_данных | Машинное обучение на больших данных на ПМИ]]

||

[[Современные_методы_машинного_обучения_(курс_майнора) | Современные методы машинного обучения (курс майнора)]]

[[Майнор_Интеллектуальный_анализ_данных/Введение_в_программирование_2016/2017 | Введение в программирование (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Введение в анализ данных | Введение в анализ данных (курс майнора)]]

[[Майнор Интеллектуальный анализ данных/Прикладные задачи анализа данных| Прикладные задачи анализа данных (курс майнора)]]

|}

{|width=100%
|style="vertical-align:top;"|



=== Курсы за 2015/16 учебный год ===
{|
|-
| [[Технологии программирования|Технологии программирования на ПМИ]]
|-
|[[ОиМП-2015|Основы и методология программирования на ПМИ]]
|-
|[[Алгоритмы и структуры данных 2016]]
|-
|[[Линейная алгебра и геометрия_2015/2016 | Линейная алгебра и геометрия на ПМИ]]
|-
|[[Алгебра_2015/2016 | Алгебра на ПМИ]]
|-
|[http://hsealgebra.wikidot.com/ Алгебра на ПИ]
|-
|[[Компьютерные системы]]
|-
|[[Математический анализ на ПМИ_2015/2016 | Математический анализ на ПМИ]]
|-
|[[Факультатив_Матпрактикум | Матпрактикум (факультатив) на ПМИ]]
|-
|[[Data analysis (Software Engineering)]] 
|-
|[[Майнор Интеллектуальный анализ данных/Введение в программирование|Введение в программирование (курс майнора) на ПМИ]]
|-
|[[Майнор Интеллектуальный анализ данных/Введение в анализ данных/2015-2016|Введение в анализ данных (курс майнора) на ПМИ]]
|-
|[[НИС Машинное обучение и приложения|НИС Машинное обучение и приложения на ПМИ]]
|-
|[[Архитектура компьютеров и системное программирование (ПМИ_4, 2015/2016)|Архитектура компьютеров и системное программирование (4 курс)]]
|-
|[[Дифференциальные уравнения (2 курс, 2015/2016)| Дифференциальные уравнения]]
|-
|[[Введение в VBA|Введение в VBA]]
|}

|style="vertical-align:top;"|



=== Курсы за 2014/15 учебный год ===
{|
|-
|[[Основы и методологии программирования]] 
|-
|[[Алгоритмы и структуры данных 2015 | Алгоритмы и структуры данных]] 
|-
|[[Анализ данных (Программная инженерия)]] 
|-
|[[Алгебра_2014/2015 | Алгебра]] 
|-
|[[Magolego_sna_2015| MAGoLEGO Social Network Analysis]]
|}

==== Проектная работа ====
{|
|-
|[[Проектная работа]] 
|-
|[[Учебная практика 1 курс (2016)]]
|-
|[[Проектная работа 2 курс (2016)]]
|}


|}

== Мероприятия факультета компьютерных наук ==
=== Summer School 2015 ===
[[Introduction to Natural Language Processing|Introduction to Natural Language Processing]]
#[[Lecture 1. Introduction|Introduction]]
#[[Lecture 2. Tokenization and word counts|Tokenization and word counts]]
#[[Lecture 3. POS tagging. Key word and phrase extraction|POS tagging. Key word and phrase extraction]]
#[[Lecture 4. Parsing|Parsing]]
#[[Lecture 5. Language sources|Language sources]]
#[[Lecture 6. Synonyms and near-synonyms detection|Synonyms and near-synonyms detection]]
#[[Lecture 8. Suffix trees for NLP|Suffix trees for NLP]]
#[[NLP References|References]]

== Архив ==
* [[Учебная практика 1 курс (2015)]]

Машинное обучение для лингвистов

2017-11-03T12:19:00Z

Katya: Новая страница: «Машинное обучение в ШЛ 2017/18»

Машинное обучение в ШЛ 2017/18

Анализ неструктурированных данных

2017-10-30T18:41:40Z

Katya: /* Неделя 7 (16 октября – 22 октября) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

==== Неделя 8 (30 октября – 5 ноября) ====

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия, сверточные нейронные сети, Fast Text. [https://www.dropbox.com/s/kdcs4mvpb7o9cte/classification.slides%202.html?dl=0 (слайды)]

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]

Анализ неструктурированных данных

2017-10-30T18:38:38Z

Katya: /* Неделя 6 (16 октября – 22 октября) */

== О курсе ==

Курс читается для студентов 3-го и 4-го курсов [https://cs.hse.ru/ami ПМИ ФКН ВШЭ] в 1-2 модулях.

'''Лекторы:''' Петр Алексеевич Ромов, Екатерина Леонидовна Черняк

Лекции проходят по вторникам, 15:10 – 16:30 , ауд. 509.

=== Полезные ссылки ===

[https://www.hse.ru/edu/courses/205512723 Карточка курса]

Репозиторий с материалами на GitHub: https://github.com/HSE-NLP

Сдача домашних заданий по электронной почте: [mailto:http://amilinguaHW@gmail.com amilinguaHW@gmail.com]

telegram: https://t.me/nlp_hse

=== Семинары ===

{| class="wikitable"
|-
! Группа !! Преподаватель !! Расписание
|-
| АДИС || Дмитрий Фролов || вторник, 18:10 – 19:30, ауд. 501
|-
| БПМИ141 МОП || Анна Шишкова || четверг, 13:40 – 15:00, ауд. 501
|-
| БПМИ142 МОП || Мурат Апишев || четверг, 10:30 – 11:50, ауд. 322
|-
|}

=== Дата выдачи/сдачи проектных заданий ===

# Проект 1, часть 1 до 23:59 10.10.2017 [https://www.dropbox.com/s/czzb0meu45l5tvj/NLP_project1.pdf?dl=0 (ссылка)]
# Проект 2, часть 2 до 23:59 26.11.2017 [https://www.dropbox.com/s/h8oqt082v6ac68f/NLP_project2.pdf?dl=0 (ссылка)]

=== Как писать отчёт ===

1) Содержание отчёта. Вне зависимости от того, пишете ли вы отчёт в latex, или в jupyter notebook или ещё где-то, нормальный отчёт должен включать в себя:

— Краткую постановку задачи и формулировку задания

— Описание минимума необходимой теории и/или описание используемых инструментов

— Подробное пошаговый рассказ о проделанной работе

— Аккуратно оформленные результаты

— Внятные выводы

Все эти пункты долны быть чётко отмечены заголовками, если они слишком велики, то можно использовать подзаголовки. Словом, читатель не должен тратить время на навигацию.

2) Стилистика. Отчёт —- это несколько формальный текст. Он не пишется от первого лица. В нём не надо рассказывать про свою криворукость, про то, как красиво поют птички за окном и т.п. Не надо обращаться к читателю (особенно на "ты", среди вас уже есть такие "отличившиеся"), ни в тексте, ни в комментах к коду (если это ноутбук). Комментарии к коду, кстати, лучше писать на английском.

Текст не должен содержать миллиарда опечаток и должен удовлетворять хоть каким-то минимальным стилистическим требованиям. Русский язык богат синонимами, и этим нужно пользоваться. Вот такие вещи писать НЕ надо:

"Самое важное улучшение было в улучшении Prior Model (путь улучшения тоже взят из Word Alignment Models")."

Слова в предложениях должны быть согласованными.

3) Если в отчёте (презентации) фигурируют картинки из сети, они должны быть в тему. И к ним надо обязательно ставить маленькую подпись с указанием источника, или же прописать его явно в тексте.

Подсказка (просто на всякий случай): задание делается гораздо качественнее и аккуратнее, если его не откладывать на последний вечер;)

=== Система оценок ===

Результирующая оценка рассчитывается по формуле:

Oитоговая = 0.8 * Oнакопл + 0.2 * Оэкз

Накопленная оценка рассчитывается по формуле:

Oнакопл = 0.4 * Oпроект1 + 0.4 * Oпроект2 + 0.2 * Одз+cем

[https://docs.google.com/spreadsheets/d/1T_1LqhQ4fWJGh3s-lA0MsNoMTYIXIH9iUY3bu-Vpcrg/edit?usp=sharing, (ведомость)]

=== Программа ===

==== Неделя 1 (4-10 сентября) ====

'''Лекция (Е. Черняк)''': Обзор курса: мастер-классы, кейсы, проекты. Введение в автоматическую обработку текстов. [https://www.dropbox.com/s/cisfnsahepuiac9/1_intro.pdf?dl=0 (слайды)]

'''Семинар''': Библиотека nltk
[https://www.dropbox.com/s/81ur98bn5wa9thq/sem1.pdf?dl=0 (слайды и дз)]
[https://www.dropbox.com/s/c9e1mqmmm7m2bcn/Sem%201.ipynb?dl=0 (код с семинара)]

==== Неделя 2 (11-17 сентября) ====

'''Лекция (П. Ромов)''': Форматы данных, способы хранения, принципы работы интернета. Краулинг. Regexp. Unicode. [https://www.dropbox.com/s/xm5ob8mkm7lrf3p/HSE_NLP_Lection2.pdf?dl=0 (слайды)]

'''Семинар''': Библиотеки lxml, beautifulsoup, scrapy. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_1.pdf (ссылка)] (дедлайн на все 23.59 14.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/0kyl4w7rhaih90f/sem2.pdf?dl=0 (слайды с семинара)]

==== Неделя 3 (18-24 сентября) ====

'''Лекция (Е. Черняк)''': Морфологический анализ, основные задачи и подходы. Стеммер Портера, поиск по словарю, скрытые цепи Маркова. Современные задачи морфологического анализа. [https://www.dropbox.com/s/urdf9cpsnp6uvml/2_morph.pdf?dl=0 (слайды)]

'''Семинар''': SENNA, Томита-парсер, отношения между словами. Задание для группы 3-4 курс, вечер: [http://dmitryfrolov.com/pdf/task_3.pdf (ссылка)], слайды семинара 19.09 [http://dmitryfrolov.com/pdf/sem3_new.pdf (ссылка)]. Задание для БПМИ142 МОП [http://wiki.cs.hse.ru/images/7/7c/Task.png (ссылка)]. (дедлайн на все 23.59 21.09, делается и присылается индивидуально!). [https://www.dropbox.com/s/hvojoqp7zb3p4sk/sem3__Copy_.pdf?dl=0 (слайды с семинара вместе с заданием)]

==== Неделя 4 (25 сентября – 1 октября) ====

'''Лекция (приглашённый лектор Иван Смуров):''' Синтаксический анализ (syntactic parsing) - одна из классических задач NLP, заключающейся в построении по последовательности текста соответствующего ей синтаксического разбора. Задача имеет продолжительную и богатую историю и решалась с помощью различных методов - от вероятностных контекстно-свободных грамматик до нейросетей с использованием sequence-to-sequence архитектур. На лекции будет рассказано о популярном в литературе подходе - использованию transition-based парсеров. Этод подход, восходящий к shift-reduce анализаторам классических логик, был впервые использован в применении к задаче синтаксического анализа Й. Нивре в 2003 году. В 2014 году метод был адаптирован для использования нейросетей Д. Ченом и К. Маннингом из Стенфордского университета и, наконец, в 2016 он послужил основой для популярного парсера SynaxNet, разработанного в Google. [https://www.dropbox.com/s/yceqgugsc6tdcxs/transition-based_%D0%BF%D0%B0%D1%80%D1%81%D0%B5%D1%80%D1%8B.pptx?dl=0 (слайды)]

О лекторе:
Иван Смуров – сотрудник кафедр Алгоритмов и Технологий Программирования и Компьютерной Лингвистики МФТИ, разрабатчик научно-исследовательского отдела компании ABBYY. Является специалистом по машинному обучению, компьютерной и вычислительной лингвистике, математической логике. Область основных интересов – обработка текстов на естественных языках.

'''Семинар:''' SyntaxNet, cинтаксические парсеры, универсальные зависимости [https://yadi.sk/d/OddFv-y33NBshk (слайды)]

[http://dmitryfrolov.com/pdf/task4.jpg (дз для 3 курса)]

==== Неделя 5 (2 октября – 8 октября) ====

'''Лекция (Е. Черняк):''' Статистический анализ текстов. Законы Ципфа и Хипса. Методы извлечения ключевых слов и словосочетаний. Векторная модель. [https://www.dropbox.com/s/fzqcvqb7qu4d27j/4_StatAnalysis.pdf?dl=0 (слайды)]

'''Семинар:''' Ключевые слова, n-граммы, коллокации [https://www.dropbox.com/s/98grun1bl2pqy2p/sem5.pdf?dl=0 (слайды и дз)], [https://yadi.sk/i/BND6d9P73NZLCE (слайды для группы 142)]

==== Неделя 6 (9 октября – 15 октября) ====

'''Лекция (приглашенный лектор Анна Потапенко):''' Дистрибутивная семантика. В курсе вы уже поговорили о морфологии и синтаксисе, в этой лекции мы поднимемся на следующий уровень анализа языка и поговорим о семантике - о том, как из текстов извлекать смысл отдельных слов и целых предложений. Смысл будем кодировать векторами - обычными векторами вещественных чисел. Мы начнем с классических моделей - подсчета PMI слов и применения SVD для понижения размерности матриц. Затем поговорим о том, как в эту картину укладывается нашумевший word2vec. Разберемся, почему это не deep learning, и почему король - мужчина + женщина != королева. Затем поговорим о других популярных и более новых подходах обучения векторных представлений слов: GloVe, FastText, StarSpace. Во второй части лекции перейдем к предложениям и поговорим о 3 типах нейронных сетей, позволяющих строить их векторные представления: это конволюционные, рекуррентные и рекурсивные нейронные сети. Здесь мы увидим, что модели синтаксиса и другие лингвистические знания хорошо помогают собрать из отдельных слов смысл всего предложения. [https://www.dropbox.com/s/f3hklz6yko4ohqs/Potapenko_lecture_distr.pdf?dl=0 (слайды)]

О лекторе: Анна занимается построением векторных представлений текста в аспирантуре у К.В. Воронцова. За время аспирантуры Анна дважды стажировалась в компании Google, где оба раза занималась исследованиями в области NLP - дистрибутивной семантикой и диалоговыми системами. Анна закончила ВМК МГУ и Школу Анализа Данных Яндекса, теперь она ведет там семинары, а также готовит онлайн-курс по NLP на платформе Coursera.

==== Неделя 7 (16 октября – 22 октября) ====

'''Лекция (М. Апишев):''' Тематическое моделирование. Определения. PLSA, LDA, аддитивная регуляризация [https://www.dropbox.com/s/4mjxzjk6njvzzrl/MelLain_HSE_nlp_TM_lection%20%283%29.pdf?dl=0 (слайды)].

'''Лекция у журналистов данных (Е. Черняк):''' Классификация текстов, метод наивного Байеса, логистическая регрессия [https://www.dropbox.com/s/tcj33fdgvetdvg3/classification.slides.html?dl=0 (слайды)].

=== Рекомендуемые ресурсы ===

На английском
* Jurafsky & Martin [https://web.stanford.edu/~jurafsky/slp3/ (link) ]
* Курс Лауры Каллмайер по МО для АОТ [https://user.phil.hhu.de/~kallmeyer/MachineLearning/index.html (link)]
* Курс Нильса Раймерса по DL для АОТ [https://github.com/UKPLab/deeplearning4nlp-tutorial (link)]
* Курс в Оксфорде по DL для АОТ [https://github.com/oxford-cs-deepnlp-2017 (link)]
* Курс в Стенфорде по DL для AOT [http://cs224d.stanford.edu (link)]
* Материалы по обучению с подкреплением (Reinforcment Learning) [https://github.com/jiyfeng/rl4nlp (link)]

На русском (и про русский, в основном)
* НКРЯ [http://ruscorpora.ru (link)]
* Открытый корпус [http://opencorpora.org (link)]
* Дистрибутивные семантические модели для русского языка [http://rusvectores.org/ru/ (link)]
* Морфология [https://tech.yandex.ru/mystem/ (link)]
* Синтаксис [https://habrahabr.ru/post/317564/ (link)]
* Томита-парсер [https://tech.yandex.ru/tomita/ (link)]
* Все на свете: [http://mathlingvo.ru (mathlingvo)], [https://nlpub.org (nlpub)]
* Text Visualisation browser: [http://textvis.lnu.se (link)]

Ссылка на дополнительную литературу:
* [https://machinelearningmastery.com/books-on-natural-language-processing/] Books on natural language processing
* [http://eprints.lse.ac.uk/62548/1/Schonhardt-Bailey_text%20mining%20handbook.pdf/] Text mining for central banks

Литература
# Manning, Christopher D., and Hinrich Schütze. Foundations of statistical natural language processing. Vol. 999. Cambridge: MIT press, 1999.
# Martin, James H., and Daniel Jurafsky. "Speech and language processing." International Edition 710 (2000): 25.
# Cohen, Shay. "Bayesian analysis in natural language processing." Synthesis Lectures on Human Language Technologies 9, no. 2 (2016): 1-274.
# Goldberg, Yoav. "Neural Network Methods for Natural Language Processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.

=== Используемые библиотеки ===
# NLTK [http://www.nltk.org (link)]
# pymorphy2 [https://pymorphy2.readthedocs.io/en/latest/ (link)]
# pymystem3 [https://github.com/Digsolab/pymystem3 (link)]
# readability [https://github.com/buriy/python-readability (link)]