Рекуррентные нейронные сети, анализ последовательностей и естественного языка
Описание курса
«Рекуррентные нейронные сети, анализ последовательностей и естественного языка» — это продвинутый курс из серии «Глубокие нейронные сети», направленный на предоставление слушателям знаний и практического опыта использования нейронных сетей для анализа последовательностей, в частности временных рядов и естественного языка. В курсе рассматриваются наиболее популярные в настоящее время архитектуры рекуррентных нейронных сетей: сети долго-краткосрочной памяти (Long short-term memory, LSTM) и управляемые рекуррентные нейронные сети (Gated Recurrent Unit, GRU). Курс обеспечивает теоретические знания и практические навыки, необходимые для разработки рекуррентных нейронных сетей на Python с помощью библиотек Keras и TensorFlow.Целевая аудитория
Курс рекомендован и будет полезен тем, кто занимается решением задач анализа данных, машинного обучения и разработкой искусственного интеллекта: программистам, аналитикам, специалистам в области данных, инженерам машинного обучение, имеющим базовое представление о глубоких нейронных сетях.Минимальные требования
Данный курс предполагает наличие у слушателей базового знания языка программирования Python. Знание основ машинного обучения полезно, но не обязательно.Рекомендуемые предварительные курсы: NVD-01 Введение в глубокие нейронные сети.
Содержание курса
День 1Модуль 1. Рекуррентные нейронные сети
- Нейронные сети с прямым распространением сигнала и рекуррентные нейронные сети.
- Обучение рекуррентной нейронной сети, разворачивание во времени.
- Простые рекуррентные нейронные сети.
- Лабораторная работа 1. Определение тональности текста с помощью простой рекуррентной нейронной сети на Keras и TensorFlow.
- Архитектура сетей долго-краткосрочной памяти.
- Лабораторная работа 2. Определение тональности текста с помощью сетей долго-краткосрочной памяти на Keras и TensorFlow.
- Архитектура управляемых рекуррентных нейронных сетей.
- Лабораторная работа 3. Определение тональности текста с помощью управляемых рекуррентных нейронных сетей на Keras и TensorFlow.
- Задача анализа временных рядов
- Анализ временных рядов с помощью рекуррентных нейронных сетей и одномерных сверточных нейронных сетей
- Лабораторная работа 4. Анализ временных рядов для медицинских данных с помощью Keras и TensorFlow.
День 2
Модуль 5. Обработка естественного языка
- Задача обработки естественного языка как задача анализа последовательностей.
- Подходы к представлению текстов на естественном языке в качестве входных данных для глубоких нейронных сетей.
- Векторное представление слов (word embedding).
- Предварительно обученные векторные представления слов GloVe и Word2Vec.
- Лабораторная работа 5. Определение тональности текста с использованием предварительно обученного векторного представления слов на Keras и TensorFlow.
- Классификация текстов по темам.
- Лабораторная работа 6. Определение темы документа из набора данных новостей агентства "Рейтер" на Keras и TensorFlow.
- Генерация текста как задача предсказания последовательностей.
- Использование рекуррентных нейронных сетей для генерации текста.
- Лабораторная работа 7. Автоматическая генерация текста с помощью сетей долго-краткосрочной памяти на Keras и TensorFlow.