Курс Deep Learning

Курс пропонує опанувати глибоке навчання за допомогою сучасних технологій для розв’язання задач обробки природної мови та комп’ютерного зору. Курс може бути корисним ML-спеціалістам, які тільки починають і цікавляться комп’ютерним зором та обробкою природної мови. Рекомендовано (але не обов’язково) проходити курси з Data Science/Machine Learning Fundamentals та Python for Data Science або їхні аналоги.

Програма курсу

Вступ до глибокого навчання (DL)

• DL для задач обробки природньої мови (NLP) та комп’ютерного зору (CV). Інші прикладні галузі
• Що таке нейронна мережа (NN)?
• Компоненти NN. Перцептрон
• Як навчається NN? Градієнтний спуск
• Функція втрат. Пряме і зворотне розповсюдження

Основи PyTorch

• Проста NN у PyTorch
• Функції активації. Приховані шари VS вихідні шари
• Методи регуляризації. Рання зупинка. Dropout
• Залишкові з'єднання

Ембединги

• Представлення тексту у вигляді векторів
• Класичні алгоритми ембедингів для завдань NLP
• Word2vec, GloVe, fastText

Текст як послідовність

• RNN, LSTM, GRU

Моделі послідовності до послідовності (seq-to-seq)

• Bi-directional LSTM
• Моделі encoder-decoder

Transformers

• Attention. Encoder, decoder. Self-attention
• BERT vs GPT-2

Поширені завдання NLP з використанням Transformers

• Класифікація текстів
• Відповідь на запитання
• Семантичний пошук

Генеративні моделі

• Перефразування, сумаризація тексту
• Великі мовні моделі (LLMs)

Згорткові нейронні мережі

• Класифікація зображень
• Попередня обробка зображень. Аугментація

Трансфер навчання

• LeNet, AlexNet, VGGNet, Inception, ResNet, EfficientNet

Детекція об'єктів

• R-CNN, YOLO, SSD

Семантична сегментація, об'єктна сегментація

• UNet, Mask R-CNN, YOLACT

Генерація зображень

• Автокодери. GAN
• Передача нейронного стилю

Diffusers

• Текстове підсумування зображення
• Text-to-Image
• Production

Оптимізація NN

• Налаштування гіперпараметрів
• Прискорення тренування. Накопичення градієнта
• Контрольні точки градієнта. Змішана середня точність

Розгортання

• FastAPI
• Моніторинг моделей у виробництві

Особливості курсу

• Заняття 2-3 рази на тиждень
• Можливість оплати частинами
• Знижка -10% на наступний курс

Мінімальні вимоги

• Наявність комп'ютера для участі в онлайн-заняттях
• Знання англійської мови на рівні Pre-Intermediate

Викладачі курсу

• Роман Кириченко – Data Scientist