Курс Deep Learning

Програма курсу

Вступ до глибокого навчання (DL)

• DL для задач обробки природньої мови (NLP) та комп’ютерного зору (CV). Інші прикладні галузі
• Що таке нейронна мережа (NN)?
• Компоненти NN. Перцептрон
• Як навчається NN? Градієнтний спуск
• Функція втрат. Пряме і зворотне розповсюдження

Основи PyTorch

• Проста NN у PyTorch
• Функції активації. Приховані шари VS вихідні шари
• Методи регулярізації. Рання зупинка. Dropout
• Залишкові з'єднання

Ембединги

• Представлення тексту у вигляді векторів
• Класичні алгоритми ембедингів для завдань NLP
• Word2vec, GloVe, fastText

Текст як послідовність

• RNN
• LSTM
• GRU

Моделі послідовності до послідовності (seq-to-seq)

• Bi-directional LSTM
• Моделі encoder-decoder

Transformers

• Attention. Encoder, decoder. Self-attention
• BERT vs GPT-2

Поширені завдання NLP з використанням Transformers

• Класифікація текстів
• Відповідь на запитання
• Семантичний пошук

Генеративні моделі

• Перефразування, сумаризація тексту
• Великі мовні моделі (LLMs)

Згорткові нейронні мережі

• Класифікація зображень
• Попередня обробка зображень. Аугментація

Трансфер навчання

• LeNet
• AlexNet
• VGGNet
• Inception
• ResNet
• EfficientNet

Детекція об'єктів

• R-CNN
• YOLO
• SSD

Семантична сегментація, об'єктна сегментація

• UNet
• Mask R-CNN
• YOLACT

Генерація зображень

• Автокодери. GAN
• Передача нейронного стилю

Diffusers

• Текстове підсумування зображення
• Text-to-Image
• Production

Оптимізація NN

• Налаштування гіперпараметрів
• Прискорення тренування
• Накопичення градієнта
• Контрольні точки градієнта
• Змішана середня точність

Розгортання

• FastAPI
• Моніторинг моделей у виробництві

Після курсу ви зможете

• Використовувати нейронні мережі для вирішення реальних задач обробки природної мови та комп’ютерного зору
• Користуватися фреймворком PyTorch, бібліотеками Hugging Face та OpenCV

Особливості курсу

• Допомога ментора
• Практика
• Сертифікат про проходження курсу
• Основний інструмент PyTorch