Deep Dive into LLM APIs

Ця подія – практичний і системний гайд по роботі з великими мовними моделями для інженерів, архітекторів та технічних лідерів, які хочуть не просто користуватись LLM, а розуміти, як вони влаштовані та як будувати рішення для своїх проєктів.
Ви розберете внутрішню архітектуру трансформерів, ключові властивості та обмеження сучасних мовних моделей, навчитеся коректно конфігурувати їх через API та працювати з типовими проблемами – зокрема галюцинаціями, контекстними обмеженнями та нестабільною якістю відповідей.
Окрема увага приділяється переходу від Prompt Engineering до Context Engineering: як будувати системи, де модель стабільно працює в межах заданих правил, знань і інструментів. Ви навчитеся використовувати LLM як бекенд-компонент, будувати RAG-рішення, підключати зовнішні інструменти та працювати зі структурованими відповідями.

Ви детально розберете:

1. як сучасні мовні моделі працюють «під капотом";
2. які механізми визначають їхню поведінку;
3. як застосовувати ці знання для створення надійних, керованих і масштабованих рішень;

Окремий блок присвячений роботі з бенчмарками:

1. як правильно оцінювати моделі;
2. які характеристики мають практичне значення;
3. як інтерпретувати результати тестів на instruction-following, роботу з довготривалим контекстом та інші показники.

Деталі:

• 24 і 26 лютого о 18:30.
• Теорія і практика: 50/50, перед стартом ми відправимо вам підбірку матеріалів для ознайомлення з ключовими поняттями.

Рекомендований набір інструментів та підписок:

1. OpenAI API Playground (Anthropic API Playground, Google AI Studio Playground теж ок);
2. Ollama;
3. Postman або інший API-manager.

Програма:

День 1:

• Архітектура трансформера.
• Ключові концепції, типи, характеристики та функціональність великих мовних моделей.
• API параметри для конфігурації роботи великих мовних моделей.
• Еволюція API.
• Метрики для оцінювання якості моделей.
• Ключові характеристики великих мовних моделей (мультимодальність, галюцинування, міркування, недетермінізм).
• Від Prompt Engineering до Context Engineering.

День 2:

• Структуровані відповіді.
• Оптимізація токенів.
• Побудова RAG-рішень, типові проблеми.
• Тонке налаштування.
• Evals.
• Інструменталізація: виклик функцій, використання зовнішніх інструментів.
• Бенчмарки для оцінювання якості моделей («instruction following», робота з довгим контекстом, AGI тощо).

Спікер:

• Олександр Краковецький - Співзасновник та керівник української ІТ компанії DevRain.

Після заходу ви зможете перевіряти моделі на релевантність під конкретні задачі й ухвалювати технічні рішення, спираючись на метрики, а не інтуїцію.