Deep Dive into LLM APIs

Більшість користувачів працюють із сучасними мовними моделями через ChatGPT чи Gemini, але використання API відкриває зовсім інший рівень можливостей. Ви зможете керувати параметрами генерації, підключати зовнішні інструменти, виконувати тонке налаштування моделей, будувати RAG-архітектури та інтегрувати LLM як API-backend у власні продукти.
Також важливими є практичні навички роботи з контекстним вікном, оптимізація токенів, розуміння недетермінованості моделей та способи досягнення стабільної, контрольованої поведінки системи.

Що буде:

Детально розберемо:

1. як сучасні мовні моделі працюють "під капотом";
2. які механізми визначають їхню поведінку;
3. як застосовувати ці знання для створення надійних, керованих і масштабованих рішень.

Окремий блок присвячений роботі з бенчмарками:

1. як правильно оцінювати моделі;
2. які характеристики мають практичне значення;
3. як інтерпретувати результати тестів на instruction-following, роботу з довготривалим контекстом та інші показники.

Програма:

• Як працюють сучасні великі мовні моделі.
• API параметри для конфігурації роботи великих мовних моделей.
• Від Prompt Engineering до Context Engineering.
• Використання LLM-as-API-backend.
• Побудова RAG-рішень.
• Інструменталізація: function calling, структуровані відповіді, міркування, використання зовнішніх інструментів.
• Контекстне вікно, оптимізація токенів, ефективна робота з довгими запитами.
• Оцінювання якості моделей ("instruction following", робота з довгим контекстом, AGI тощо).
• Методи оптимізації токенів.
• Практичні демо.

Лектор:

• Олександр Краковецький - AI Expert, CEO в DevRain, CTO в DonorUA, автор книг про генеративний штучний інтелект.