Хочемо ШІ у продукті, але не розуміємо, яка функція дасть користь, а яка буде іграшкою.
Починаємо з брифу й одного сценарію з чітким KPI: наприклад, скільки запитів помічник закриває без людини. Решту відкладаємо, доки пілот не покаже результат.
ШІ-функції у вашому SaaS чи застосунку, які користувачі справді відкривають
Вбудовуємо LLM (велику мовну модель, як GPT чи Claude) у ваш продукт: помічник, пошук по документах, автозаповнення, розбір текстів. Спершу пілот з одним вимірюваним KPI, потім масштабування. Ціни відкриті, а доступи й код ваші за погодженими умовами.
Кошторис і строки після брифу
Кому підходить
- Власники SaaS, які хочуть додати ШІ-функцію й не знають, з чого почати
- Команди застосунків, у яких служба підтримки тоне в однакових питаннях
- Продукти з великою базою документів чи даних, де користувачі не можуть нічого знайти
- Стартапи, яким потрібен робочий прототип ШІ-функції для інвестора чи перших клієнтів
Які задачі вирішуємо
Модель вигадує факти, а ми не можемо ризикувати перед клієнтами.
Будуємо RAG (пошук по ваших документах, з якого модель бере відповідь) і вимагаємо посилання на джерело. Якщо даних немає, модель каже «не знаю» і передає запит людині. Повністю прибрати помилки неможливо, але ми їх вимірюємо тестами.
Боїмося, що рахунок за API виросте невпинно, коли користувачів побільшає.
Ставимо ліміти на користувача, кешуємо повторні запити, підбираємо модель під задачу: дешева для простого, потужна для складного. Вартість одного запиту видно в панелі.
Наші дані конфіденційні, і ми не хочемо, щоб їх використали для навчання чужих моделей.
Підключаємо API з вимкненим навчанням на ваших даних, маскуємо персональні дані перед відправкою. За потреби розгортаємо відкриту модель на вашому сервері.
Що входить у роботу
- Розбір вашого продукту й вибір сценарію ШІ-функції з KPI
- Вибір моделі (OpenAI, Anthropic, Google або відкрита) під задачу й бюджет
- Підготовка даних і RAG: нарізання документів, векторна база (наприклад, pgvector)
- Написання й тестування промптів (інструкцій для моделі) та структурованих відповідей у JSON
- Інтерфейс функції в продукті: чат, підказки, потокова відповідь
- Захист: перевірка вхідних запитів від prompt injection (спроб обманути модель), фільтри відповідей
- Набір тестових запитів, за яким перевіряємо якість після кожної зміни
- Журнал запитів, ліміти й облік вартості
- Резервна модель на випадок збою провайдера
- Документація й передача коду, ключів та акаунтів вам
Оберіть обсяг роботи
Пакет допомагає описати задачу. Кошторис і строки погоджуємо після брифу та уточнення вимог.
01
Пілот
Хочете перевірити одну ШІ-функцію на реальних користувачах, не витрачаючи великий бюджет
- Бриф і вибір сценарію з KPI
- Одна функція: помічник, підсумок тексту або добір даних
- Базове підключення до 1 джерела даних
- Тестовий набір запитів
- Звіт про результат пілота
02
Функція в продукті
Пілот спрацював, треба зробити стабільну функцію для всіх користувачів
- RAG по ваших документах із посиланнями на джерела
- Інтерфейс у продукті та потокові відповіді
- Захист, ліміти й облік вартості
- Автотести якості відповідей
- Резервна модель і журнал запитів
03
ШІ-платформа продукту
Кілька ШІ-функцій, ШІ-агенти, що виконують дії в системі, складні права доступу
- Кілька ШІ-функцій на спільній основі
- ШІ-агент, що викликає ваш API (створює, змінює, шукає записи)
- Розмежування доступів між клієнтами (multi-tenant)
- Панель якості й витрат
- Навчання вашої команди підтримувати систему
Як працюємо
Бриф і вимоги
Ви описуєте задачу й поточний процес. Уточнюємо вимоги, обираємо перший етап і готуємо кошторис.
Дані та доступи
Ви даєте тестове середовище, приклади документів і 20–50 прикладів добрих відповідей. Акаунти провайдерів моделей створюємо на вас.
Пілот
Збираємо мінімальну версію функції й перевіряємо її на тестових запитах та вузькому колі користувачів. Оплата за етапами.
Доведення до виробництва
Додаємо захист, ліміти, журнал і інтерфейс. Перевіряємо KPI та вирішуємо разом, що масштабувати.
Передача й підтримка
Віддаємо код, документацію та ключі. За бажанням лишаємося на місячній підтримці: стежимо за якістю й вартістю.
Межі роботи
- Не обіцяємо відповідей без помилок: моделі можуть помилятися, ми знижуємо ризик тестами й джерелами.
- Не гарантуємо результат, якщо немає даних: без документів чи прикладів хорошої відповіді функція не запрацює.
- Не беремося за рішення, де помилка моделі шкодить здоров'ю чи фінансам без перевірки людиною.
Часті питання
Скільки коштує інтеграція LLM у продукт?
Кошторис готуємо після брифу й уточнення вимог. Для першого етапу можемо взяти такий обсяг: бриф і вибір сценарію з KPI; Одна функція: помічник, підсумок тексту або добір даних. Склад робіт, оплату й строки погоджуємо до старту.
Яку модель ви використовуєте?
Підбираємо під задачу: OpenAI, Anthropic, Google або відкриті моделі. Тримаємо код так, щоб модель можна було замінити без переписування функції.
Що потрібно від нас на старті?
Доступ до тестового середовища, приклади даних чи документів і людину, яка приймає результат. Бажано мати 20–50 прикладів питань і правильних відповідей.
Чи побачить провайдер моделі наші дані?
Запити йдуть до API провайдера, але ми вмикаємо режим без навчання на ваших даних і маскуємо персональні дані. Якщо цього мало, розгорнемо відкриту модель на вашому сервері.
Як ви вимірюєте якість?
Збираємо тестовий набір запитів з очікуваними відповідями й запускаємо його після кожної зміни. Додатково дивимось на KPI пілота й реальні запити користувачів у журналі.
Кому належить код і акаунти?
Передачу коду, матеріалів і доступів погоджуємо до старту та фіксуємо в умовах роботи. Окремо описуємо сторонні ліцензії й сервіси, якщо вони потрібні.
Почнемо з вашої задачі
Опишіть бізнес, бажаний результат і поточний процес. Після брифу уточнимо вимоги та підготуємо кошторис.