Услугу делают руками, хочется упаковать
Эксперт разбирает договоры, сметы или заявки для каждого клиента отдельно. Повторяющуюся часть можно отдать модели, оставив эксперту проверку, и продавать результат по подписке, а не часы.
Создать ИИ-сервис — значит сделать продукт, в котором ответ модели продаётся другим компаниям или пользователям, а не работает внутри вашей. Отсюда заботы сверх обычного SaaS: чьи данные видит модель, как не смешать клиентов в индексе и кэше, сколько стоит каждый запрос и как уложить эту стоимость в тариф. Начинаем с одного сценария и эталона качества, а не с выбора модели.
Обследование — от 200 000 ₽, 2–3 неделиПервая версия сервиса — 400 000–1 200 000 ₽, 2–3 месяцаИсходный код, эталон качества и журнал расходов в вашем репозитории
Эксперт разбирает договоры, сметы или заявки для каждого клиента отдельно. Повторяющуюся часть можно отдать модели, оставив эксперту проверку, и продавать результат по подписке, а не часы.
Скрипт отвечает на пять примеров. У него нет учётных записей, прав, журнала, лимитов и тарифа, а верность ответов никто не измеряет. Между скриптом и продуктом лежит основная работа.
Ассистент или разбор документов сделан для своей компании. Теперь его хотят партнёры и клиенты, у каждого свои документы, и смешивать их нельзя.
Зарубежный сервис стал недоступен или не проходит требования ваших клиентов к хранению данных. Нужен свой для этой ниши, с моделью на ваших серверах.
Каждый вид по-разному делит стоимость и риск. Устройство приложения описано на странице разработки LLM-приложений.
Модель выбирают в последнюю очередь: от неё зависит меньше, чем кажется.
Сервис начинается с одной фразы: кто получает какой результат и как узнаёт, что он верен. «Разбирает входящие договоры» — ещё не сценарий, пока не записано, какие поля и риски и что считается верным ответом. Из сценария выводятся данные, модель и тариф.
Данные бывают трёх видов: ваши (справочники, шаблоны, правила), клиентские (загруженные файлы, история обращений) и открытые. Для клиентских данных до кода записывается, где они хранятся, кто имеет к ним доступ, сколько живут, попадают ли в журнал и можно ли на них улучшать сервис. Последнее по умолчанию «нет»: без письменного согласия клиента его данные для настройки сервиса другим не используют. Условия договора пишет ваш юрист, мы даём технические меры: срок хранения, удаление по запросу, отдельное хранилище. Персональные данные граждан России обычно должны храниться на серверах в России.
Эталон — набор типичных входов с верными ответами, размеченный специалистом вашей предметной области. Без него качество оценивают на глаз. Эталон нужен до пилота: по нему сравнивают модели, шаблоны запросов и каждое изменение. Подробнее — на странице оценки качества LLM-систем.
В первой версии почти всегда остаётся человек: эксперт проверяет спорные случаи, пользователь подтверждает действия. Это способ выпустить продукт раньше. Записывается правило: какие ответы уходят клиенту сразу, какие после проверки, какие отклоняются с причиной.
Для внутреннего ассистента вопрос решает служба безопасности вашей компании, для сервиса — требования ваших клиентов. Общие критерии разобраны в статье «Своя LLM или ChatGPT API».
Разделение данных в базе разобрано на странице multi-tenant SaaS. У ИИ-сервиса добавляются места, о которых в обычном продукте не думают.
Подробный расчёт — в статье «Себестоимость ИИ-сервиса». Здесь порядок работ.
Цена обращения к модели переменная: она зависит от размера входа и выхода, модели и числа повторов. При подписке с фиксированной суммой разница между лёгким и тяжёлым клиентом становится вашей потерей, поэтому учёт закладывается в первую версию.
Размеры лимитов и цены тарифов мы не называем: они зависят от модели, оборудования и рынка и уточняются по первым клиентам. Модели тарифов сравнены на странице SaaS-платформы, особенности ИИ-функций — в статье «Как добавить ИИ в SaaS-продукт».
Цены — по тарифам. Точная цена только у обследования, дальше вилка, которая сужается. Остановиться можно после любой ступени.
Сценарий и результат, источники данных, эталон, выбор модели, схема изоляции клиентов, ориентир стоимости запроса, гипотеза тарифа, вилка бюджета. Вычитается из первого этапа, если продолжаете с нами.
Если сервис связан с несколькими системами (вход, хранилище файлов, учёт, платёжный провайдер): схема обменов и матрица источников данных.
Один сценарий на документах нескольких знакомых клиентов, без подписок и автоматических платежей. Прогон эталона, замер стоимости запроса, протокол испытаний.
Организации и роли, сценарий, изоляция клиентов с тестами, учёт и лимиты, тариф и счёт, минимальная админка, журнал без текстов, копии. В тарифах идёт как тяжёлый пилот.
Опытная эксплуатация на всех клиентах, нагрузочные испытания, мониторинг качества и расходов, регламент обновлений, передача исходников. Этапы с отдельной приёмкой.
Прогон эталона, разбор отклонённых ответов, проверка расходов по клиентам. Плановые доработки входят с пакета на 60 000 ₽. Сверх пакета — 5 000 ₽ в час.
Фиксируем сценарий, данные и условия их хранения, собираем с вашим экспертом эталон, считаем ориентир стоимости запроса, пишем вилку бюджета.
Собираем самый простой вариант и меряем его на эталоне. Усложняем только то, что поднимает результат замера. Права и журнал не откладываем.
Узкий круг пользователей, ручной режим там, где программа не готова. Смотрим отказы и стоимость принятого результата.
Организации, роли, изоляция, учёт, тариф, счёт, админка. Раз в две недели показываем работающую версию на тестовом стенде.
Тест изоляции клиентов, пробное восстановление из копии, прогон эталона, проверка лимитов на длинных файлах.
Решение принимается по критериям, записанным до запуска. Следующие функции идут этапами с отдельной приёмкой. Сопровождение у нас или у вас: решаете вы.
Один сценарий с понятным ответом и пять сценариев с разной формой результата — разные проекты. Работа растёт по числу правил, а не экранов.
Модель на ваших серверах, отдельная база для крупного клиента, установка в его контуре: каждое требование добавляет работы на разработке, эксплуатации и приёмке.
Сканы, таблицы, большие архивы. Разбор входящих файлов нередко занимает больше времени, чем ответ модели.
Вход через каталог клиента, выгрузка в его системы, платёжный провайдер, закрывающие документы. Договор с провайдером заключаете вы, данные карт хранит провайдер.
Если модель работает внутри вашей компании на ваших документах, это LLM-приложение: клиентов у него нет, а права строятся по отделам и ролям. Если вы продаёте доступ другим организациям, добавляется всё из SaaS-платформы: организации, тариф, счёт, админка поддержки. Если ядро задачи — разделение данных B2B-клиентов, смотрите multi-tenant SaaS; первую версию — SaaS MVP.
ИИ-сервис — это SaaS-платформа, у которой главную функцию даёт модель: организации, права и тариф те же, а сверху добавляются эталон, учёт стоимости и защита индекса с кэшем. Если ИИ-функция нужна внутри работающего продукта, читайте статью про ИИ в SaaS-продукте; общая страница — разработка ИИ на заказ; готовый пилот доводит до эксплуатации вывод ИИ-пилота.
Порядок от проверки спроса до платящих клиентов и ошибки, ведущие к переделке.
Что обязательно в первой версии, а что откладывается: эталон, лимиты, изоляция, человек.
Из чего складывается стоимость принятого результата и как проверить, что тариф не убыточен.
Сорок минут созвона: что за сервис, кто его клиент, какие данные нужны и где они лежат. По итогам скажем, с какой ступени начинать и в какую вилку это укладывается.
Обследование — 200 000 ₽ (350 000 ₽ при нескольких системах), первая версия — 400 000–1 200 000 ₽, вывод в эксплуатацию — от 1 500 000 ₽ этапами по 300 000–700 000 ₽, сопровождение от 20 000 ₽ в месяц. Точную цену называем после обследования, оно вычитается из первого этапа.
Обследование — 2–3 недели, пилот — 2–8 недель, первая версия — 2–3 месяца, вывод в эксплуатацию — от трёх месяцев. Сервис за неделю мы не обещаем: за неделю делается демонстрация, а не продукт с правами, учётом и тарифом.
Ядро то же: организации, роли, тариф, счёт. Сверху добавляются переменная стоимость каждого запроса, эталон качества и места, где смешиваются клиенты: индекс, кэш, журнал, примеры в запросах.
Внешний API подходит для данных не ограниченного доступа и быстрой проверки спроса. Для данных ограниченного доступа клиенты чаще требуют модель на серверах сервиса или у себя. Выбор делаем по замеру на эталоне и держим модель за общим интерфейсом.
Сначала считаем стоимость принятого результата по журналу пилота, затем задаём пакет, порядок докупки, предупреждение клиенту и потолки против петель. Суммы зависят от модели и оборудования, поэтому считаются на ваших данных.
Исходный код, шаблоны запросов, эталон и конфигурации — в вашем репозитории с первого коммита. Данные клиентов остаются на ваших серверах или у выбранного вами хостера. Открытые модели сохраняют свои лицензии, их список входит в документацию.
Мы в Ростове-на-Дону, работаем с заказчиками по всей России: удалённо и в вашем контуре. Доступ к системам и обследование согласуем на старте с вашей службой безопасности.