Создать ИИ-сервис на заказ: разработка ИИ-сервиса от идеи до подписки

Создать ИИ-сервис — значит сделать продукт, в котором ответ модели продаётся другим компаниям или пользователям, а не работает внутри вашей. Отсюда заботы сверх обычного SaaS: чьи данные видит модель, как не смешать клиентов в индексе и кэше, сколько стоит каждый запрос и как уложить эту стоимость в тариф. Начинаем с одного сценария и эталона качества, а не с выбора модели.

Обследование — от 200 000 ₽, 2–3 неделиПервая версия сервиса — 400 000–1 200 000 ₽, 2–3 месяцаИсходный код, эталон качества и журнал расходов в вашем репозитории

С чем приходят

Когда нужен ИИ-сервис, а не ещё один скрипт на API модели

Услугу делают руками, хочется упаковать

Эксперт разбирает договоры, сметы или заявки для каждого клиента отдельно. Повторяющуюся часть можно отдать модели, оставив эксперту проверку, и продавать результат по подписке, а не часы.

Есть скрипт на API модели, а сервиса нет

Скрипт отвечает на пять примеров. У него нет учётных записей, прав, журнала, лимитов и тарифа, а верность ответов никто не измеряет. Между скриптом и продуктом лежит основная работа.

Внутренний ИИ-инструмент просят клиенты

Ассистент или разбор документов сделан для своей компании. Теперь его хотят партнёры и клиенты, у каждого свои документы, и смешивать их нельзя.

Нужен свой сервис вместо зарубежного

Зарубежный сервис стал недоступен или не проходит требования ваших клиентов к хранению данных. Нужен свой для этой ниши, с моделью на ваших серверах.

Что продаёте

Пять видов ИИ-сервиса: что получает клиент и где он ломается

Каждый вид по-разному делит стоимость и риск. Устройство приложения описано на странице разработки LLM-приложений.

Вид сервиса
Что получает клиент
Из чего состоит
Где ломается
Вид сервисаОтветы по документампоиск и ответ со ссылкой
Что получает клиентСотрудники клиента получают ответ с указанием документа
Из чего состоитФайлы клиента, отдельный индекс на каждого, модель, отказ при отсутствии ответа
Где ломаетсяИндекс или кэш общий для клиентов, ответ без источника, устаревшая редакция
Вид сервисаИзвлечение данных из файловполя из договоров, счетов
Что получает клиентТаблица полей вместо ручного ввода
Из чего состоитРаспознавание, модель или правила, проверка человеком спорных полей, выгрузка в систему клиента
Где ломаетсяКачество проверено на образцах, а не на файлах клиентов; неверное поле помечено как уверенное
Вид сервисаАгент с действиямисоздаёт заявки, меняет записи
Что получает клиентЦепочка шагов в системах клиента
Из чего состоитМодель и инструменты, права на каждое действие, подтверждение человеком, журнал
Где ломаетсяПрав больше, чем у пользователя; нет отката; цикл повторов съедает бюджет
Вид сервисаПрогноз или классификацияпо таблицам клиента
Что получает клиентМетка или прогноз по данным клиента
Из чего состоитМодель на данных клиента или общая, проверка на отложенной выборке, мониторинг
Где ломаетсяМодель, обученная на данных одного клиента, применяется к другим; качество падает после смены формата
Сценарий

Сценарий, данные и эталон: что решаем до выбора модели

Модель выбирают в последнюю очередь: от неё зависит меньше, чем кажется.

Один сценарий и один измеримый результат

Сервис начинается с одной фразы: кто получает какой результат и как узнаёт, что он верен. «Разбирает входящие договоры» — ещё не сценарий, пока не записано, какие поля и риски и что считается верным ответом. Из сценария выводятся данные, модель и тариф.

Чьи данные и на каких условиях

Данные бывают трёх видов: ваши (справочники, шаблоны, правила), клиентские (загруженные файлы, история обращений) и открытые. Для клиентских данных до кода записывается, где они хранятся, кто имеет к ним доступ, сколько живут, попадают ли в журнал и можно ли на них улучшать сервис. Последнее по умолчанию «нет»: без письменного согласия клиента его данные для настройки сервиса другим не используют. Условия договора пишет ваш юрист, мы даём технические меры: срок хранения, удаление по запросу, отдельное хранилище. Персональные данные граждан России обычно должны храниться на серверах в России.

Эталон собираем вместе с экспертом

Эталон — набор типичных входов с верными ответами, размеченный специалистом вашей предметной области. Без него качество оценивают на глаз. Эталон нужен до пилота: по нему сравнивают модели, шаблоны запросов и каждое изменение. Подробнее — на странице оценки качества LLM-систем.

Что делает человек

В первой версии почти всегда остаётся человек: эксперт проверяет спорные случаи, пользователь подтверждает действия. Это способ выпустить продукт раньше. Записывается правило: какие ответы уходят клиенту сразу, какие после проверки, какие отклоняются с причиной.

Модель

Где работает модель: внешний API, ваш сервер или сервер клиента

Для внутреннего ассистента вопрос решает служба безопасности вашей компании, для сервиса — требования ваших клиентов. Общие критерии разобраны в статье «Своя LLM или ChatGPT API».

Вариант
Когда подходит
Что учесть в сервисе
Где ломается
ВариантВнешний API моделипоставщик эксплуатирует
Когда подходитДанные не ограниченного доступа, нужно быстро проверить спрос
Что учесть в сервисеТексты клиентов уходят третьему лицу: это записывается в условиях сервиса; нужны условия хранения у поставщика, лимиты и план на случай недоступности
Где ломаетсяПоставщик сменил версию модели, и ответы изменились; цена запроса растёт и съедает тариф
ВариантОткрытая модель на ваших серверахэксплуатируете вы
Когда подходитДанные ограниченного доступа, нужна предсказуемая цена запроса
Что учесть в сервисеОборудование и загрузка, очередь, обновление модели, замеры на выборке; расходы растут ступенями
Где ломаетсяОборудование простаивает при малой нагрузке и не справляется в пик
ВариантМодель на стороне клиентаустановка у него
Когда подходитЗакрытый контур клиента, облако не допускается
Что учесть в сервисеКаждая установка — отдельный продукт со своими обновлениями и поддержкой, тариф другой
Где ломаетсяВерсии разъезжаются, исправление приходится развозить по площадкам
Изоляция

Где в ИИ-сервисе смешиваются клиенты и как мы это проверяем

Разделение данных в базе разобрано на странице multi-tenant SaaS. У ИИ-сервиса добавляются места, о которых в обычном продукте не думают.

Место
Как смешиваются клиенты
Что делаем
Как проверяем
МестоВекторный индекспоиск по смыслу
Как смешиваются клиентыФрагмент документа одного клиента попадает в ответ другому, если поиск идёт по общему индексу без фильтра
Что делаемОтдельная коллекция или обязательный фильтр по организации на стороне хранилища, права хранятся вместе с фрагментом
Как проверяемОт имени клиента B ищем фразы из документов клиента A
МестоКэш ответовэкономит запросы
Как смешиваются клиентыОдинаковый вопрос двух клиентов получает ответ, построенный на документах первого
Что делаемОрганизация и набор прав входят в ключ кэша
Как проверяемОдин вопрос от двух организаций с разными документами
МестоЖурнал запросовнужен для разбора
Как смешиваются клиентыТексты клиентов лежат в общем журнале, доступном всей поддержке
Что делаемВ журнал пишутся идентификаторы, версии и результаты проверок; тексты — в отдельное хранилище с ограниченным доступом и сроком жизни
Как проверяемПроверяем состав записей и права на хранилище
МестоДообучение и примерыданные клиентов в настройке сервиса
Как смешиваются клиентыДанные или пример одного клиента улучшают сервис другим без его ведома
Что делаемПо умолчанию не дообучаем на клиентских данных; согласие клиента — отдельный флаг в журнале
Как проверяемПроверяем, что флаг управляет выборкой, а собранный запрос не содержит чужих примеров
Стоимость

Сколько стоит один запрос и как это попадает в тариф

Подробный расчёт — в статье «Себестоимость ИИ-сервиса». Здесь порядок работ.

Цена обращения к модели переменная: она зависит от размера входа и выхода, модели и числа повторов. При подписке с фиксированной суммой разница между лёгким и тяжёлым клиентом становится вашей потерей, поэтому учёт закладывается в первую версию.

  1. Записываем каждое действие ИИ: организация, пользователь, функция, версия модели, объём входа и выхода, время, исход (принят, исправлен, отклонён).
  2. Определяем единицу учёта. Не «запрос», а «действие» с весом: ответ на вопрос, разбор файла и генерация отчёта расходуют разное.
  3. Считаем стоимость принятого результата. Весь расход, включая отказы и повторы, делим на число принятых результатов.
  4. Строим тариф от себестоимости. Включённый пакет, порядок докупки, предупреждение клиенту до исчерпания лимита.
  5. Ставим предохранители. Потолок на задачу, пользователя и организацию в сутки, чтобы цикл повторов или массовая загрузка не съели бюджет за ночь.

Размеры лимитов и цены тарифов мы не называем: они зависят от модели, оборудования и рынка и уточняются по первым клиентам. Модели тарифов сравнены на странице SaaS-платформы, особенности ИИ-функций — в статье «Как добавить ИИ в SaaS-продукт».

Что делаем

Из чего состоит работа и сколько она стоит

Цены — по тарифам. Точная цена только у обследования, дальше вилка, которая сужается. Остановиться можно после любой ступени.

Обследование: идея и один сценарий

Сценарий и результат, источники данных, эталон, выбор модели, схема изоляции клиентов, ориентир стоимости запроса, гипотеза тарифа, вилка бюджета. Вычитается из первого этапа, если продолжаете с нами.

200 000 ₽ · 2–3 недели

Обследование с несколькими системами

Если сервис связан с несколькими системами (вход, хранилище файлов, учёт, платёжный провайдер): схема обменов и матрица источников данных.

350 000 ₽ · 3–4 недели

Пилот: сценарий на реальных данных

Один сценарий на документах нескольких знакомых клиентов, без подписок и автоматических платежей. Прогон эталона, замер стоимости запроса, протокол испытаний.

150 000 – 400 000 ₽ · 2–8 недель

Первая версия сервиса

Организации и роли, сценарий, изоляция клиентов с тестами, учёт и лимиты, тариф и счёт, минимальная админка, журнал без текстов, копии. В тарифах идёт как тяжёлый пилот.

400 000 – 1 200 000 ₽ · 2–3 месяца

Вывод в эксплуатацию

Опытная эксплуатация на всех клиентах, нагрузочные испытания, мониторинг качества и расходов, регламент обновлений, передача исходников. Этапы с отдельной приёмкой.

от 1 500 000 ₽ этапами по 300 000 – 700 000 ₽ · от 3 месяцев

Сопровождение

Прогон эталона, разбор отклонённых ответов, проверка расходов по клиентам. Плановые доработки входят с пакета на 60 000 ₽. Сверх пакета — 5 000 ₽ в час.

20 000 / 60 000 / 120 000 ₽ в месяц
Процесс

Как идёт работа

2–3 недели — Обследование: сценарий, данные, эталон

Фиксируем сценарий, данные и условия их хранения, собираем с вашим экспертом эталон, считаем ориентир стоимости запроса, пишем вилку бюджета.

Перед пилотом — Простая схема на эталоне

Собираем самый простой вариант и меряем его на эталоне. Усложняем только то, что поднимает результат замера. Права и журнал не откладываем.

2–8 недель — Пилот на документах знакомых клиентов

Узкий круг пользователей, ручной режим там, где программа не готова. Смотрим отказы и стоимость принятого результата.

2–3 месяца — Первая версия сервиса

Организации, роли, изоляция, учёт, тариф, счёт, админка. Раз в две недели показываем работающую версию на тестовом стенде.

Перед первым платящим клиентом — Проверки

Тест изоляции клиентов, пробное восстановление из копии, прогон эталона, проверка лимитов на длинных файлах.

Дальше — выпуск, рост или остановка

Решение принимается по критериям, записанным до запуска. Следующие функции идут этапами с отдельной приёмкой. Сопровождение у нас или у вас: решаете вы.

Цена

Что двигает цену ИИ-сервиса внутри вилки

Строгость эталона и число сценариев

Один сценарий с понятным ответом и пять сценариев с разной формой результата — разные проекты. Работа растёт по числу правил, а не экранов.

Требования ваших клиентов к хранению данных

Модель на ваших серверах, отдельная база для крупного клиента, установка в его контуре: каждое требование добавляет работы на разработке, эксплуатации и приёмке.

Форма клиентских данных

Сканы, таблицы, большие архивы. Разбор входящих файлов нередко занимает больше времени, чем ответ модели.

Интеграции и платежи

Вход через каталог клиента, выгрузка в его системы, платёжный провайдер, закрывающие документы. Договор с провайдером заключаете вы, данные карт хранит провайдер.

Контроль

Что остаётся у вас и чего мы не делаем

Остаётся у вас

  • Исходный код, шаблоны запросов и конфигурации в вашем репозитории с первого коммита.
  • Эталонный набор и скрипт прогона: им проверяют и нас, и следующего подрядчика.
  • Данные клиентов и журнал расходов на ваших серверах или у выбранного вами хостера.
  • Учётные записи, ключи доступа к моделям и платёжному провайдеру: выдаёте и отзываете вы.
  • Право остановиться после любой ступени: сделанное остаётся у вас по акту.

Мы этого не делаем

  • Не ищем вашему сервису клиентов, не продвигаем его и не ведём договоры с вашими клиентами.
  • Не обещаем отсутствия ошибок и уровня самых крупных облачных моделей для открытой модели: это показывает замер на вашей выборке.
  • Не обучаем языковые модели с нуля и не дообучаем на данных ваших клиентов без их письменного согласия.
  • Не оказываем хостинг и не принимаем платежи от вашего имени; данные карт мы не храним.
  • Оферту, соглашение с пользователями и поручение на обработку персональных данных готовит юрист заказчика.
  • Не делаем нативные мобильные приложения, не проводим аттестацию (лицензии ФСТЭК нет), не дежурим круглосуточно и не берём работы дешевле 150 000 ₽.
Граница

ИИ-сервис, SaaS-платформа или LLM-приложение: где проходит граница

Если модель работает внутри вашей компании на ваших документах, это LLM-приложение: клиентов у него нет, а права строятся по отделам и ролям. Если вы продаёте доступ другим организациям, добавляется всё из SaaS-платформы: организации, тариф, счёт, админка поддержки. Если ядро задачи — разделение данных B2B-клиентов, смотрите multi-tenant SaaS; первую версию — SaaS MVP.

ИИ-сервис — это SaaS-платформа, у которой главную функцию даёт модель: организации, права и тариф те же, а сверху добавляются эталон, учёт стоимости и защита индекса с кэшем. Если ИИ-функция нужна внутри работающего продукта, читайте статью про ИИ в SaaS-продукте; общая страница — разработка ИИ на заказ; готовый пилот доводит до эксплуатации вывод ИИ-пилота.

Инструменты

На чём собираем

Приложение и данные
  • Python, FastAPI, при необходимости Go
  • PostgreSQL с политиками на уровне строк
  • pgvector или Qdrant с обязательным фильтром по организации
  • Очередь фоновой обработки в PostgreSQL или RabbitMQ, S3-совместимое хранилище для файлов
Модель и контроль
  • Своя модель: vLLM или llama.cpp; внешний API — только если допускают требования ваших клиентов
  • Keycloak или вход через каталог клиента
  • Docker, Nginx, GitLab CI, прогон эталона в сборке
  • Журнал расходов по организациям и функциям
Материалы

Материалы по теме

Статья

Как создать ИИ-сервис с нуля: шаги и ошибки

Порядок от проверки спроса до платящих клиентов и ошибки, ведущие к переделке.

  • Порядок шагов
  • Ручной режим
  • Типичные ошибки
Читать →
Статья

MVP ИИ-сервиса: что включить в первую версию

Что обязательно в первой версии, а что откладывается: эталон, лимиты, изоляция, человек.

  • Что включить
  • Что отложить
  • Критерии остановки
Читать →
Статья

Себестоимость ИИ-сервиса: как считать затраты

Из чего складывается стоимость принятого результата и как проверить, что тариф не убыточен.

  • Статьи затрат
  • Формула
  • Предохранители
Читать →
Заявка

Разберём вашу идею ИИ-сервиса

Сорок минут созвона: что за сервис, кто его клиент, какие данные нужны и где они лежат. По итогам скажем, с какой ступени начинать и в какую вилку это укладывается.

Спасибо, заявка отправлена. Ответим в течение рабочего дня.

Не удалось отправить. Напишите в телеграм или позвоните.

Вопросы

Частые вопросы: создание ИИ-сервиса

Сколько стоит создать ИИ-сервис?

Обследование — 200 000 ₽ (350 000 ₽ при нескольких системах), первая версия — 400 000–1 200 000 ₽, вывод в эксплуатацию — от 1 500 000 ₽ этапами по 300 000–700 000 ₽, сопровождение от 20 000 ₽ в месяц. Точную цену называем после обследования, оно вычитается из первого этапа.

Сколько времени занимает создание ИИ-сервиса?

Обследование — 2–3 недели, пилот — 2–8 недель, первая версия — 2–3 месяца, вывод в эксплуатацию — от трёх месяцев. Сервис за неделю мы не обещаем: за неделю делается демонстрация, а не продукт с правами, учётом и тарифом.

Чем ИИ-сервис отличается от обычного SaaS?

Ядро то же: организации, роли, тариф, счёт. Сверху добавляются переменная стоимость каждого запроса, эталон качества и места, где смешиваются клиенты: индекс, кэш, журнал, примеры в запросах.

Какую модель выбрать для ИИ-сервиса?

Внешний API подходит для данных не ограниченного доступа и быстрой проверки спроса. Для данных ограниченного доступа клиенты чаще требуют модель на серверах сервиса или у себя. Выбор делаем по замеру на эталоне и держим модель за общим интерфейсом.

Как посчитать тариф ИИ-сервиса по подписке?

Сначала считаем стоимость принятого результата по журналу пилота, затем задаём пакет, порядок докупки, предупреждение клиенту и потолки против петель. Суммы зависят от модели и оборудования, поэтому считаются на ваших данных.

Кому принадлежат код, данные и модель?

Исходный код, шаблоны запросов, эталон и конфигурации — в вашем репозитории с первого коммита. Данные клиентов остаются на ваших серверах или у выбранного вами хостера. Открытые модели сохраняют свои лицензии, их список входит в документацию.

Вы работаете только в Ростове-на-Дону?

Мы в Ростове-на-Дону, работаем с заказчиками по всей России: удалённо и в вашем контуре. Доступ к системам и обследование согласуем на старте с вашей службой безопасности.