Вывод ИИ-пилота в продуктив: диагностика, доработка, эксплуатация

Пилот показали, эффект на демонстрации признали, а в ежедневную работу система не вышла. Чаще всего причина не в модели: качество не мерили на реальных данных, у системы нет владельца, её не пропустила служба безопасности или не сошлась экономика. Начинаем с диагностики пилота: за две-четыре недели выясняем причину и пишем вывод — дорабатывать, переписывать или остановить. Исходники, доступы и документация остаются у вас.

Диагностика — от 200 000 ₽, 2–3 неделиОстановка пилота — тоже результатМожем взять пилот другого подрядчика

Зачем это нужно

Когда приходят с застрявшим пилотом

Пилот живёт только на демонстрации

Его показывали на подготовленных примерах, а на потоке реальных обращений и документов он ведёт себя иначе. Спор «виновата модель или данные» не решается, потому что качество ни разу не мерили на общем наборе задач.

Качество падает на реальных данных

Выборку пилота кто-то один раз собрал и вычистил. В эксплуатации данные грязнее, форматы разнообразнее, а темы, которых в пилоте не было, составляют заметную часть потока.

У системы нет владельца

Проект вёл подрядчик или проектный офис. После демонстрации никто не отвечает за правила, очередь исключений и решение о запуске, поэтому бюджет откладывается ещё на квартал.

Служба безопасности не пускает в контур

Нет описания потоков данных, ролей и журналирования. Это отдельный объём работ, который в смету пилота обычно не закладывали.

Экономика не сошлась

Стоимость серверов или подписок, поддержки и проверки человеком оказалась сопоставима со стоимостью ручной обработки. Нужно понять, где разница всё же положительна, а где проект стоит остановить.

Подрядчик ушёл

Остались исходники без описания, ключи на чужих аккаунтах и непонятно, что из этого можно развернуть у себя. Первый шаг — выяснить, что на самом деле есть.

Диагностика

Симптом, причина, что смотрим, что делаем

Таблица описывает типовые случаи. Причину в вашем пилоте называем только после разбора: часто их несколько, и лечатся они по-разному.

Симптом
Вероятная причина
Что смотрим
Что делаем
СимптомКачество падает на реальных данныхв пилоте было иначе
Вероятная причинаПилот настраивали на подготовленной выборке; в потоке другие форматы, пропуски, дубли и темы, которых не было
Что смотримСравниваем выборку пилота со свежим срезом потока: форматы, языки, пропуски; считаем качество на отложенном наборе
Что делаемСтроим эталонный набор из реальных обращений, делим ошибки на корзины (данные, правила, модель, процесс) и чиним по корзинам
СимптомНет владельцарешение откладывается
Вероятная причинаПравила, очередь исключений и решение о запуске ни за кем не закреплены
Что смотримКто принимает решение, кто правит правила, кто разбирает ошибки, к какому сроку нужно решение
Что делаемНазначаем владельца на вашей стороне, записываем обязанности и срок решения; без названного владельца дальше не идём
СимптомНе интегрированданные грузят руками
Вероятная причинаВыгрузки готовит человек, интерфейсов к боевым системам нет
Что смотримОткуда берутся данные в пилоте, кто и как часто их готовит, какие интерфейсы есть у боевых систем
Что делаемПроектируем ежедневную загрузку без ручных шагов и обработку сбоев: что делает система, когда источник недоступен
СимптомНет мониторингасбой видят пользователи
Вероятная причинаНет журнала, эталонного прогона и оповещений, версии промптов и модели не фиксируются
Что смотримВидно ли падение качества до жалобы, где лежат запросы и ответы, можно ли вернуться на предыдущую версию
Что делаемЖурнал, замер по расписанию на эталонном наборе, оповещения, версионирование промптов и конфигурации
СимптомНе прошёл безопасностьИБ не согласовала
Вероятная причинаНет описания потоков данных, роли шире нужных, запросы хранятся в открытом виде
Что смотримПотоки данных, учётные записи, что уходит за контур, где и сколько хранятся запросы
Что делаемОписание потоков и ролевая модель, журнал без персональных данных в открытом виде; аттестацию и лицензируемые работы не проводим
СимптомЭкономика не сошласьдороже ручной работы
Вероятная причинаЭксплуатация, поддержка и проверка человеком стоят больше обработки той же единицы работы вручную
Что смотримФормула: (эксплуатация + поддержка + время проверки) на единицу работы против ручной обработки этой единицы
Что делаемСужаем объём до процессов, где разница положительна, меняем схему или модель, либо рекомендуем остановить
СимптомАгент ошибается в действияхдля пилотов с действиями
Вероятная причинаПрава шире нужных, нет подтверждений, лимитов и отката
Что смотримМатрица действий, права учётной записи агента, журнал, повторы операций
Что делаемПрава по минимуму, подтверждения, лимиты, откат; см. как ограничить ИИ-агента
Подход

Сначала диагностика, а не большой проект

Заказчику застрявшего пилота уже обещали многое, и ещё одно обещание ничего не меняет. Поэтому первый шаг небольшой, с точной ценой и письменным результатом, которым можно пользоваться без нас: разбор вашего пилота. На выходе диагностики:

  • описание того, что в пилоте реально работает, что только выглядит работающим и что не работает;
  • замер качества на эталонном наборе из ваших реальных данных и разбор ошибок по корзинам;
  • оценка стоимости эксплуатации по формуле и сравнение с ручной обработкой;
  • перечень замечаний службы безопасности и что нужно сделать, чтобы их закрыть;
  • вывод: доработать, переписать или остановить, с вилкой бюджета, сроками и этапами.

Общую картину причин мы разбирали в статье «Почему ИИ-пилоты не доходят до продуктива», а критерии остановки — в материале «Когда останавливать пилот». Если пилот только планируется, критерии успеха и провала стоит записать до запуска.

Что делаем

Из чего состоит работа и сколько стоит

Цены — по тарифам. Точная цена только у диагностики, дальше вилки: они сужаются по мере уточнения требований. Диагностика вычитается из следующего этапа, остановиться можно после любой ступени.

Диагностика пилота

200 000 ₽ — один-два процесса; 350 000 ₽ — несколько систем и источников данных. Разбор исходников, замер качества, разбор ошибок, оценка эксплуатации, замечания безопасности, письменный вывод.

2–4 недели

Доработка этапами

Каждый этап стоит 300 000 – 700 000 ₽ и принимается отдельно. Типовые этапы: эталонный набор и замер, данные и интеграция, журнал и мониторинг, безопасность и права. Порядок зависит от того, что показала диагностика.

по этапам

Опытная эксплуатация

Система работает на реальном потоке под наблюдением: ошибки разбираются, правила и пороги настраиваются, права расширяются только по результатам.

в составе этапов

Приёмка, обучение, передача

Приёмка по письменным критериям, обучение сотрудников и владельца, передача исходников, настроек, эталонного набора и инструкции по развёртыванию и откату.

в конце этапа

Вывод в продуктив целиком

От 1 500 000 ₽ этапами по 300 000 – 700 000 ₽. Итоговая вилка называется по итогам диагностики; для пилота с действиями в боевых системах она выше, чем для ассистента по базе знаний.

от 3 месяцев

Сопровождение

20 000, 60 000 или 120 000 ₽ в месяц: мониторинг, обращения, разбор инцидентов, плановые доработки. Работы сверх пакета — 5 000 ₽ в час. Круглосуточного дежурства нет. См. также сопровождение ПО.

ежемесячно
Чужой пилот

Возьмём пилот другого подрядчика, если есть что брать

Решение зависит от того, что осталось на руках. Если дешевле переписать, скажем это сразу и покажем расчёт.

Что есть на руках
Что делаем
Что получаете
Когда скажем, что дешевле переписать
Что есть на рукахИсходники и документациясамый простой случай
Что делаемЧитаем код, поднимаем на тестовом стенде, замеряем качество на эталонном наборе
Что получаетеДиагностика и план доработки по существующему коду
Когда скажем, что дешевле переписатьКод держится на ручных шагах, зависимости не воспроизводятся, архитектура мешает любому из требований
Что есть на рукахИсходники есть, описания нетчастый случай
Что делаемВосстанавливаем описание по коду и разговору с авторами, поднимаем в тестовом контуре
Что получаетеТо же плюс описание системы, которого не было
Когда скажем, что дешевле переписатьВосстановление дороже новой сборки по выверенным требованиям
Что есть на рукахТолько результатдемонстрация, сервис без кода
Что делаемОцениваем по поведению: прогоняем эталонный набор, переносим требования в новую сборку
Что получаетеТребования и эталонный набор, пригодные для любой сборки
Когда скажем, что дешевле переписатьПочти всегда: без исходников доработать нельзя, можно только собрать заново
Что есть на рукахПилот на внешнем сервисеоблачный API или SaaS
Что делаемСверяем схему с требованиями к данным и контуру, оцениваем перенос на вашу инфраструктуру
Что получаетеРешение: оставить схему, перенести в контур или собрать заново
Когда скажем, что дешевле переписатьТребования к данным несовместимы с внешним сервисом, а переносить нечего
Процесс

Как идёт работа

Недели 1–3 — Диагностика

Разговариваем с теми, кто пилот собирал, и теми, кто должен им пользоваться. Поднимаем систему, смотрим исходники, потоки данных, права и журналы. Пишем вывод и вилку бюджета.

Эталонный набор и замер

Собираем из реальных данных набор задач с ожидаемыми ответами и письменными правилами оценки. Он остаётся у вас, и по нему мерим любое изменение. Пока нет мерила, правки остаются вопросом вкуса.

Доработка этапами

Чиним по корзинам: данные и загрузка, правила и промпты, модель, интеграция, безопасность, мониторинг. У каждого этапа своя цена, своя приёмка и право остановиться.

Опытная эксплуатация

Система работает на реальном потоке под наблюдением. Дежурный по регламенту обновляет промпт и откатывается на предыдущую версию; мониторинг показывает деградацию на заранее испорченном контрольном прогоне.

Приёмка, обучение, передача

Приёмка по числам из протокола замера, а не по формулировке «система работает». Обучаем владельца и сотрудников, передаём исходники, настройки, эталонный набор и инструкции.

Сопровождение или остановка

Либо ежемесячное сопровождение, либо передача на вашу команду. Если по критериям проект нужно остановить, это записывается в акт с причинами.

Критерии остановки

Когда пилот стоит остановить

Остановленный вовремя пилот — нормальный результат честной проверки. Критерии согласуем до доработки, а не после неё.

Сигнал
Как проверяем
Что это значит
Что предлагаем
СигналПоказатель не сдвигается
Как проверяемПосле каждого изменения (данные, правила, модель) прогоняем один и тот же эталонный набор
Что это значитПотолок задан данными или постановкой задачи, а не настройкой
Что предлагаемОстановить или изменить постановку; записать, чего не хватило
СигналОшибки упираются в отсутствие данных
Как проверяемРазбор ошибок по корзинам: какая часть случаев такова, что нужного в данных просто нет
Что это значитДоработка модели не поможет, пока данных нет
Что предлагаемПоставить пилот на паузу и заняться данными: подготовка данных для пилота
СигналЭксплуатация дороже ручной работы
Как проверяемФормула на единицу работы: эксплуатация, поддержка и время проверки против ручной обработки
Что это значитЭкономика не сходится при текущем объёме и схеме
Что предлагаемСузить объём либо остановить; методика расчёта — в статье как посчитать окупаемость ИИ
СигналЛюди обходят систему
Как проверяемСмотрим журнал использования и разговариваем с пользователями
Что это значитСистема не встроена в рабочий процесс или мешает ему
Что предлагаемМенять точку входа и процесс либо остановить
СигналТребования ИБ несовместимы со схемой
Как проверяемСверяем потоки данных пилота с требованиями вашей службы безопасности
Что это значитНужна другая архитектура, например модель в контуре вместо внешнего сервиса
Что предлагаемПерепроектировать или остановить; решение фиксируем письменно
Контроль

Что остаётся у вас и чего мы не делаем

Остаётся у вас

  • Исходники в вашем репозитории, с первого коммита наших работ.
  • Эталонный набор задач и методика замера: повторить прогон можно без нас.
  • Письменный вывод диагностики, с которым можно идти в тендер и сравнивать предложения.
  • Доступы, ключи и журнал — на вашей стороне.
  • Право остановиться после любой ступени: сделанное остаётся у вас по акту.

Мы этого не делаем

  • Не защищаем пилот любой ценой: если дешевле переписать, говорим это.
  • Не обещаем качество и экономию до замера на ваших данных.
  • Не берёмся за систему без доступа к данным и исходникам или без возможности их восстановить.
  • Не проводим лицензируемые работы по защите информации и аттестацию: лицензии ФСТЭК у нас нет.
  • Не берём работы дешевле 150 000 ₽ и не дежурим круглосуточно.
Эксплуатация

Что должно появиться вокруг модели

Замер качества
  • Эталонный набор из реальных обращений
  • Прогон при каждом изменении промпта, модели или данных
  • Отдельные доли: без правок, пропущенные ошибки, переданное человеку
  • Отчёт сравнения версий
Журнал и мониторинг
  • Журнал запросов и ответов без персональных данных в открытом виде
  • Метрики: время ответа, отказы, доля передач человеку
  • Оповещения в вашей системе мониторинга
  • Контрольный прогон на заранее испорченных данных
Версии и выкладка
  • Промпты, модели и конфигурация в git
  • Тестовый и боевой стенды
  • Откат на предыдущую версию по инструкции
  • Описание выкладки: см. что такое MLOps
Данные и интеграция
  • Ежедневная загрузка без ручных шагов
  • Очереди и обработка сбоев источников
  • Python, PostgreSQL, Docker на Linux
  • Развёртывание в вашем контуре, включая закрытый
Материалы

Что почитать перед разговором

Статья

Когда останавливать пилот ИИ-проекта

Метрика успеха, срок решения, владелец и критерий провала, которые нужно записать до запуска.

  • Признаки, что пора остановить
  • Что делать, если пилот уже завис
Читать →
Статья

Почему ИИ-пилоты не доходят до продуктива

Типичные причины: данные, владелец, интеграция, безопасность и экономика.

  • Причины по корзинам
  • Что проверить до запуска
Читать →
Разбор задачи

ИИ-пилот, который не выходит из демонстрации

Условный разбор типовой ситуации: как строится мерило качества и на что опирается приёмка.

  • Эталонный набор задач
  • Вопросы к любому подрядчику
Читать →
Статья

Что такое MLOps

Что нужно вокруг модели, чтобы она жила в эксплуатации: версии, замер, мониторинг, откат.

  • Версионирование
  • Мониторинг качества
Читать →
Заявка

Разберём ваш пилот

Короткий созвон: что за пилот, кто его делал, что есть на руках (исходники, данные, документация) и почему он остановился. Скажем, с какой ступени начинать и в какую вилку это укладывается.

Спасибо, заявка отправлена. Ответим в течение рабочего дня.

Не удалось отправить. Напишите в телеграм или позвоните.

Вопросы

Частые вопросы: вывод ии-пилота в продуктив

Сколько стоит вывод пилота в продуктив?

Диагностика — 200 000 ₽ за один-два процесса или 350 000 ₽ за несколько систем. Доработка идёт этапами по 300 000–700 000 ₽, весь вывод в продуктив — от 1 500 000 ₽ и от трёх месяцев, сопровождение — от 20 000 ₽ в месяц. Итоговую вилку называем по результатам диагностики, диагностика вычитается из следующего этапа.

Возьмёте пилот, сделанный другим подрядчиком?

Да, если есть исходники или их можно восстановить. Сначала разбираем состояние, потом называем цену: брать в работу то, чего не видели, нельзя. Если исходников нет и восстановить нечего, скажем, что дешевле собрать заново, а требования и эталонный набор перенесём в новую сборку.

Что будет на руках после диагностики?

Письменный документ: что в пилоте работает, где и почему ломается, замер качества на эталонном наборе, разбор ошибок по корзинам, оценка стоимости эксплуатации, замечания по безопасности и вывод с вилкой бюджета. Документ написан так, чтобы им можно было пользоваться без нас.

Сколько длится диагностика?

Две-три недели для одного-двух процессов, три-четыре недели, когда затронуто несколько систем. Срок зависит от того, как быстро будут выданы доступы и данные.

А если вывод диагностики — остановить пилот?

Это тоже результат. На руках будет письменный документ: что показал пилот, чего не хватило и при каких условиях к задаче имеет смысл вернуться. Диагностика вычитается из следующего этапа только если вы продолжаете, а документ остаётся у вас в любом случае.

Как понять, что система готова к продуктиву?

По письменным критериям, согласованным до доработки: качество на отложенном наборе, поведение на сомнительных входах, ежедневная загрузка без ручных шагов, мониторинг, откат на предыдущую версию, названный владелец на вашей стороне. Формулировка «работает» критерием не считается.

Можно ли вернуть качество без смены модели?

Иногда причина в данных, правилах или процессе, а не в модели. Выясняем это разбором ошибок по корзинам до того, как предлагать решение. Результат заранее не обещаем: сначала замер на ваших данных.

Кто отвечает за систему после передачи?

Владелец на вашей стороне: он решает, какие правила действуют и когда расширять права. Мы можем взять сопровождение с названными часами и временем реакции. Круглосуточного дежурства у нас нет, и мы говорим об этом заранее.

Можно ли начать с одного процесса, а не с всего пилота?

Да. Часто так и делают: сужают объём до процесса, где разница с ручной работой положительна, и выводят в продуктив его. Остальное остаётся на паузе до результатов.

Вы работаете только в Ростове-на-Дону?

Мы в Ростове-на-Дону, работаем с заказчиками по всей России: удалённо и в вашем контуре. Доступ к системам и обследование согласуем на старте с вашей службой безопасности.