Симптом
Вероятная причина
Что смотрим
Что делаем
СимптомКачество падает на реальных данныхв пилоте было иначе
Вероятная причинаПилот настраивали на подготовленной выборке; в потоке другие форматы, пропуски, дубли и темы, которых не было
Что смотримСравниваем выборку пилота со свежим срезом потока: форматы, языки, пропуски; считаем качество на отложенном наборе
Что делаемСтроим эталонный набор из реальных обращений, делим ошибки на корзины (данные, правила, модель, процесс) и чиним по корзинам
СимптомНет владельцарешение откладывается
Вероятная причинаПравила, очередь исключений и решение о запуске ни за кем не закреплены
Что смотримКто принимает решение, кто правит правила, кто разбирает ошибки, к какому сроку нужно решение
Что делаемНазначаем владельца на вашей стороне, записываем обязанности и срок решения; без названного владельца дальше не идём
СимптомНе интегрированданные грузят руками
Вероятная причинаВыгрузки готовит человек, интерфейсов к боевым системам нет
Что смотримОткуда берутся данные в пилоте, кто и как часто их готовит, какие интерфейсы есть у боевых систем
Что делаемПроектируем ежедневную загрузку без ручных шагов и обработку сбоев: что делает система, когда источник недоступен
СимптомНет мониторингасбой видят пользователи
Вероятная причинаНет журнала, эталонного прогона и оповещений, версии промптов и модели не фиксируются
Что смотримВидно ли падение качества до жалобы, где лежат запросы и ответы, можно ли вернуться на предыдущую версию
Что делаемЖурнал, замер по расписанию на эталонном наборе, оповещения, версионирование промптов и конфигурации
СимптомНе прошёл безопасностьИБ не согласовала
Вероятная причинаНет описания потоков данных, роли шире нужных, запросы хранятся в открытом виде
Что смотримПотоки данных, учётные записи, что уходит за контур, где и сколько хранятся запросы
Что делаемОписание потоков и ролевая модель, журнал без персональных данных в открытом виде; аттестацию и лицензируемые работы не проводим
СимптомЭкономика не сошласьдороже ручной работы
Вероятная причинаЭксплуатация, поддержка и проверка человеком стоят больше обработки той же единицы работы вручную
Что смотримФормула: (эксплуатация + поддержка + время проверки) на единицу работы против ручной обработки этой единицы
Что делаемСужаем объём до процессов, где разница положительна, меняем схему или модель, либо рекомендуем остановить
СимптомАгент ошибается в действияхдля пилотов с действиями
Вероятная причинаПрава шире нужных, нет подтверждений, лимитов и отката
Что смотримМатрица действий, права учётной записи агента, журнал, повторы операций