Как встроить ИИ в бизнес-процесс и где нужен человек

ИИ встраивают не в процесс целиком, а в один-два шага, которые состоят из чтения, классификации или составления текста. Остальные шаги остаются обычным кодом или людьми, а человек проверяет результат модели в тех местах, где ошибка дорогая или необратимая. Выбор шага и выбор места человека — два решения, которые определяют, станет ли модель частью работы или останется отдельным окном.

Ниже порядок: разложить процесс на шаги и понять, какие из них подходят модели, выбрать из четырёх точек входа, поставить человека в нужное место, продумать исключения и проверить встроенность до того, как система попадёт к пользователям. Как подключается технически слой интеграции и в каких режимах он работает, описано на странице «Интеграция ИИ в бизнес-процессы», здесь только метод.

Разложите процесс на шаги: что из них подходит модели

Процесс описывают словами «обработать заявку» или «согласовать договор», но внутри каждого десяток отдельных шагов. Модель подходит не всем из них. Запишите шаги реального процесса, а не регламентного, и для каждого определите тип.

Из восьми типов модели доверяют первые пять. Остальные три лучше оставить коду или человеку, и это не слабость модели, а вопрос воспроизводимости: расчёт должен давать один и тот же результат при одинаковых данных. Если выбор между правилами, скриптом и агентом неочевиден, поможет статья «RPA, скрипт или ИИ-агент».

Четыре точки входа: где модель встаёт в процесс

Когда шаги разобраны, выбирается место. Для большинства процессов подходит одна из четырёх точек. Их можно комбинировать, но начинать лучше с одной.

Первая точка самая популярная, потому что результат виден сразу, а ошибки легко собрать в эталон. Вторая требует доверия: она работает, только когда люди действительно читают подготовленные материалы. Третья мягче всего вписывается в привычную работу и часто становится хорошим первым шагом. Четвёртая выглядит эффектной, но самая рискованная, потому что ответ уходит наружу.

Пример: приёмка счёта от поставщика, шаг за шагом

Условный пример показывает, как рассуждение выглядит на практике. Процесс: счёт приходит на почту бухгалтерии, его проверяют, вносят в 1С и отправляют на согласование.

1. Письмо с вложением. Модель определяет, что это счёт, а не акт и не реклама. Тип «категоризация», точка «на входе».
2. Чтение скана. Модель достаёт реквизиты поставщика, номер, дату, позиции и суммы. Тип «извлечение полей».
3. Сверка со справочником. Код ищет поставщика в 1С по ИНН. Нашёл — продолжаем, не нашёл — карточка уходит человеку. Здесь модель не нужна.
4. Проверка суммы. Код складывает позиции и сравнивает с итогом. Расхождение останавливает запись. Расчёт делает код.
5. Запись черновика. Сервис интеграции создаёт черновик документа в 1С с ключом, исключающим дубль при повторе.
6. Проверка оператором. Оператор видит скан и распознанные поля рядом, правит и проводит документ. Решение о проведении остаётся за человеком.
7. Согласование. Идёт по прежнему маршруту. Модель в нём не участвует.

Из семи шагов модель работает в двух, код в трёх, человек в двух. Так выглядит нормальная картина: модель занимает ровно те шаги, где без неё пришлось бы читать глазами, а всё критичное остаётся детерминированным. Процесс стал короче не потому, что его заменили, а потому, что подготовительная работа сделана до человека.

Где поставить человека: три вопроса вместо общего «пусть проверяет»

«Человек в контуре» не означает, что человек смотрит на всё. Его место определяют три вопроса к каждому шагу, где модель создаёт результат или совершает действие:

• Сколько стоит ошибка. Деньги, репутация, срок, юридические последствия.
• Можно ли её вернуть. Черновик исправляется, отправленное письмо и проведённый платёж нет.
• Какой объём. Если шагов очень много в день, проверка каждого превратится в формальность, а выборочная проверка станет единственным способом сохранить внимание.

Подтверждение превращается в формальность, когда человек нажимает его, не читая. Чтобы этого не случилось, подтверждение просят только там, где оно действительно нужно, показывают человеку то, что менялось, а не весь документ, и иногда подкладывают заведомо неверный пример для проверки внимания. Подробности про права и порядок подтверждений собраны в статье «Как ограничить ИИ-агента».

Исключения: что происходит с тем, что модель не разобрала

Процесс, где модель работает без сбоев, описывается на слайдах. В реальной работе часть случаев модель не разберёт, и важнее всего, что с ними происходит. Продумайте четыре вещи до запуска.

• Порог уверенности. Ниже определённого порога случай уходит человеку, а не обрабатывается. Как задавать порог, разобрано в материале «Порог уверенности модели».
• Отдельная очередь. Неразобранные случаи копятся в очереди с причиной: нечитаемый скан, неизвестный тип, нет поставщика в справочнике. Очередь нужна и для работы, и для анализа.
• Обратная связь. Правки человека записываются как эталонные ответы. По ним видно, какие типы случаев модель путает, и по ним же проверяется каждое обновление системы.
• Ручной режим. Если модель или учёт недоступны, работа идёт по старому порядку. Этот порядок записан, и его не сломали новой организацией работы.

Доля случаев, ушедших в очередь, — один из главных показателей здоровья встроенного ИИ. Её рост означает, что изменились входящие данные: новый поставщик, новая форма документа или сезонная тема в обращениях.

Как меняется работа людей

Когда модель берёт подготовку на себя, у оператора меняется характер работы: меньше чтения и ввода, больше проверки. Это не мелочь, и её стоит учесть в проекте.

• Проверка утомляет иначе. Смотреть чужой готовый результат сложнее, чем делать самому: внимание притупляется. Помогают короткие смены проверки, разметка сомнительных мест и ротация.
• Меняется критерий качества работы. Если оператор оценивается по скорости, он будет подтверждать без чтения. Показатели пересматриваются вместе с процессом.
• Нужен канал для жалоб на систему. Сотрудники первыми замечают, что модель стала хуже. Кнопка «ответ неверен» с одним нажатием собирает больше сигналов, чем анкета.
• Нужно обучение. Не работе с программой, а пониманию, как модель ошибается и что в её ответе проверять. Подход описан в статье «Как обучить сотрудников работе с ИИ».

Как проверить встроенность до запуска и что измерять после

Проверка идёт на реальном потоке в теневом режиме: система обрабатывает поступающее, но результат не применяется, а сотрудники работают как прежде. Сравнение предложений модели с решениями людей показывает качество без риска для работы. Затем включается подсказка на одной группе, потом подтверждение, и только после этого самостоятельные действия в узких рамках.

Базовые значения снимаются до запуска из журналов. Без них изменение показателей нечем подтвердить, а расчёт эффекта превращается в споры. О том, как считать экономику, написано в статье «Как посчитать ROI от внедрения ИИ».

Типичные ошибки встраивания

• Модели отдают весь процесс. Расчёты и записи, которые должны быть воспроизводимы, оказываются в недетерминированной части.
• Нет ручного режима. При первом сбое работа останавливается, и от ИИ отказываются.
• Человек в контуре для вида. Подтверждение просят на каждый шаг, и оно перестаёт что-либо значить.
• Качество проверено один раз. Через три месяца данные изменились, а мониторинга нет.
• Процесс не описан. Автоматизируют регламент, а люди работают иначе, и модель встраивается в процесс, которого не существует.
• Входящий текст считается безопасным. Письмо может содержать инструкции, адресованные модели, поэтому такие тексты обрабатываются как данные, а не команды. Об этом написано в материале «Что такое prompt injection».

Что делаем мы и с чего начать

Начинаем с обследования процесса: 200 000 ₽ и 2–3 недели за один-два процесса, 350 000 ₽ и 3–4 недели при нескольких системах, 500 000 ₽ и 4–6 недель для производства или контура. Идём по процессу вместе с теми, кто выполняет его руками, раскладываем на шаги, выбираем точку входа и место человека, записываем критерий приёмки и вилку бюджета. Стоимость вычитается из первого этапа, если продолжаете с нами, а документ пригоден и без нас.

Дальше лёгкий пилот на вашей выборке (150 000–400 000 ₽, 2–8 недель), при необходимости тяжёлый пилот и вывод в эксплуатацию. Остановиться можно после любой ступени, исходники лежат в вашем репозитории с первого коммита. Мы делаем один контур или один участок, а не внедрение системы целиком, и не дежурим круглосуточно. Цены — на странице «Тарифы», описание услуги — на странице «Интеграция ИИ в бизнес-процессы».