В закрытом контуре ведомства можно решать задачи с документами: искать нормы и регламенты, разбирать входящие обращения, готовить черновики ответов и справок, сверять комплектность. Решения по гражданам и организациям, юридические заключения и обмен с государственными системами в такой проект не входят. Модель и данные при этом остаются на серверах ведомства.
Граница проходит не по технологии, а по ответственности. Система может ошибиться, и в этом случае ошибку должен поймать человек, который подписывает документ. Услуга описана на странице «ИИ для госсектора», здесь только карта допустимого, режимы работы и перечень согласований.
Карта задач: что можно, что спорно и что нельзя
Задачи различаются тем, чем заканчивается ошибка. Если ошибку видно сразу и исправляет её сотрудник, задача подходит. Если ошибка меняет положение человека, система в ней не участвует.
| Задача | Пример | Статус | Почему |
|---|---|---|---|
| Поиск по нормам и регламентам | Сотрудник спрашивает, какой порядок применяется, и получает пункт со ссылкой на документ | Можно | Ошибку видно: источник открывается и сверяется |
| Сортировка входящих обращений | Определить тему, подразделение и срок, найти повторные обращения | Можно с проверкой | Ошибка маршрута задерживает ответ, поэтому спорные случаи уходят человеку |
| Черновики ответов и справок | Подготовить текст по шаблону и найденным нормам | Можно, подписывает человек | Текст читает и правит должностное лицо |
| Проверка комплектности | Найти в пакете отсутствующие приложения и расхождения реквизитов | Можно | Система показывает находку, решение о возврате принимает человек |
| Сводки и аналитика по документам | Сгруппировать темы обращений за период | Можно с оговоркой | Темы подбирает модель, формулировки выводов проверяет аналитик |
| Решение по заявлению гражданина или организации | Отказ, назначение, санкция | Нельзя | Решение принимает уполномоченное лицо, ответственность модель не несёт |
| Юридическое заключение | Оценка законности акта или действия | Нельзя | Заключение даёт юрист, мы юридических консультаций не оказываем |
| Обмен с государственными системами | Передача данных, электронное взаимодействие | Не наша часть | Остаётся за теми, кто такой обмен уже ведёт |
Строки «Можно с проверкой» и «Можно с оговоркой» зависят от того, как организована проверка в вашем ведомстве. Об этом ниже, в разделе про режимы работы. Если сомневаетесь, относите задачу к более осторожной строке: из режима подсказки легко перейти к черновику, обратный путь после ошибки обходится дороже.
Три режима работы: подсказка, черновик, действие
Одна и та же модель может работать в трёх режимах, и от режима зависят и риск, и объём проверки. Режим выбирается на задачу, а не на весь проект.
| Режим | Что делает система | Когда допустим | Что фиксируем |
|---|---|---|---|
| Подсказка | Находит пункт нормы или похожее обращение и показывает источник | Всегда, это стартовый режим | Что спросили, что показали, открыл ли сотрудник источник |
| Черновик | Готовит текст ответа или справки, который сотрудник читает и правит | После проверки на выборке ваших документов | Версию черновика, правки сотрудника, кто подписал |
| Действие | Сама меняет статус, маршрут или реквизиты, например присваивает обращению тему | Для обратимых операций с низкой ценой ошибки, после периода работы в режиме черновика | Каждое действие, возможность отката, список операций, которые запрещены |
Автоматическое действие допустимо не везде. Присвоить обращению тему и подразделение можно, с отметкой и возможностью поправить. Отказать или закрыть обращение нельзя: такие операции остаются за человеком. Как ограничивать права агента и требовать подтверждение, описано в статье «ИИ-агент: права и подтверждение действий».
Почему решение остаётся за должностным лицом
Модель не является субъектом ответственности. Подпись под ответом гражданину ставит человек, и если текст содержит ошибку, отвечает он, а не система. Поэтому система строится так, чтобы подписывающему было удобно проверять, а не доверять на слово:
- Каждое утверждение со ссылкой. Ответ указывает документ, редакцию и пункт. Утверждение без источника система не выдаёт.
- Отказ от ответа. Если в корпусе документов ответа нет, система говорит об этом, а не придумывает. Для ведомства это важнее, чем «бойкость» ассистента: ответ «в имеющихся документах не нашёл» можно проверить и передать дальше, а выдуманный пункт нормы попадает в письмо гражданину.
- Видна версия документа. Сотрудник видит, действует ли найденная редакция, и может открыть оригинал.
- Журнал. Кто спрашивал, что система нашла и что сотрудник сделал с ответом. Журнал нужен для разбора ошибок, а не для слежки за людьми.
Принцип проверки «подсказка не заменяет источник» подробно разобран в статье про порог уверенности модели: когда система не уверена, она отдаёт вопрос человеку.
Что значит «закрытый контур» в ведомстве
В государственной организации «закрытый контур» означает конкретные вещи, а не слово в презентации. Модель, база документов и журналы стоят на серверах ведомства или в его частном облаке. Запросы не уходят во внешние сервисы, обновления моделей и библиотек приходят по согласованной схеме, доступ к системе идёт через вашу систему входа и разделён по уровням.
Облачные модели для данных ограниченного доступа чаще всего не подходят по требованиям заказчика, и это естественно: персональные данные граждан России обычно должны храниться на серверах в России, а служебная информация не должна покидать контур. Работающие модели при этом можно запускать на оборудовании ведомства, это разобрано в статье «Как развернуть LLM в закрытом контуре» и на странице частной языковой модели. Почему загрузка документов во внешний чат создаёт риски, описано в статье «Можно ли загружать договоры в ChatGPT».
Что согласовать до пилота
В государственной организации пилот упирается не в технологии, а в согласования. Составьте перечень до подписания договора, иначе срок уйдёт на ожидание:
- Служба информационной безопасности. Где стоят серверы, какой доступ у подрядчика, как попадают обновления, как отключается система.
- Юрист ведомства. Статус оператора персональных данных, поручение на обработку, правовая основа использования документов. Мы юридических консультаций не даём.
- Владельцы документов. Кто отвечает за каждый корпус: актуальные редакции, закрытые документы, права доступа по уровням.
- Требования к программному обеспечению. Нужен ли продукт из реестра российского ПО, какие операционные системы допустимы. Это определяет заказчик, см. статью «Реестр отечественного ПО».
- Категорирование и аттестация. Относится ли система к значимой инфраструктуре и нужна ли аттестация. Аттестацию мы не проводим, лицензии ФСТЭК у нас нет. Обзор требований — в статье «Требования КИИ к ИИ-системам».
- Приёмка. Кто принимает результат, по какому критерию и на какой выборке документов.
Согласования идут параллельно, а не по очереди: служба безопасности, юрист и владельцы документов получают один и тот же короткий документ со схемой размещения, перечнем данных и режимами работы. Мы готовим его на обследовании, чтобы вопросы звучали один раз, а не в каждом кабинете отдельно. Сроки согласований в ведомстве мы не контролируем и закладываем в план с запасом.
Где система ошибается на ведомственных документах
Ошибки в госорганизации имеют свои причины. Эти пять мест стоит проверить на вашем корпусе до запуска:
- Устаревшая редакция. Система нашла пункт из документа, который заменён. Лечится метаданными: у каждой редакции указана дата действия, а закрытые документы помечены.
- Похожие, но разные документы. Порядок для одного подразделения применён к другому. Лечится фильтром по подразделению и показом документа целиком.
- Смешение уровней доступа. Сотрудник получил фрагмент документа, который ему видеть нельзя. Лечится разграничением прав до поиска, а не после.
- Склейка разных обращений. Два обращения с похожим текстом признаны повторными, хотя заявители разные. Сомнительные пары отдаются человеку.
- Уверенный ответ без источника. Модель пересказала норму по памяти. Лечится запретом ответа без найденного фрагмента.
Ошибки разбираются на реальных обращениях и документах ведомства, а не на демонстрационных. Пример организации учёта обращений описан в разборе типовой задачи про реестр обращений.
Как проверить систему перед приёмкой
Четыре проверки делают руками ваших сотрудников, а не подрядчика:
| Проверка | Что делаем | Что считается успехом |
|---|---|---|
| Набор вопросов с эталоном | Сотрудники составляют вопросы и правильные ответы с источниками, система отвечает без подсказок | Ответы совпадают с эталоном, неизвестное система признаёт |
| Права доступа | Из-под каждой роли пробуем получить документы и обращения чужого уровня | Сервер отказывает, фрагменты закрытых документов не попадают в ответ |
| Журнал | Берём случайные запросы и по журналу восстанавливаем, что произошло | Видно, кто, когда, что спросил и что получил |
| Изоляция | Проверяем сетевые соединения сервера и отключаем внешний доступ | Система работает без выхода наружу, соединений вовне нет |
Пороги успеха записываются до начала работ. Цифр качества мы заранее не обещаем: они зависят от состояния вашей нормативной базы и от формулировок обращений.
Что делаем мы и с чего начать
Начинаем с обследования: 200 000 ₽ и 2–3 недели за один сценарий, 350 000 ₽ и 3–4 недели, если задействовано несколько систем (электронный документооборот, реестр обращений, архив). На выходе выбранный сценарий, схема размещения в вашем контуре, права доступа, перечень согласований и вилка бюджета. Стоимость вычитается из первого этапа, если продолжаете с нами, а документом можно пользоваться и без нас.
Дальше лёгкий пилот на выборке ваших документов (150 000–400 000 ₽, 2–8 недель), затем, если нужно, вывод в эксплуатацию. Остановиться можно на любой ступени, исходники лежат в вашем репозитории с первого коммита. Мы не подключаемся к государственным системам, не готовим документацию для закупок, не даём юридических заключений, не имеем лицензии ФСТЭК и не проводим аттестацию. Цены и сроки — на странице «Тарифы», описание услуги — на странице «ИИ для госсектора».
Частые вопросы
Можно ли использовать ChatGPT в государственной организации?
Для данных ограниченного доступа облачные сервисы чаще всего не подходят по требованиям заказчика: запросы уходят за пределы контура. Для таких задач модель запускают на серверах ведомства. Решение о допустимости принимает ваша служба безопасности.
Может ли ИИ принимать решения по заявлениям граждан?
Мы такие системы не делаем. Решение принимает уполномоченное лицо. Система может найти норму, сгруппировать обращения и подготовить черновик, который сотрудник проверит и подпишет.
Что такое режим подсказки и режим действия?
Подсказка показывает сотруднику найденный пункт или похожее обращение с источником. Действие меняет статус или маршрут сама, и допустимо только для обратимых операций после периода работы в режиме черновика. Отказ и закрытие обращения остаются за человеком.
Нужна ли аттестация и продукт из реестра российского ПО?
Требования определяет заказчик и ваше направление безопасности. Аттестацию мы не проводим, лицензии ФСТЭК у нас нет. Мы учитываем ваши требования к операционным системам и стеку при проектировании, а оформление остаётся за вами.
Где хранятся данные и работает модель?
На серверах ведомства или в его частном облаке. Запросы и документы не покидают контур, внешние сервисы для работы модели не нужны. Схема размещения согласуется с вашей службой безопасности на обследовании.
Подключаетесь ли вы к государственным информационным системам?
Нет. Мы работаем в вашем контуре с вашими системами: документооборотом, реестром обращений, архивом. Обмен с государственными системами остаётся за теми, кто его уже ведёт.
Сколько стоит пилот в ведомстве?
Обследование стоит 200 000 ₽ за один сценарий и 350 000 ₽ за несколько систем, оно вычитается из первого этапа. Лёгкий пилот — 150 000–400 000 ₽ за 2–8 недель, тяжёлый — 400 000–1 200 000 ₽ за 2–3 месяца.
Что делать, если нормативная база в беспорядке?
Начать с наведения порядка: назначить владельца каждого корпуса, оставить действующие редакции, распознать сканы. Это входит в обследование. Поиск над неупорядоченной базой будет ошибаться, и никакая модель этого не исправит.