Кто настраивает доступ ИИ-агента на банковском объекте, и где остаётся слово за человеком

Вчера в 23:31

© сгенерировано ИИ

Эксперт по внедрению ИИ в безопасных средах подготовил статью специально для журнала RUБЕЖ. Тим Зинин настраивает ИИ-агентов для лизинговой компании и корпоративных команд. В материале рассказывает, как встроить ИИ-агента в банковское отделение, не потеряв контроль над безопасностью.

Автор разбирает три точки входа агента, механизм выдачи прав и испытательный срок. Показывает, где автоматизация останавливается и почему финальное решение всегда остаётся за человеком. Отдельное внимание автор уделил журналу действий агента: каждое обращение сохраняется, а служба безопасности видит полную историю.

текст: Тим Зинин, управляющий партнер «Зимин, Штурбин и партнёры»

Банковское отделение — объект с двойным периметром, физическим и цифровым одновременно. Камера у входа фиксирует движение и кассовую зону, система контроля доступа разграничивает сотрудников по ролям, служба безопасности держит в поле зрения деньги и персональные данные клиента сразу. Когда в эту систему безопасности встраивается ИИ-агент — программа, которая читает входящие обращения, поднимает документы, готовит ответы сотрудникам и в отдельных сценариях касается систем объекта, — за вопросом «что агент умеет» сразу встаёт второй, важнее: кто ему это разрешил и в каких границах.

На складе или в торговом зале цена ошибки агента измеряется потерянным временем сотрудника. На банковском объекте у той же ошибки другая цена: агент, получивший доступ шире нужного, способен затронуть данные клиента, кассовый узел или сигнал тревоги, а восстановить утраченное доверие потом сложнее, чем починить систему. Поэтому на банковском объекте решение о доступе принимают заранее, ещё до того, как агент увидел первую заявку, и оформляют его как часть настройки объекта, до включения любой другой системы безопасности.

Три точки входа

Похожий поток заявок я настраивал в лизинговой компании на заявках об аренде контейнеров: агент читал обращение, определял тип, поднимал нужный регламент и готовил черновик ответа сотруднику, а решение по заявке оставалось за человеком, закрывавшим её. На банковском объекте та же логика раскладывается на три точки сразу. В отделении — это типовые обращения клиентов и сотрудников: что делать с потерянной картой, куда обратиться по вкладу, какой документ принести к окну для перевода. В службе эксплуатации — поток заявок на техническое обслуживание. Агент сортирует их по срочности и передаёт исполнителю. В службе безопасности — внутренние регламенты и инструкции по действиям при сигнале тревоги, а обработку самого сигнала ведёт дежурный смены. Логика везде одна: агент ищет ответ, человек его выпускает.

Ставки внутри этого потока в банке выше — за каждой заявкой стоят деньги клиента и данные, недоступные постороннему, а значит и цена неверной сортировки выше.

Кто выдаёт агенту права

Границы доступа агенту всегда задаёт человек, владеющий системой, — камерами, системой контроля доступа, клиентской базой, регламентом эксплуатационной службы объекта. Когда я настраивал справочных агентов, отвечающих сотрудникам по внутренней базе документов и регламентов, доступ каждый раз ограничивался конкретной папкой или конкретным набором документов: агент читал ровно то, что ему открыли, и ничего сверху. Тот же принцип годится для банковского объекта, только держателей систем здесь больше: за камеры и систему контроля доступа отвечает служба безопасности, за клиентскую базу — профильное подразделение, за регламенты объекта — служба, отвечающая за эксплуатацию, и каждое из них решает, какой кусок системы агент видит. Этот принцип знаком отрасли безопасности: интеграторы видеонаблюдения и СКУД давно выдают доступ по зонам и ролям. Агенту права настраивают тем же способом, только зона здесь цифровая — конкретный документ, конкретная папка, конкретный участок системы.

Доступ агенту устроен так же, как доступ нового сотрудника: его выдают под конкретную задачу, а расширяют по факту новой договорённости с владельцем системы. Правило простое. Когда задача меняется — агент переходит с обработки заявок отделения на работу с внутренними регламентами службы безопасности, — права пересматривают заново, а старые закрывают. Такой порядок держит структуру допуска управляемой: в любой момент понятно, кто именно разрешил агенту видеть конкретную папку, камеру или базу, и кто отвечает за это решение.

Как проверяют границы

У доступа есть испытательный срок. Прежде чем агент получает боевой доступ, у него есть проверочный этап: агент какое-то время готовит черновики, а человек их читает, и только после этого черновики превращаются в готовые ответы. Справочные боты, что я подключал к внутренним базам документов, проходили тот же путь: сначала каждый ответ агента читал сотрудник, знавший базу лучше самого агента, а когда расхождений с регламентом переставали находить, часть ответов начинала уходить сотрудникам напрямую.

На банковском объекте это выглядит так же: прежде чем агент начнёт готовить ответы клиентам отделения или подсказки дежурному службы безопасности, черновики читает служба-владелец системы и сверяет их с тем, что сделал бы на этом месте человек. Только после этого агенту доверяют часть потока без построчной проверки — и даже тогда решения с ценой из следующего раздела остаются за человеком.

Где агент останавливается

Агент справляется с рутинным потоком: находит нужный регламент, формирует справку, готовит ответ на типовой запрос. Граница проходит там, где ответ меняет состояние системы или судьбу человека — открывает доступ, закрывает инцидент, меняет статус заявки, связывается с клиентом напрямую. Здесь работает правило, которое я проверял на разных задачах: агент готовит решение, человек его утверждает. По этому же правилу на банковском объекте решение остаётся за человеком в нескольких точках: подтверждение сигнала тревоги, доступ к архиву видеозаписей, изменение прав сотрудника, блокировка карты по подозрению. В каждой из них агент доводит ситуацию до готового варианта.

Причина простая: ошибка агента бывает незаметна на глаз. Однажды модель подготовила строительную смету — расчёт выглядел аккуратно и правдоподобно, но проверка вручную нашла ошибку, на первый взгляд неотличимую от верной цифры. Модель одинаково уверенно предлагает и правильный, и ошибочный вариант — со стороны они звучат одинаково убедительно, а разница проявляется только при ручной проверке. На банковском объекте это же правило держит у человека решения из списка выше — с той же ценой ошибки.

Что происходит с данными агента

На корпоративных интенсивах, где я разворачивал ИИ-терминалы для команд, первым шагом всегда было именно это — настройка того, какие данные терминал видит и куда пишет журнал действий. Работа агента оставляет след: каждый запрос, каждый открытый им документ, каждый черновик ответа сохраняется в системе. Всё остаётся на месте.

Тот же принцип годится для банковского объекта. Агент трогает данные ровно в открытых ему рамках, а весь остальной массив информации агенту физически недоступен: система закрывает доступ раньше, чем об этом договорятся люди. Агенту хватает того среза данных, что нужен для конкретной заявки, чтобы ответить на вопрос о вкладе, — видеть всю карточку клиента целиком для этого излишне. Для банковского объекта этот журнал становится рабочим инструментом службы безопасности: по нему видно, какую заявку агент открывал, какой документ поднимал, какой черновик ответа готовил и в какой момент решение перешло к человеку. Клиентские данные защищены банковской тайной, поэтому журнал действий агента получает то же значение, что журнал доступа сотрудника к архиву, — служба безопасности видит полную историю действий с системой, и на этой истории держится весь контроль.

Граница, на которой держится контур

Банковский объект держит на себе больше систем, чем любой другой: камеры, систему контроля доступа, кассовый узел, клиентскую базу, службу безопасности с собственными регламентами. Правило для всех одно. ИИ-агент входит в эту схему работы с теми же ограничениями, что несёт любая новая система на объекте, — с назначенными правами, с журналом действий и с человеком, утверждающим решения, способные что-то изменить. Собственный сайт компании — свыше восьмисот страниц, написанных генеративной моделью, а каждый факт в них человек проверил руками, — держится на том же правиле: модель готовит решение, человек отвечает за результат.

На банковском объекте эта граница становится частью самой конструкции системы безопасности — условием, на котором с самого начала строится допуск ИИ-агента в эту систему. Камера, СКУД, кассовый узел и агент подчиняются одному и тому же требованию: у каждого действия с последствиями есть автор, и этот автор — человек.

Ранее RUБЕЖ собрал круглый стол: «Защита от внутренних угроз: как контролировать доступ сотрудников».