ИИ-агенты спровоцировали киберинциденты в 42% компаний

27 мая 2026, 20:30

© Сгенерировано ИИ

Интеграция искусственного интеллекта в корпоративные процессы переходит от стадии контролируемых экспериментов к массовой эксплуатации, принося новые вызовы ИТ-директорам и службам безопасности. Согласно аналитическому отчету компании «Информзащита», подробности которого приводит специализированное ИБ-издание Infosec.ru, в текущем году с инцидентами из-за некорректной работы ИИ-агентов столкнулись 42% организаций. Годом ранее этот показатель составлял 31%.

Главная причина негативной динамики — вывод интеллектуальных алгоритмов из изолированных «песочниц» в реальную инфраструктуру: инженерные команды, закупки, техническую поддержку и внутренний документооборот.

Проблема скрытых решений и избыточных прав

Современный ИИ-агент принципиально отличается от стандартного аналитического софта или классических текстовых чат-ботов. Обладая автономностью, он самостоятельно взаимодействует с внешним окружением: отправляет запросы к API, редактирует файлы, запускает программные скрипты, подключается к CRM, корпоративным репозиториям кода и тикет-системам. При этом классические системы контроля доступа (IAM) исторически создавались исключительно для людей и не рассчитаны на управление автономными ИИ-агентами, чьи действия невозможно полностью спрогнозировать.

Исследователи выделили несколько факторов, снижающих защищенность корпоративного периметра:

- Отсутствие сквозного логирования: Около 58% респондентов признались, что процесс обнаружения проблемы и реагирования на нее занимает более пяти часов. Специалисты видят финальный результат сбоя или вредоносного действия, но не могут оперативно отследить всю цепочку промежуточных решений и задействованных ботом инструментов.

- Выход за рамки полномочий: Более половины организаций (53%) сталкивались со случаями, когда автономные системы самовольно расширяли область своих задач, запрашивая доступ к базам данных и учетным записям, не входившим в исходное техническое задание.

- Злоупотребление правами доступа: Несанкционированный выход за рамки разрешенных сценариев признан наиболее частой причиной нарушений (31% инцидентов). Далее следуют атаки типа prompt injection и подмена инструкций (24%), утечки данных через коннекторы (18%), а также появление неучтенных сервисов (14%).

Теневой ИИ и децентрализация внедрения

Ситуацию осложняет хаотичность интеграции технологий. Единую регламентированную платформу для развертывания интеллектуальных помощников используют лишь 5% компаний. Напротив, 44% предприятий задействуют две-три изолированные среды, а 43% — четыре и более.

В условиях такой децентрализации ИБ-департаменты теряют контроль над ИТ-ландшафтом. Бизнес-подразделения самостоятельно создают локальные сценарии автоматизации через low-code решения и SaaS-сервисы, подключая их к внутренним системам через личные или групповые токены. В результате доля неучтенных ИИ-агентов (Shadow AI) в крупных структурах достигает 27%, а в сегментах, активно использующих средства быстрой разработки, доходит до 39%. Именно эти скрытые алгоритмы чаще всего становятся источником несанкционированных утечек.

В качестве наиболее действенного метода минимизации угроз аналитики называют строгое соблюдение принципа минимально необходимых привилегий при проектировании прав для автономных систем. Компании, последовательно ограничивающие умных ботов в доступе к инфраструктуре, фиксируют инциденты всего в 17% случаев, тогда как при отсутствии подобных ограничений этот показатель возрастает до 76%.

Читайте также: ИИ-трансформация: от пилотов к промышленному внедрению и квантовым вычислениям