Около 20% ИИ-агентов в корпоративных сетях работают в зоне слепоты служб безопасности

55 минут назад

© Сгенерировано ИИ

Около 20% автономных ИИ-агентов, функционирующих в корпоративных вычислительных контурах, действуют без ведома ИТ-департаментов и служб информационной безопасности. Наличие автономных алгоритмов, обладающих пользовательскими правами доступа к внутренним базам данных и приложениям, выявляется только путем глубокого анализа сетевого трафика. Об этом свидетельствуют результаты исследования компании AuthMind, передает ICT-Online.

В отличие от классического концепта «теневого ИИ» (Shadow AI), когда сотрудники вручную копируют фрагменты текста или кода в публичные веб-интерфейсы нейросетей, теневые ИИ-агенты представляют собой программные модули с высокой степенью автономии. Работники подключают персональные учетные записи, внешние интеграции и сторонние сервисы, передавая им API-ключи, OAuth-токены и стандартные полномочия своего рабочего профиля.

В результате ИИ-агент начинает совершать транзакции, запрашивать данные и выполнять команды от имени сотрудника:

- Автономный доступ к инфраструктуре: Программа обращается к системам CRM, ERP, репозиториям кода (Git) и облачным хранилищам без повторного подтверждения человеком.

- Трансфер чувствительных сведений: Агент способен самостоятельно передавать корпоративную информацию между внутренними сервисами и внешними языковыми моделями (LLM).

- Слепые зоны учетных записей: В стандартных системах управления идентификацией (IdM/IAM) такие агенты не отображаются как отдельные учетные записи, маскируясь под легитимную пользовательскую активность.

По данным Gartner, 75% международных организаций уже зафиксировали несанкционированное применение ИИ-инструментов в командах разработки, а 59% руководителей по ИБ подтверждают обнаружение или обоснованные подозрения в работы неразрешенных агентов.

Статистика исследований УЦСБ и ГК Солар

В российском сегменте проблема бесконтрольного внедрения ИИ-технологий обостряется на фоне масштабной цифровизации и дефицита ИТ-кадров. По данным совместного исследования Уральского центра систем безопасности (УЦСБ) и ГК «Солар», 42,4% опрошенных отечественных компаний подозревают утечки конфиденциальной информации через сторонние ИИ-сервисы, а 8,1% респондентов уже столкнулись с реальными инцидентами безопасности. При этом до 43% всех несанкционированных подключений к внешним ИИ-платформам приходится именно на подразделения ИТ и разработки.

Согласно отраслевой аналитике рынка Identity Security и контроля доступов за 2026 год:

- Отсутствие регламентации: Порядка 19% российских предприятий никак не контролируют использование сотрудниками ИИ-агентов, тогда как 20% вводят полные административные запреты, которые часто обходятся персоналом.

- Проблемы управления доступом: В 35,5% организаций фиксируется несанкционированная активность сервисных и технических аккаунтов, к категории которых эксперты относят и создаваемых ИИ-агентов.

- Правовые и регуляторные риски: Передача персональных данных и коммерческой тайны во внешние контуры ИИ-моделей создает прямой риск нарушения требований Федерального закона № 152-ФЗ «О персональных данных» и статьи 272.1 УК РФ, а также законодательства о защите критической информационной инфраструктуры (ФЗ-187).

Класс систем контроля нечеловеческих учетных записей

Эксперты по кибербезопасности подчеркивают, что противодействие угрозам теневых ИИ-агентов требует пересмотра подходов к управлению доступом и перехода к концепции контроля нечеловеческих учетных записей (Non-Human Identities, NHI).

Рекомендуемый комплекс технических и организационных мер включает:

1. Анализ сетевого трафика и CASB/DLP: Выявление обращений из внутренней сети к эндпоинтам внешних LLM и API-сервисов (OpenAI, Anthropic, Hugging Face, а также отечественным LLM-платформам) с помощью шлюзов безопасного доступа и систем защиты от утечек с инспекцией SSL-трафика.
2. Внедрение PAM и IdM/IGA: Учет и каталогизация всех сервисных токенов, API-ключей и скриптов автоматизации. Приравнивание ИИ-агентов к служебным учетным записям с фиксацией ответственного владельца, области полномочий и ограниченного срока действия токена.
3. Мониторинг поведенческого анализа (UEBA): Фиксация аномальной интенсивности обращений к базам данных и микросервисам, которая характерна для автоматизированных агентов, но нетипична для действия живого пользователя в рамках рабочего дня.

Читайте также: «Это не революция, а эволюция»: как ИИ меняет работу DLP-систем