Как защитить корпоративный ИИ: решения Check Point для сотрудников, приложений и агентов

5 часов назад

© Сгенерировано ИИ

ИИ-агенты появляются на ноутбуках сотрудников, в сторонних SaaS-сервисах, корпоративных приложениях и инфраструктуре, причем их использование может происходить без согласования с ИБ, видимости и контроля. На конференции «Код ИБ» в Ташкенте Эльнар Батталов, менеджер по развитию бизнеса MONT TECH, представил платформу Check Point для защиты ИИ и рассказал о решениях для контроля использования ИИ сотрудниками, защиты приложений и агентов, а также оценки их устойчивости к атакам. 

ИИ-агенты требуют нового подхода к защите

По мере распространения ИИ-агентов компаниям приходится учитывать сразу несколько групп рисков. Первая связана с доступом к данным: избыточными правами, несанкционированным доступом и повышением привилегий. Вторая относится непосредственно к ИИ: вредоносным угрозам, утечкам данных и недопустимому контенту. Третья возникает из-за автономности агентов, их соединений, используемых инструментов и поведения.

Контроля прав доступа и шаблонного анализа в такой ситуации недостаточно. В качестве примера приводится простой сценарий: следует ли ИИ-агенту удалить файлы на основании только что прочитанного письма? Для оценки подобных действий уже необходимо учитывать контекст. 

Платформа защиты ИИ Check Point строится вокруг трех задач: обнаружения, управления и защиты. Контроль распространяется на сотрудников, агентов и приложения, а среди рассматриваемых угроз находятся Shadow AI, утечки данных, злоупотребление привилегиями, неуправляемые агенты, prompt injection и вредоносные выходные данные. 

В платформу входят три направления:

- Workforce AI Security: обнаружение, управление и защита при использовании ИИ сотрудниками;

- AI Agent Security: обнаружение, управление и защита пользовательских приложений и ИИ-агентов;

- AI Red Teaming: проактивная оценка угроз на основе рисков. 

Workforce AI Security: контроль агентов в корпоративной среде

Workforce AI Security предназначен для обнаружения и контроля ИИ-агентов в инфраструктуре организации. Решение охватывает агентов на хостах и в SaaS и позволяет оценивать связанные с ними риски в разных средах.

В числе возможностей заявлены:

- обнаружение и контроль доступа ИИ-агентов на хостах и в SaaS;

- оценка рисков;

- контроль использования AgentCore и MCP;

- выявление теневых и неуправляемых агентов;

- непрерывный мониторинг;

- интеграция с корпоративными SaaS и экосистемами ИИ. 

На конечных точках решение поддерживает контроль таких инструментов, как Cursor, Claude Code и VSCode. При этом управление распространяется не только на промпты, но и на поведение агентов и их доступ к данным.

Предусмотрены варианты развертывания с агентом и без него в масштабах предприятия. При агентном развертывании сначала создается политика, в которой определяются агенты, пользователи и данные, затем через Infinity Portal создается установщик, после чего агент распространяется на Windows и macOS с помощью MDM или SCCM. 

AI Agent Security: защита в реальном времени

AI Agent Security предназначен для непрерывной защиты ИИ-систем в продуктивной среде. Решение предотвращает prompt injection, утечки данных и небезопасное поведение в ИИ-агентах и приложениях.

Для этого используются:

- детерминированная защита в реальном времени от атак, специфичных для ИИ;

- применение политик с учетом контекста вместо статичных правил;

- встроенная защита без необходимости пересмотра архитектуры.

Для inline-защиты заявлена задержка менее 50 мс. 

Подключение AI Agent Security состоит из трех шагов. Сначала подключаются источники обнаружения, среди примеров указаны Copilot Studio и AWS Bedrock. Затем выполняется интеграция с LLM-трафиком через LLM-шлюз или MCP-сервер. На последнем этапе определяется политика применения: событие можно блокировать, редактировать, помечать или логировать. 

AI Red Teaming: оценка ИИ-систем до эксплуатации

AI Red Teaming отвечает за проактивную оценку угроз на основе рисков. В основе подхода лежит тестирование ИИ-систем с использованием сценариев атак.

В платформе используются данные об угрозах из нескольких источников: анализ угроз в live-режиме, трафик приложений и результаты работы исследовательской группы ИИ. Check Point также заявляет собственные постоянно обновляемые данные об угрозах, включающие более 85 млн паттернов атак и более 100 языков, используемых для атак. 

Задача AI Red Teaming заключается в проверке ИИ-моделей, приложений и API с последующей оценкой обнаруженных рисков. Таким образом, этот компонент дополняет защиту продуктивной среды предварительным тестированием ИИ-систем.

Три уровня защиты

Архитектура Check Point разделяет задачи в зависимости от того, где именно используется ИИ. Workforce AI Security ориентирован на работу сотрудников с ИИ и обнаружение агентов в инфраструктуре. AI Agent Security обеспечивает защиту пользовательских приложений и ИИ-агентов в реальном времени. AI Red Teaming используется для проактивной оценки угроз.

В результате единая модель охватывает три объекта контроля: сотрудников, агентов и приложения, а сама защита строится на обнаружении, управлении и предотвращении связанных с ИИ рисков.

Читайте также: Защита ИИ: как предприятиям защитить данные и инфраструктуру в эпоху искусственного интеллекта