UserGate открывает направление по обеспечению безопасности ИИ

Вчера в 18:10

© Сгенерировано ИИ

Российский разработчик решений в сфере информационной безопасности UserGate объявил о начале работы над новым технологическим направлением, посвященным безопасности искусственного интеллекта (ИИ). В рамках этой стратегии компания планирует как интегрировать интеллектуальные инструменты в собственные продукты, так и создавать средства защиты для корпоративных систем, использующих машинное обучение. Формирование новой экспертизы и позицию владельца продукта (Product Owner) по безопасности ИИ возглавит Светлана Газизова. Подробности приводятся в официальном блоге UserGate на Хабре.

Развитие веб-шлюза uSWG

В рамках развития нового вектора безопасности вендор сосредоточится на реализации двух параллельных задач:

- Модернизация текущих защитных решений. Первоочередным объектом станет UserGate Secure Web Gateway (uSWG) — шлюз веб-безопасности корпоративного класса, отвечающий за контроль и фильтрацию веб-трафика сотрудников.

- Проектирование систем для защиты сторонних ИИ-сервисов и ML-моделей, которые российские предприятия активно интегрируют в свои бизнес-процессы.

Опыт руководителя направления

Для управления новым направлением компания привлекла профильного эксперта с разносторонним бэкграундом в сфере ИТ и информационной безопасности. Светлана Газизова начинала карьеру в области разработки программного обеспечения, после чего переключилась на безопасность приложений (AppSec).

В компании Swordfish Security она вела консалтинговые проекты в области безопасной разработки. В последние годы работала в Positive Technologies на позиции директора по построению процессов безопасной разработки, где отвечала за адаптацию ИБ-продуктов под требования клиентов, развитие сервисных практик и совершенствование внутренних защитных технологий.

В чем сложность защиты нейросетей

Классический процесс безопасной разработки (SSDLC) плохо применим к современным ML-моделям, а готового инструментария для полноценного тестирования таких систем на рынке практически нет. Риски, связанные с активным внедрением нейросетей, выводят индустрию кибербезопасности на новый этап развития.

Чтобы гарантировать безопасность корпоративных сервисов, UserGate разворачивает исследовательскую деятельность по изучению спецификафикаций жизненного цикла ML-моделей и генеративного ИИ. Перед новой командой поставлен комплекс практических задач:

- Проведение прикладных исследований в области безопасности нейросетей;

- Формирование архитектурных принципов для защиты ИИ-моделей от внешних воздействий;

- Проектирование новых решений UserGate, функционирующих на базе искусственного интеллекта;

- Внедрение ИИ-компонентов в существующую линейку продуктов компании;

- Взаимодействие с профессиональным ИБ-сообществом и партнерами для обмена экспертизой.

Защита от умных атак и автоматизация ИБ

Архитектор клиентского опыта будущего UserGate Михаил Кадер подчеркнул, что массовое освоение искусственного интеллекта российским бизнесом ставит перед ИБ-рынком принципиально новые вызовы.

Компании остро нуждаются в защите как от хакерских атак, в которых задействованы технологии машинного обучения, так и в обеспечении внутренней безопасности собственных нейросетевых сервисов в периметре ИТ-инфраструктуры. Интеграция умных ИИ-агентов в экосистему UserGate призвана автоматизировать процессы отражения сложных распределенных угроз, а формирование выделенной экспертизы ускорит вывод этих решений на рынок.

Читайте также: Облака без иллюзий: чему на самом деле научился рынок IaaS к 2026 году