Infosecurity вывела на рынок комплекс услуг по безопасности искусственного интеллекта

1 час назад

© Сгенерировано ИИ

Компания Infosecurity «Софтлайн Решения» (ГК Softline) объявила о запуске нового направления услуг, сфокусированного на безопасности систем искусственного интеллекта. Об этом сообщается на сайте ГК Softline. Публикация также размещена на портале «РБК Компании». Новая практика объединяет техническую экспертизу в сфере кибербезопасности и подходы к управлению ИИ, чтобы помочь организациям безопасно внедрять, использовать и масштабировать интеллектуальные решения.

Массовое внедрение искусственного интеллекта в бизнес-процессы — от автоматизации рутинных операций и аналитики до написания программного кода, клиентской поддержки и поддержки принятия решений — порождает специфические вызовы для информационной безопасности. Среди них:

- прямые утечки конфиденциальных данных через публичные ИИ-сервисы;

- «теневое» использование нейросетей сотрудниками;

- уязвимости в архитектуре LLM-приложений и ошибки самих моделей;

- отсутствие единых процессов управления ИИ и четкого распределения ответственности внутри компаний.

Направления новой практики безопасности

Для защиты корпоративной ИТ-среды от специфических ИИ-угроз Infosecurity сформировала комплексный портфель сервисов:

- Оценка зрелости защитных практик: экспертный анализ текущих процессов управления и защиты ИИ, определение слабых мест и подготовка дорожной карты развития.

- Оценка рисков ИИ-систем: определение наиболее критичных векторов атак с учетом ИТ-архитектуры компании, используемых моделей и специфики бизнеса.

- Red Teaming LLM-приложений: одно из наиболее востребованных направлений новой практики. В рамках работ пентестеры проверяют ИИ-системы на устойчивость к промпт-инъекциям, обходу механизмов защиты, утечкам данных через модель и другим сценариям атак, описанным в OWASP Top 10 for LLM Applications.

- Построение процессов LLMSecOps: помощь компаниям, активно разрабатывающим и эксплуатирующим ИИ-системы, в интеграции требований безопасности в жизненный цикл таких решений.

- Создание корпоративного ИИ-фреймворка: разработка внутренних политик, процессов, требований к использованию ИИ, а также определение ролей и зон ответственности сотрудников.

- Подготовка к сертификации ISO/IEC 42001: помощь в оценке готовности, выстраивании необходимых процессов и подготовке к прохождению внешнего аудита на соответствие первому международному стандарту, устанавливающему требования к системе менеджмента искусственного интеллекта.

Новый комплекс услуг разработан для организаций, которые уже используют или только планируют внедрять технологии искусственного интеллекта в корпоративные системы, клиентские сервисы, аналитические платформы, процессы разработки ПО и другие бизнес-процессы.

Читайте также: Только 27% привилегированных учетных записей в российских компаниях защищены цифровыми сертификатами