SoftMediaLab представила платформу для контроля безопасности ИИ-агентов

3 часа назад

© Сгенерировано ИИ

Российская компания SoftMediaLab («СофтМедиаЛаб») вывела на рынок специализированную систему CyberAgentReview («КиберАгентРевью») предназначенную для мониторинга и аудита действий автономных ИИ-агентов. Как сообщает CNews, решение позволяет крупному бизнесу безопасно внедрять нейросетевых помощников в свои бизнес-процессы.

Зачем нужен контроль ИИ-агентов?

В отличие от обычных чат-ботов, современные ИИ-агенты способны самостоятельно взаимодействовать с корпоративными системами — от отправки писем до проведения транзакций. Это создает новые векторы угроз, которые и призвана закрыть новая платформа.

Возможности системы:

- Предотвращение «галлюцинаций»: ИИ анализирует логику действий агента и блокирует решения, выходящие за рамки заданных сценариев.

- Защита от утечек: система контролирует передачу данных, предотвращая попадание конфиденциальной информации во внешние нейросетевые модели.

- Прозрачный аудит: платформа сохраняет детальную историю всех действий ИИ, что необходимо для расследования инцидентов и соблюдения требований регуляторов.

Актуальность и тренды

Запуск продукта соответствует прогнозам аналитического агентства Gartner, которое назвало безопасность ИИ-агентов одним из главных трендов кибербезопасности 2026 года. Внедрение подобных «защитных барьеров» (Guardrails) становится обязательным условием для компаний, переходящих к массовому использованию генеративного ИИ в промышленной эксплуатации.

Читайте также: ГК «Солар» предупреждает о росте активности фишинговых ресурсов в период майских праздников