Cloud.ru выложил в открытый доступ инструмент Guardrails Filter для защиты данных при работе с нейросетями

5 часов назад

© Сгенерировано ИИ

Облачный провайдер Cloud.ru сделал исходный код своего сервиса Guardrails Filter общедоступным. Как сообщает издание SecPost со ссылкой на заявление компании, инструмент предназначен для маскирования чувствительной информации в запросах к большим языковым моделям (LLM). Опенсорс-версия работает независимо от сервисов Cloud.ru — ее можно развернуть на собственных серверах организации и использовать с алгоритмами любых провайдеров.

Как работает фильтрация и замена данных

Guardrails Filter интегрируется в цепочку между корпоративными приложениями и языковой моделью, выполняя роль защитного прокси-сервера. Инструмент анализирует входящий и исходящий трафик в режиме реального времени:

- Маскирование: перед отправкой промпта во внешнюю нейросеть система находит персональные данные, пароли, API-ключи и конфиденциальные сведения, заменяя их анонимными синтетическими значениями.

- Деанонимизация: после получения ответа от модели фильтр автоматически восстанавливает исходные данные перед передачей итогового текста пользователю.

В открытой версии доступны предустановленные шаблоны поиска, а также возможность настраивать персональные правила под специфику конкретного бизнеса — например, для обнаружения внутренних номеров договоров или клиентских ID. Дополнительно в инструмент встроены модуль логирования событий безопасности и тестовый режим Ghost Mode для отладки правил без влияния на основной трафик.

Высокая точность и варианты установки

Эффективность работы фильтра подтверждена результатами на публичном бенчмарке pii-bench:

- Показатель по метрике F1 составил 93,1 балла.

- Точность определения конфиденциальных элементов достигла 99,9%.

Исходный код Guardrails Filter выложен в репозиториях GitHub и GitVerse. Разработчикам доступны две конфигурации для развертывания: автономная версия Standalone и формат ExtProc для интеграции с прокси-серверами.

Читайте также: MAR CONSULT: Международный интернет-трафик — 47% откажутся платить, 28% выберут «серые» схемы