Банк России выпустил рекомендации по безопасности ИИ в финансовой сфере

3 часа назад

© Изображение сгенерировано ИИ

Банк России представил первые методические рекомендации по обеспечению информационной безопасности при внедрении технологий искусственного интеллекта (ИИ) в финансовом секторе, сообщается на сайте Центрального банка Российской Федерации. 

Это дебютный официальный документ регулятора, который детально классифицирует риски применения ИИ-алгоритмов, описывает векторы атак злоумышленников на нейросети и предлагает комплексные защитные меры.

Контроль критических операций и принцип «человек в контуре»

В качестве ключевой меры защиты при использовании ИИ в критически важных процессах — в первую очередь, при проведении платежных и расчетных транзакций — регулятор рекомендует полностью исключить автономность систем. Все операции, проанализированные искусственным интеллектом в высокорисковых сегментах, должен в обязательном порядке верифицировать и подтверждать сотрудник финансовой организации. Этот шаг призван минимизировать риски ошибок алгоритмов и предотвратить скоординированные мошеннические транзакции.

Моделирование угроз и ответственность 

Согласно рекомендациям Центробанка, участникам финансового рынка предстоит оперативно разработать индивидуальные модели угроз и внутренние политики безопасности, регламентирующие работу со стеком ИИ. Персональную ответственность за подготовку, внедрение и соблюдение этих документов регулятор возлагает на профильного топ-менеджера — заместителя руководителя организации по вопросам защиты информации.

Безопасность ИТ-поставок и аудит ИИ-провайдеров

Отдельный раздел рекомендаций посвящен ИБ-рискам при интеграции внешних ИИ-сервисов от сторонних вендоров и облачных провайдеров. Банк России определил критерии оценки надежности поставщиков таких технологий. Одним из главных факторов доверия к сторонней ИИ-модели регулятор называет ее участие в публичных программах поиска уязвимостей (Bug Bounty) и программах скоординированного раскрытия брешей в безопасности.

Ранее RUБЕЖ сообщал, что Банк России фиксирует снижение ущерба граждан от кибермошенничества на 10,2%, но при этом отмечает рост атак на бизнес.