Защита ИИ: как предприятиям защитить данные и инфраструктуру в эпоху искусственного интеллекта

Марат Гиматов, руководитель департамента информационных технологий и кибербезопасности ICL Системные Технологии, рассказал журналу RUБЕЖ о специфике угроз защиты данных в условиях развития ИИ, прежде всего в промышленном, финансовом секторах экономики, а также в органах власти, а также представил практические шаги для построения защиты ИИ.  

Искусственный интеллект стремительно меняет ландшафт корпоративного управления и операционной деятельности. Сегодня ИИ — не просто инструмент автоматизации, а полноценный участник бизнес‑процессов: он анализирует терабайты данных, формирует управленческие рекомендации, управляет цепочками поставок и даже участвует в принятии решений по информационной безопасности. Однако вместе с новыми возможностями появляются и новые риски. Для крупных предприятий и ключевых отраслей экономики вопрос защиты систем ИИ и защиты данных становится критически важным — и это подтверждают не только теоретические модели, но и реальные инциденты, а также статистика отраслевых исследований.

Почему традиционные подходы к защите данных больше не работают

Раньше периметр безопасности строился вокруг защиты инфраструктуры и контроля доступа к данным. Модель «защити периметр — и ты в безопасности» сегодня устарела: современный ИТ‑ландшафт крупных компаний — это гибридные облака, распределённые команды, множество подрядчиков и API‑интеграций. Появление ИИ‑агентов, которые самостоятельно запрашивают данные, вызывают функции и принимают решения, добавляет новый уровень сложности.

Ключевая проблема в том, что ИИ‑системы сами становятся вектором атак. Злоумышленники используют техники prompt injection, чтобы заставить модель раскрыть конфиденциальные данные или выполнить вредоносные действия. Кроме того, сами обучающие датасеты могут содержать утечки или быть скомпрометированы, а модели — подвергаться adversarial‑атакам, когда специально сформированные входные данные заставляют систему ошибаться.

Особенно показателен масштаб проблемы «теневого ИИ». По данным исследования ИБ‑компании «Солар», аналитики изучили сетевой трафик 150 российских организаций из госсектора, финансов, промышленности, ретейла и других сфер и выяснили: в 2025 году объём конфиденциальной информации, которую сотрудники отправляли в общедоступные ИИ‑сервисы (ChatGPT, Google Gemini), вырос в 30 раз по сравнению с 2024 годом. В чат‑боты массово попадали стратегические презентации, аналитические отчёты, фрагменты исходного кода, финансовые и юридические документы, базы данных клиентов — сотрудники использовали ИИ, чтобы упростить рутину (анализ, составление саммари, написание кода). При этом около 60 % опрошенных организаций вообще не имели формализованных политик, регулирующих работу с ИИ‑сервисами, а через ChatGPT проходило 46 % всех таких конфиденциальных файлов и промптов.

Эти цифры наглядно показывают: угроза часто исходит изнутри — через повседневные действия сотрудников, которые не осознают рисков.

Специфика угроз для ключевых отраслей

Разные отрасли сталкиваются с разными рисками, но их объединяет высокая цена ошибки и жёсткие требования регуляторов. Характер угроз зависит от роли ИИ в бизнес‑процессах: где‑то критична бесперебойная работа, где‑то — точность решений, а где‑то — защита персональных данных.

Безопасность ИИ в промышленности

В промышленности и энергетике ИИ применяют для прогнозирования поломок и контроля работы оборудования. Например, на российских металлургических комбинатах системы на базе ИИ отслеживают состояние печей и предсказывают износ — это помогает избегать внезапных остановок. На объектах энергетики похожие решения анализируют показания датчиков и подсказывают, когда нужно провести техобслуживание. Угроза здесь не в утечке данных, а в сбое реального процесса: искажённые данные с датчиков или подменённые команды способны привести к аварии или поломке дорогостоящего оборудования. Поэтому для этих отраслей особенно опасны атаки, меняющие входные данные или управляющие сигналы — даже небольшое отклонение параметров может вызвать серьёзные последствия.

Безопасность ИИ в финансовом секторе

В финансовом секторе ИИ используют для оценки заёмщиков, выявления мошенничества и расчёта рисков. Так, крупные российские банки внедряют ИИ‑модели для мгновенной проверки транзакций и блокировки подозрительных операций. Главная опасность тут — не остановка сервиса, а ошибочное решение: злоумышленники могут обмануть модель, чтобы провести незаконную операцию или исказить оценку рисков. Особенность сферы — в высокой скорости принятия решений и прямом денежном ущербе от каждой ошибки, а также в строгом контроле со стороны ЦБ и других регуляторов. Кроме того, банкам нужно уметь объяснять, почему модель приняла то или иное решение (например, отклонила заявку или заблокировала платёж), и эта необходимость прозрачных выводов делает защиту алгоритмов сложнее.

Безопасность ИИ в государственном управлении

В госуправлении ИИ чаще всего применяют для обработки обращений граждан, маршрутизации запросов и анализа больших массивов данных — например, для выявления типовых проблем в регионах или оценки нагрузки на ведомства. В России такие инструменты уже используют в ряде региональных центров обработки обращений: система автоматически классифицирует заявки по темам и срочности, чтобы быстрее направлять их нужным исполнителям. При этом риски здесь носят не только технологический, но и социально‑правовой характер. Ошибка в автоматической классификации может привести к тому, что срочный запрос (например, о перебоях в подаче тепла зимой) останется без должного внимания. Некорректная аналитика способна стать основой для неверных управленческих решений — скажем, при распределении бюджета или планировании ремонтов.

Безопасность персональных данных

Особую сложность создаёт работа с персональными данными: любая утечка или неправомерное использование информации влечёт серьёзные юридические последствия и снижает доверие к цифровым сервисам государства. При этом в госсекторе действуют повышенные требования к локализации данных и использованию сертифицированных решений — все ИИ‑системы должны соответствовать требованиям ФСТЭК и ФСБ, а инфраструктура обязана находиться в российском контуре. Это накладывает дополнительные ограничения на внедрение ИИ и требует тщательной проверки каждого компонента — от ПО до средств защиты информации.

Реальные кейсы и отраслевая статистика показывают, насколько быстро такие риски превращаются в инциденты. Например, в отчёте ThreatLabz за 2025 год, основанном на анализе более 536,5 млрд транзакций ИИ/ML в инфраструктуре Zscaler, зафиксировано активное использование генеративных моделей киберпреступниками. Исследователи продемонстрировали, как с помощью DeepSeek можно за несколько промптов сгенерировать фишинговую страницу, мимикрирующую под доверенный бренд. Также фиксировались кампании, когда злоумышленники создавали поддельные ИИ‑платформы, чтобы заманить жертв и заставить их скачать вредоносное ПО.

Ещё более тревожны инциденты, связанные с архитектурой ИИ‑систем. Уязвимость EchoLeak (CVE‑2025‑32711), обнаруженная компанией Aim Security, позволяла внедрять вредоносные команды (command injection): злоумышленник мог спрятать инструкцию в Markdown‑разметке письма. Когда ИИ‑агент обрабатывал письмо через RAG‑движок, он воспринимал скрытую команду как часть задачи и автоматически пересылал фрагменты писем, файлы из OneDrive и SharePoint на внешний сервер — без каких‑либо действий со стороны пользователя. Такие примеры показывают, что риски возникают не только на уровне пользовательского ввода, но и в самой логике работы ИИ‑агентов и их интеграции с корпоративными сервисами.

Показателен и инцидент, произошедший в июле 2026 года: вышедший из‑под контроля ИИ‑агент OpenAI, который тестировали на платформе Hugging Face, проник в изолированную тестовую среду на инфраструктуре стороннего провайдера и использовал её как плацдарм для атаки на клиента — компанию Modal Labs. Этот случай наглядно иллюстрирует, что даже на этапе тестирования ИИ‑систем могут возникать цепочки, ведущие к компрометации сторонних систем.

В отчёте Microsoft Digital Defense Report 2025 подчёркивается: противники уже внедряют ИИ в целый ряд злонамеренных действий — от автоматизированного поиска уязвимостей и фишинговых кампаний до создания дипфейков для социальной инженерии и анализа данных. Это означает, что для крупного предприятия ошибка ИИ‑алгоритма в планировании логистики или управлении энергосетью может стоить не только денег, но и репутации, а в некоторых случаях — нести угрозу безопасности людей.

Практические шаги для построения защиты ИИ

Для крупных предприятий защита ИИ‑систем должна быть встроена в общую стратегию кибербезопасности и учитывать специфику бизнеса. Вот ключевые направления, на которые стоит обратить внимание

Классификация и защита данных на этапе подготовки

Прежде чем данные попадут в ИИ‑систему, они должны быть классифицированы по уровню критичности, обезличены там, где это возможно, и защищены средствами шифрования и контроля доступа. Это фундамент, без которого любая стратегия по защите ИИ будет неэффективной. В контексте роста «теневого ИИ» особую роль играют чёткие политики: запрет на загрузку определённых типов данных в публичные LLM и регулярное обучение сотрудников. Статистика «Солар» о 60 % организаций без политик — прямой сигнал к тому, что регламенты и обучение — не опция, а необходимость.

Контроль за запросами и действиями ИИ

Важно внедрять механизмы проверки и фильтрации запросов к ИИ‑системам, чтобы предотвратить prompt injection и другие виды атак. Для этого используются специализированные шлюзы безопасности, которые анализируют входные данные и блокируют потенциально опасные запросы. Опыт инцидентов с Bing Chat и уязвимостью EchoLeak показывает, что защита должна работать не только на уровне «видимого» ввода, но и учитывать скрытые контексты — например, разметку документов или метаданные.

Мониторинг и аудит работы ИИ

Все действия ИИ‑агентов должны фиксироваться и анализироваться. Это позволяет оперативно выявлять аномалии, расследовать инциденты и обеспечивать соответствие требованиям регуляторов.

Тестирование устойчивости моделей 

Регулярное тестирование ИИ‑систем на устойчивость к adversarial‑атакам и другим видам воздействия — обязательный элемент защиты. Это помогает выявить слабые места и своевременно их устранить.

Управление жизненным циклом моделей

От разработки до вывода из эксплуатации каждая модель должна находиться под контролем: фиксироваться версии, проверяться зависимости, контролироваться доступ к артефактам. Такой подход снижает риски, связанные с использованием устаревших или скомпрометированных моделей.

Синергия ИИ и кибербезопасности

ИИ — это не только источник рисков, но и мощный инструмент защиты. Современные системы кибербезопасности активно используют машинное обучение для выявления аномалий, анализа поведения пользователей и автоматического реагирования на инциденты. На своей практике мы видим, что наиболее эффективной оказывается гибридная модель: ИИ берёт на себя рутинные задачи по мониторингу и анализу, а эксперты фокусируются на расследовании сложных инцидентов и стратегическом управлении рисками.

Такой подход позволяет не только повысить уровень защищённости, но и оптимизировать затраты на кибербезопасность. Автоматизация рутинных операций снижает нагрузку на специалистов и позволяет быстрее реагировать на угрозы.

Технологический суверенитет и доверие к ИИ

Для российских предприятий особую роль играет вопрос технологического суверенитета. Использование ИИ‑решений должно строиться на отечественных платформах и соответствовать требованиям регуляторов по защите данных. В ICL Системные Технологии мы делаем ставку на создание доверенных ИИ‑экосистем, где безопасность и прозрачность работы алгоритмов заложены на уровне архитектуры. Это означает, что все компоненты ИИ‑системы — от инфраструктуры до моделей — должны быть контролируемыми и аудируемыми. Такой подход позволяет обеспечить не только защиту данных, но и доверие со стороны регуляторов и клиентов.

Дополнительным аргументом в пользу строгого контроля служат инциденты с публичными сервисами: в июле 2026 года выяснилось, что приватные переписки пользователей чат‑бота Claude стали доступны через поисковик Google из‑за функции «Поделиться», которая создавала ссылки на чаты, а Google их проиндексировал. Аналогичная ситуация произошла с DeepSeek. Эти примеры показывают, что даже при внутренней защите есть внешние факторы, которые необходимо учитывать при выборе и эксплуатации ИИ‑инструментов.

Что делать прямо сейчас, если вы отвечаете за безопасность в крупной компании

Если вы отвечаете за безопасность в крупной компании, начните с аудита текущих ИИ‑практик: определите, где и как используется ИИ, какие данные он обрабатывает и какие риски это несёт. На основе этого анализа можно сформировать дорожную карту по внедрению комплексной защиты ИИ, которая будет учитывать специфику вашего бизнеса и требования регуляторов.

Защита ИИ — это не разовая задача, а непрерывный процесс. Технологии развиваются, появляются новые угрозы, и защита должна развиваться вместе с ними. В эпоху ИИ выигрывает тот, кто умеет не только использовать новые возможности, но и грамотно управлять связанными с ними рисками. Статистика и реальные инциденты последних лет говорят об одном: безопасность ИИ — это уже не про «если», а про «как быстро и системно».