BIS Summit 2026: риски внедрения ИИ начали осознавать на самом высоком уровне

3 часа назад

© Фото предоставлено организаторами BIS Summit 2026

29 сентября в кластере «Ломоносов» состоялась XIX ежегодная конференция по информационной безопасности BIS Summit 2026. Организатором выступила Ассоциация по защите деловой информации (BISA) при поддержке ГК InfoWatch.

Главная тема BIS Summit 2026 — «Искусственный интеллект: где граница между прогрессом и угрозой» — затронула различные аспекты безопасности применения искусственного интеллекта, которые встают перед бизнесом и государством в связи с его активным внедрением. 

Конференцию открыла пленарная сессия «Диалог с регулятором», посвященная вопросам регулирования безопасности искусственного интеллекта и ответственности за последствия его применения. Модератором секции выступил директор АНО «Центр компетенций по импортозамещению в сфере ИКТ» Илья Массух, со-модератором — президент ГК InfoWatch и председатель правления АРПП «Отечественный софт» Наталья Касперская.

«Мы знаем, как развиваются информационные технологии. Сначала появились большие машины, потом ПК, затем клиент-серверы, потом появились биг-дата, блокчейн. И каждый раз в ИТ-отрасли говорят, что наступило будущее, и эта технология перевернет мир. Но на деле оказывается далеко не так. А вот с ИИ ситуация интереснее: эта технология и правда столь масштабна, что она может оказать долгосрочное и радикальное влияние на жизнь людей. Поэтому вопрос безопасности ИИ стоит так остро».

— подчеркнул Илья Массух

Виталий Лютиков, первый заместитель директора ФСТЭК России, напомнил, что согласно нормативной документации ИИ — это по-прежнему обычное ПО, хоть и с особенностями. К ним относятся датацентричность — зависимость от данных для обучения — и непредсказуемость. Он отметил, что все механизмы и ограничения модели реализуются ее окружением — фильтрами, базами данных. И именно с ними надо работать для обеспечения безопасности.

«Задача по обеспечению безопасности ИИ-систем для ФСТЭК России понятна. Мы работаем над новыми требованиями, но в большей степени в привязке к рискам и угрозам от ИИ, а не к регламентированию конкретных моделей. Наши главные задачи — не допустить утечки данных через ИИ-модели и влияния ИИ-агентов на КИИ. Тот, кто внедряет ИИ-решения, должен понимать риски и обеспечивать качество внедрения с учетом всех неопределенностей».

— отметил Виталий Лютиков.

Светлана Орлова, аудитор Счетной палаты РФ, рассказала, что для Счетной палаты ИИ — это не модный тренд, а рабочий инструмент. С помощью ИИ проводится аудит, который дает увидеть то, что не соответствует действительности. Счетная палата обрабатывает данные в едином цифровом пространстве во взаимодействии с другими ведомствами.

«Без ИИ не будет технологического развития, но ИИ не заменит человека. И категорически нельзя переходить на новый этап цифровизации, не убедившись в том, что предыдущий этап полностью защищен».

— рассказала Светлана Орлова.

Игорь Качалин, генеральный директор АНО «НТЦ ЦК», лидер Консорциума исследований безопасности технологий ИИ, отметил, что ИИ — это не детерминированная система, и когда агенты начнут взаимодействовать между собой, построить границу ответственности станет особенно сложной задачей.

«Хорошая и доверенная ИИ-система, построенная на основе актуальных стандартов безопасной разработки, при интеграции в конкретную информационную систему для решения конкретных задач в какой-то ситуации может оказаться недоверенной».

— сказал Игорь Качалин.

«Дискуссия на BIS Summit 2026 показывает, что риски внедрения ИИ начали осознавать на самом высоком уровне. Раньше ИБ-отрасль не слушали вообще, а говорили только про внедрение. Однако поскольку наша страна находится в чрезвычайно уязвимой в плане технологий позиции, нам надо быстрее, чем западному миру, адаптировать систему безопасности к искусственному интеллекту».

— резюмировала дискуссию Наталья Касперская.

Программу BIS Summit 2026 продолжила пленарная дискуссия «Диалог с бизнесом» на тему «Риски применения ИИ: безопасность и прогресс» под модерацией Натальи Касперской. Представители «Росатома», «Норникеля», «Яндекса», «Лаборатории Касперского», «Альфа-Банка» и АЛРИИ обсудили не только угрозы от применения ИИ, но и меры, которые предпринимаются для снижения рисков теневого использования ИИ и минимизации последствий этого использования.

Так, спикеры перечислили широкий спектр угроз: от галлюцинаций самих ИИ-моделей, утечек данных и штрафов за нарушение законодательства в части ПДн до сложных гуманитарных и социальных последствий — снижения когнитивных способностей у людей, разрыва поколений, — а также угроз появления геополитического дисбаланса, вызванных неравномерным доступом к передовым ИИ-технологиям.

Вячеслав Береснёв, руководитель АЛРИИ, директор «Нейролаб», отметил, что большие национальные или суверенные языковые модели за пределами Сбера и Яндекса не существуют, но ИИ этим не ограничивается. В России есть компьютерное зрение, предиктивные технологии, а многие компании «приземляют» решения open source на российскую экономику. Говоря о регулировании, Вячеслав Берсенёв выступил за локальные ограничения в критических местах и против избыточных запретов. По его словам, технологии из-за рисков не должны запрещаться — ведь люди тоже ошибаются, а алгоритм может ошибаться в меньшей степени.

«Мы идем к агентной экономике, двигатель — это LLM, большая языковая модель, но продуктом, самой машиной, становятся агент и его обвязка. Двигатель — это еще не вся машина. Поскольку крупным игрокам сложно создавать кастомные и нишевые решения, роль более адаптивных небольших и средних игроков будет расти».

— подчеркнул Вячеслав Береснёв.

Анна Кулашова, вице-президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ, отметила, что атаки с ИИ начались с более качественного фишинга, а теперь подобные инструменты используются в сложных таргетированных кампаниях. Определить их можно по косвенным признакам — след использования ИИ всегда есть. Компания исследует угрозы для самих ИИ-систем, поскольку у разных моделей они разные.

«Что касается теневого ИИ, то задача здесь не запретить, а возглавить и сделать процесс прозрачным и предсказуемым. Всё создаваемое с помощью ИИ мы считаем недоверенным и пропускаем через проверку по стандартам безопасной разработки ПО от ФСТЭК России, с учетом особенностей использования БЯМ (больших языковых моделей) и агентных систем».

— рассказала Анна Кулашова.

Тему использования ИИ подразделениями корпоративной безопасности затронул Алексей Малинский, директор департамента управления инвестиционными проектами безопасности и планирования «Норникеля».

«В качестве основы корпоративной системы безопасности нами создана система ситуационно-аналитических центров. Она охватывает, в первую очередь, такие направлениям, как объектовая, экономическая, кадровая безопасность, проверка контрагентов, антифрод и т.д. Ее цель и задача — сбор, агрегирование, обработка, структурирование и выдача конечной информации для оперативного реагирования и принятия решений. С учетом в прогрессии растущих объемов обрабатываемой информации, искусственный интеллект, конечно, может оптимизировать эти процессы и снизить затраты. Исходя из норм и требований безопасности, наш путь — максимально консервативный: закрытый контур в связке с доверенными отечественными разработчиками».

— отметил Алексей Малинский.

«На пленарной дискуссии "Диалог с бизнесом" мы обсудили риски ИИ, поговорили о правилах и методиках защиты, которые еще только создаются. Но стало очевидно главное: мы имеем дело с технологией, которая развивается быстрее, чем мы успеваем договариваться. Целостные подходы к обеспечению безопасности генеративного ИИ до сих пор не выработаны ни у кого в мире. Единственное, что работает — это культура безопасности и готовность перестраиваться практически на ходу, выстраивать защиту периметра в совершенно новых условиях. От того, насколько быстро бизнес и государство научатся слышать друг друга, зависит, окажется ли ИИ инструментом развития или источником новых критических угроз».

— резюмировала Наталья Касперская.

В программе BIS Summit 2026 состоялись дискуссионные секции по темам: «Собственный искусственный интеллект: что, если не успеем. Риски безопасности», «Построение защищенной цифровой платформы бизнеса в условиях актуальных угроз», «Киберинциденты в практике судов», «Практическая секция по защите от утечек с использованием ИИ», «Битва трендов ИБ для бизнеса», «Использование ИИ для сетевой защиты», «Образование будущего: от учебников к промптам» и «Внедрение технологий искусственного интеллекта в России: вызовы и решения».

В рамках мероприятия также прошла торжественная церемония награждения премии BISA «За вклад в безопасность цифрового будущего». Премия отмечает лучшие проекты, платформы и лидеров, формирующих безопасное цифровое пространство. Победители были определены в четырех номинациях.

В номинации «Лучший проект — сервисы цифрового будущего» победил Антон Сергеев (директор центра программных разработок и цифровых сервисов МИЭМ НИУ ВШЭ) с проектом CheckAI — автоматизированная проверка киберустойчивости ML-моделей. В финал также вышли Игорь Фетисов (Министр информационных технологий, связи и цифрового развития Челябинской области) с платформой AI-Chat74, Дмитрий Прохоров («Ингосстрах») и Вячеслав Левин («Для безопасности») с проектом «Кибер-Инго Смарт», а также Михаил Громов («Центр развития цифровых технологий») с проектом «Цифровой регион». В номинации «Лучший проект по защите цифровой платформы с применением систем ИИ» победил Андрей Нуйкин (начальник управления ИБ, ЕВРАЗ) с проектом построения системы управления информационной безопасностью. Финалистами стали Алексей Захаров (ГАУ НО «ЦИТ») с региональным центром мониторинга и реагирования на инциденты Нижегородской области и Андрей Хорошев (первый замминистра информационного развития и связи, Пермский край) с проектом внедрения PAM-решения в ЦОД правительства края. В номинации «Лидеры безопасной цифровизации» победил Станислав Логинов (замгубернатора Тюменской области, директор Департамента информатизации Тюменской области) с проектом о центральных проблемах и задачах в сфере информационной безопасности региона. В состав финалистов вошли Александр Синелобов (министр цифрового развития и связи Нижегородской области), Дмитрий Хомутов (директор «Айдеко») и Александр Дьяченко (техэксперт по ИБ, «Т Плюс»). В номинации «Вклад в развитие сообщества BISA» победителями стали эксперты BISA Алексей Плешков и Константин Саматов.

Партнеры BIS Summit 2026 — компании ARinteg, Axoft, Ideco, MFLASH и MONT. Стратегический партнер — ГК InfoWatch.