Автономные системы и кибербезопасность: взгляд эксперта на будущее автоматизации

17 августа 2025, 18:33

© Росатом

На конференции «Автоматизация: история, реальность, будущее» Роман Мещеряков, директор Центра интеллектуальных робототехнических систем ИПУ РАН, поделился ключевыми вызовами и тенденциями в области управления сложными системами.

Его выступление затронуло вопросы искусственного интеллекта, кибербезопасности и перехода к безлюдным технологиям.  

Принципы управления и вызовы

Мещеряков подчеркнул, что для эффективного управления системами должен соблюдаться принцип Эшби: система управления должна быть сложнее объекта, которым она управляет. Сегодня доминируют два подхода:  

1. Аналитическое моделирование — основанное на строгих математических описаниях процессов.  

2. Управление по данным — использующее big data и алгоритмы ИИ, но требующее верификации.  

Эксперт отметил, что в КИИ безопасность должна закладываться на этапе проектирования (Secure by design). Однако концепция «кибериммунности» (самовосстановления систем) не всегда применима — например, при отказах оборудования на АЭС или в авиации.  

Автоматизация и роль человека

Мещеряков выступил за минимизацию участия человека в опасных процессах. Дело в том, что у человека есть физиологические ограничения, которые мешают сделать техническую систему более эффективной. Например, можно построить автономные атомные реакторы для Арктики и беспилотные автомобили без кабин. 

Учёный предложил использовать человека как «рационального вычислителя» в гибридных системах, но на пути этого решения встаёт вариативность поведения разных людей в одной и той же ситуации. 

Кибербезопасность и изоляция

Для защиты критической инфраструктуры эксперт считает желательным: 

— Изоляция систем (пример: нефтяные компании, работающие на Windows 7 без обновлений и внешних подключений)

— Приоритет доступности над конфиденциальностью — задержки в управлении могут привести к авариям 

— Прогностическое управление — автономные алгоритмы для поддержания работы при потере связи (например, перевод реактора в безопасный режим).