ИИ в атомной энергетике: между доверием и гарантиями

18 августа 2025, 08:29

© Росатом

На конференции «Автоматизация: история, реальность, будущее» директор Института системного программирования РАН, академик Арутюн Аветисян, выступил с критическим анализом современных тенденций в области искусственного интеллекта (ИИ).

Его доклад затронул ключевые вопросы безопасности, доверия и практического применения ИИ в высокорисковых отраслях, таких как атомная энергетика.

Разделение понятий ИИ 
Аветисян подчеркнул необходимость чёткого разделения между «сильным ИИ» и современными технологиями, которые являются лишь инструментами цифровизации. По его мнению, сильный ИИ в ближайшие десятилетия невозможен, а текущие системы — это всего лишь «следующий этап цифровизации».

Безопасность и контроль
В атомной энергетике, по словам академика, исключение человека из контура управления недопустимо. Хотя есть процессы, где ошибка не приведёт к смерти людей и там можно применять ИИ, ускоряя принятие решений. 

Тем не менее, по мнению учёного, можно прийти к будущему, где человек будет находиться только в контролируемой зоне. Например, в транспортной отрасле, управляя «тысячами машин», а в атомной энергетике руководя «всеми атомными станциями».

Однако, в таком мире существует хрестоматийный риск, где ребёнок выбегает на дорогу в майке с надписью «стоп», что приводит к коллапсу. Поэтому человека полностью убирать из контролируемой зоны нельзя, хотя она отлична для разных отраслей. 

Учёный призвал сосредоточиться на создании «доверенных технологий», где гарантии безопасности превалируют над слепым доверием к алгоритмам.  

— К сожалению, мы слышим из очень высоких трибун, что если ещё мы не ускоримся, то мы принципиально проиграем в конкуренции. А моя позиция, что если мы ещё чуть-чуть ускоримся, мы можем до этой конкуренции не дожить просто, — заявил Аветисян.

Практические шаги
Докладчик рассказал о создании в России консорциума по доверенному ИИ, куда вошли ведущие научные и отраслевые организации, включая Росатом. Он призвал коллег сосредоточиться на конкретных задачах: разработке регламентов, управлении рисками и создании цифровых двойников для обучения моделей.

Также академик раскритиковал «футурологические споры» о скором появлении сильного ИИ, сравнив их с дискуссиями о вечном двигателе. Он призвал научное сообщество избегать эмоциональных дебатов и сосредоточиться на прикладных исследованиях.