Нейросеть под контролем

18 сентября 2026 года в Научно-исследовательском институте информатизации, автоматизации и связи (НИИАС) прошел научно-технический совет, на котором было предложено ограничить самообучение ИИ на железной дороге: интеллектуальные системы управления необходимо проектировать так, чтобы их поведение оставалось в рамках предсказуемых и доказуемых алгоритмов без неконтролируемого самообучения. Журнал RUБЕЖ изучил выступления на совете и выделил шесть взаимосвязанных трендов по проблемам внедрения ИИ-инструментов на железнодорожном транспорте.   

Текст подготовлен по материалам доклада «Отказобезопасность интеллектуальных систем управления железнодорожным транспортом» в рамках научно-технического совета НИИАС (докладчики: Ефим Розенберг, первый заместитель генерального директора АО «НИИАС», Игорь Шубинский, генеральный директор ЗАО «ИБТранс», заместитель руководителя научно-технического комплекса АО «НИИАС» и др.).

В 2026–2027 годах внедрение искусственного интеллекта (ИИ) является одним из ключевых драйверов цифровой трансформации холдинга ОАО «РЖД». Стратегия развития направлена на повышение безопасности, исключение негативного влияния человеческого фактора и планомерный переход на отечественное программное и аппаратное обеспечение. По открытым данным, технологии ИИ уже интегрированы более чем в 33 системы компании, охватывая логистику, управление движением и техническое обслуживание инфраструктуры.  

Ключевые направления внедрения ИИ в железнодорожной отрасли (2026–2027 гг.)

Беспилотное движение и автоматизация управления

АО «НИИАС» совместно с РЖД активно развивает технологии автономного управления подвижным составом. В 2027 году планируется запуск первого полностью беспилотного поезда «Ласточка» (уровень автоматизации GoA4, без машиниста в кабине) на Московском центральном кольце (МЦК). В период 2026–2029 годов системами автоматического управления планируется оснастить 139 электропоездов. Главной целью является повышение безопасности за счет бортовых систем технического зрения (БСТЗ) и дублирующих инфраструктурных комплексов.

Промышленный ИИ, компьютерное зрение и роботизация

В 2026 году РЖД завершила успешные испытания робота-расцепщика вагонов на сортировочной станции Челябинск-Главный, разработка которого велась при непосредственном участии специалистов НИИАС. Для задач обнаружения посторонних предметов и контроля состояния пути НИИАС развивает комплекс «ЧИЖ», который был успешно адаптирован для работы на отечественных нейрочипах (НТЦ «Модуль») в рамках импортозамещения.Также в эксплуатацию вводятся интеллектуальные ассистенты, такие как голосовой робот «АКИМ», основанный на ансамбле нейросетевых моделей.

Управление движением и предиктивная аналитика

Алгоритмы ИИ применяются для построения взаимоувязанных графиков движения поездов с учетом различных временных горизонтов и задач интервального регулирования. Разрабатываются и внедряются системы предиктивной аналитики для автоматической диагностики габаритов, веса и качества крепления грузов в реальном времени. 

Высокоскоростное движение (ВСМ)

В рамках подготовки к запуску высокоскоростных магистралей специалисты НИИАС разрабатывают Российскую систему управления движением поездов для ВСМ с элементами ИИ. Стендовые испытания этой системы активно проводятся в 2026 году, а получение специализированных составов для испытаний на инфраструктуре ВСМ запланировано на лето 2027 года.

Тренды внедрения ИИ-инструментов на железнодорожном транспорте

Тренд 1. Избыточное доверие оператора к ИИ-ассистенту

ИИ-ассистент, формально не принимающий решений, радикально меняет поведение человека-оператора. Оператор перестает самостоятельно анализировать ситуацию и доверяет выводам ассистента. Это создает риск отказа по общей причине: если ассистент систематически ошибается в определенных условиях, несколько операторов одновременно принимают неверные решения.

Меры противодействия — принудительное замедление взаимодействия (оператор сначала принимает решение сам, затем видит рекомендацию для сверки), фоновый режим ассистента (вмешательство только при значительном расхождении), визуализация степени уверенности модели вместо «да/нет». 

Тренд 2. Управление рисками на всем цикле

Для реализации подхода (переход от устранения отдельных недостатков моделей к непрерывному управлению рисками на всем жизненном цикле) создана облачная платформа анализа и разработки доверенных ИИ-систем, охватывающая проверку датасетов, оценку устойчивости к атакам и выявление дрейфа данных. Подготовлено расширение ГОСТ Р 56939-2024 «Защита информации. Разработка безопасного программного обеспечения. Общие требования» с учетом специфики ИИ, включая процессы формирования датасетов и безопасного обучения моделей. Цель этих решений — не абсолютная гарантия безопасности, а предотвращение типовых ошибок и обеспечение предсказуемого поведения ИИ в условиях неопределенности.

Тренд 3. Контроль ИИ-безопасности на трех уровнях 

Классические стандарты функциональной безопасности писались для детерминированных алгоритмов с явно читаемым кодом. Нейронная сеть — «черный ящик», и доказать ее безопасность традиционными методами нельзя. Предложен иной подход: функции безопасности выносятся в отдельный прозрачный модуль, логически и физически независимый от нейросети. Контроль строится по трехуровневой схеме: физический (работоспособность сенсоров), входной (качество данных), выходной (неопределенность предсказаний ансамбля моделей). При выходе параметров за границы система предсказуемо переходит в защитное состояние. Контур контроля внедрен в эксплуатируемую систему и прошел экспертизу аккредитованного центра

4. Симуляционное моделирование и смешанные обучающие данные

Симуляторы используются не только для генерации обучающих данных, но для полноценного проигрывания технологических операций: маневровая работа, сцепка, расцепка, движение по маршруту. Подход «Цифровой Полигон» обеспечивает полный цикл TestOps — от синтетических сценариев до автоматизированной верификации. Смесь реальных и синтетических данных компенсирует нехватку редких и опасных сценариев в обучающих выборках. Синтетика дополняет, но не заменяет реальное тестирование.

5. Автоматизация анализа рисков с помощью LLM

Большие языковые модели (Large Language Models) можно применять для автоматизации поиска конкретных сценариев эксплуатации автомобиля, которые необходимы для определения риска, связанного с потенциальными отказами автомобильных систем. Здесь применима пятислойная модель сценария: геометрия дороги, инфраструктура, временные ограничения, динамика движения, параметры среды. LLM генерирует описания сценариев под контролем инженера и оценивает их, а окончательная оценка риска остается за экспертом. Результаты валидации: 84% полного совпадения с экспертной оценкой, 96% — с отклонением не более одного уровня.

Требования к ML-компонентам задаются по схеме из пяти вопросов: что компонент выдает, где и в каких сценариях, какая задержка допустима, какие ошибки возможны и как обрабатываются, что делать при неопределенности. Ключевой практический вывод: недостаточно простой точности обнаружения пешехода, важно выполнение ML-компонентом набора требований, относящимся к различным особенностям его функционирования — времени обнаружения, точности определения координаты, вероятности ложноположительных и ложноотрицательных детекций.

6. Создание единого языка и новых стандартов безопасности для ИИ-систем

На данный момент в отрасли нет единого понимания базовых терминов: разработчики, эксплуатанты и регуляторы вкладывают разный смысл в слова «надежность», «безопасность» и «ИИ». Без утвержденных единых терминов и новых методик сертификации невозможно легально внедрять беспилотные поезда и системы автоведения. Регулятор (например, Росжелдор) должен четко понимать, по каким именно критериям проверять нейросеть, чтобы выдать ей разрешение на работу с реальными пассажирами и грузами.

Необходимо четко разграничить понятия «Надежность» и «Функциональная безопасность». Надежность — это способность системы работать стабильно и без сбоев (например, датчик передает данные 99,9% времени). Функциональная безопасность — это способность системы не допустить катастрофы даже при возникновении сбоя (например, если камера ИИ «ослепла», система должна не игнорировать это, а перевести поезд в безопасный режим и остановить его). Кроме того, необходимы принципиально новые стандарты проверки таких систем перед допуском на реальные пути.

Читайте также на сайте журнала RUБЕЖ: «Транспортная безопасность меняет фокус: антитеррор, иностранный контроль и беспилотная угроза».