Минцифры развернет специализированный киберполигон для проверки безопасности систем с искусственным интеллектом

1 час назад

© freepik.com

Ведомство приступает к созданию испытательной площадки для решений, которые планируется применять на объектах критической инфраструктуры и в системах, наделенных функцией самостоятельного принятия решений. Об этом сообщили источники РБК, знакомые с планами министерства.

Назначение полигона и связь с сертификацией

Новая площадка станет обязательным этапом для ИИ-систем, претендующих на сертификацию по линии ФСТЭК и ФСБ России. Соответствующие требования заложены в правительственном законопроекте «О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти, и внесении изменений в отдельные законодательные акты». Полигон позволит моделировать различные сценарии атак и оценивать устойчивость интеллектуальных алгоритмов к внешнему вмешательству.

Четыре уровня критичности

Законопроект вводит классификацию ИИ-решений по степени потенциального ущерба. Выделено четыре категории:

• минимальный уровень — системы, не влияющие на безопасность либо оказывающие пренебрежимо малое воздействие.
• ограниченный уровень.
• высокий уровень — решения, эксплуатируемые на объектах критической информационной инфраструктуры.

Критический уровень — системы, способные причинить вред жизни и здоровью граждан, нанести урон безопасности государства, а также автономные комплексы, функционирующие без непосредственного участия человека.

Присвоение уровня критичности возложено на Национальный центр искусственного интеллекта в сфере госуправления при правительстве РФ. Эта же структура будет вести реестр сертифицированных ИИ-систем.

Этапы внедрения и сферы применения

Конкретные требования к процедуре сертификации пока не утверждены — их предстоит закрепить в отдельными нормативными актами. На текущий момент единственным обязательным условием для разработчиков остается включение программного обеспечения в реестр отечественного ПО Минцифры.

В аппарате первого вице-премьера Дмитрия Григоренко пояснили, что ключевая цель законопроекта — минимизировать риски использования искусственного интеллекта в областях, где цена ошибки особенно высока. К приоритетным сферам отнесены здравоохранение, судопроизводство, обеспечение общественной безопасности и образование.

При этом, по сведениям «Российской газеты», распространять новые требования на коммерческие ИИ-решения, не работающие с государственными данными и критической инфраструктурой, пока не планируется.

Ранее «RUБЕЖ» сообщал, что в России разрабатывают законопроект о «гибком» регулировании искусственного интеллекта.