С 1 марта 2021 года начал действовать новый стандарт «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения»

02 марта 2021, 14:50

Документ опубликован на сайте Росстандарта. ГОСТ разработан Всероссийским научно-исследовательским институтом сертификации совместно с ООО «ТВпортал» и был внесён на рассмотрение ТК 164 «Искусственный интеллект».

В ведении к стандарту отмечено, что доверие к системам искусственного интеллекта является важнейшим условием, определяющим возможность применения этих систем при решении ответственных задач обработки данных. Примерами таких задач являются поддержка принятия врачебных решений, беспилотное управление транспортными средствами и некоторые другие, ошибки при решении которых могут привести к тяжким последствиям, связанным с угрозой для жизни и здоровья людей, серьезным экономическим и экологическим ущербом.

При этом под доверием понимается уверенность потребителя, и при необходимости, организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон в том, что система способна выполнять возложенные на неё задачи с требуемым качеством.

Кроме того, документом:

• определено понятие доверия к системам искусственного интеллекта;
• приведена классификация факторов, влияющих на качество и способность систем искусственного интеллекта вызывать доверие на стадиях жизненного цикла;
• формализована взаимосвязь качества и способности систем искусственного интеллекта вызывать доверие;
• приведена классификация основных способов обеспечения доверия к системам искусственного интеллекта.

В настоящем стандарте рассматриваются вопросы обеспечения доверия к системам искусственного интеллекта со стороны потребителей, результатов работы этих систем и, при необходимости, со стороны организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, на основе подтверждения их качества, включая:

- виды существенных характеристик систем искусственного интеллекта, подтверждение значений которых установленным требованиям обеспечивает доверие к этим системам;

- виды факторов, приводящих к снижению качества систем искусственного интеллекта;

- особенности соотношения понятий «качество систем искусственного интеллекта» и доверия к этим системам;

- особенности обеспечения доверия на стадиях жизненного цикла систем искусственного интеллекта. включая стадии создания и эксплуатации этих систем;

- вопросы обеспечения доверия на различных уровнях архитектуры систем искусственного интеллекта.

Стандарт распространяется на системы искусственного интеллекта, обеспечивающие решение конкретных практически значимых задач, и не может быть использован для систем «сильного» или «общего» искусственного интеллекта».

Фото — pixabay.com