23 апреля 2021, 14:36
Правила предполагают четыре уровня рисков, вызванных использованием ИИ:
- Неприемлемый риск. К этой категории относятся ИИ-системы, которые могут представлять угрозу безопасности граждан и их правам: например, разработки, позволяющие манипулировать поведением пользователей. Подобные системы будут запрещены.
- Высокий риск. К таким системам относятся решения в области критической инфраструктуры (например, транспорт), медицины (роботизированная хирургия), образования, права и др. Отнесенные к этой категории разработки должны будут соответствовать строгим критериям безопасности (иметь четкую систему оценки рисков, контроль со стороны людей и др.)
- Умеренный риск. Пользователи таких ИИ-систем должны четко понимать, что взаимодействуют с машиной (например, чат-ботом), а не человеком.
- Минимальный риск. В эту категорию попадает большинство ИИ-систем: интеллектуальные спам-фильтры, видеоигры с поддержкой ИИ и так далее.
После принятия Европейским парламентом новых правил они станут действовать на территории всех стран ЕС.
Напомним, ранее стало известно о том, что Европарламент готовит поправки в законодательство, запрещающие применение искусственного интеллекта для массового видеонаблюдения за людьми и оценки социального поведения. Исключением станут системы военного назначения.
Фото — pxhere.com
Журнал RUБЕЖ
Пожарная безопасность
Транспортная безопасность
