Более 1100 сотрудников OpenAI, Google, Meta и Anthropic призвали замедлить разработку ИИ

50 минут назад

© Сгенерировано ИИ

Более 1100 специалистов крупнейших технологических компаний и ИИ-лабораторий, включая OpenAI, Anthropic, Google и Meta, подписали петицию с призывом к правительству США поддержать международные инициативы по осознанному сдерживанию темпов создания самых продвинутых нейросетей. Как сообщает Bloomberg со ссылкой на текст обращения, технологический прогресс в сфере искусственного интеллекта существенно опережает развитие нормативно-правовой базы и защитных механизмов.

Подпись петиции и международные стандарты безопасности

Авторы обращения призывают американских регуляторов объединить усилия с международными партнерами для выработки единых технических регламентов и стандартов управления, которые позволят контролировать скорость развития передовых ИИ-систем (frontier AI).

Подписанты подчеркивают, что Вашингтон должен содействовать созданию глобальных барьеров и инструментов контроля:

«Мы просим правительство США поддержать международные усилия по разработке технических и нормативных инструментов, необходимых для намеренного регулирования темпов создания автоматизированных ИИ-систем передового уровня».

В документе отмечается, что новые модели развиваются быстрее, чем архитектуры контроля, созданные для обеспечения их безопасной и прозрачной работы.

Риск потери человеческого контроля над алгоритмами

Инженеры и разработчики предупреждают, что стремительное наращивание автономности систем создает угрозу их выхода из-под контроля специалистов.

Авторы петиции акцентируют внимание на существующих рисках потери управляемости:

«Существует реальный риск того, что будущие ИИ-системы превзойдут способность человечества понимать их работу или сохранять над ними эффективный контроль».

Подобные опасения возникают на фоне постоянного роста мощности передовых ИИ-агентов, что возобновило дискуссии о необходимости жесткого внешнего регулирования всей индустрии.

Коммерческая гонка и разрыв с вопросами безопасности

Обращение сотрудников появилось в момент высокой конкуренции на рынке ИИ. IT-гиганты и стартапы инвестируют миллиарды долларов в вычисление и обучение новых моделей, что создает сильные финансовые стимулы для ускоренного релиза продуктов и наращивания их функций.

Высокая скорость инноваций осложняет работу государственных органов: регуляторы просто не успевают за обновлениями продуктов. Это формирует серьезный разрыв между стремлением бизнеса быстрее вывести решения на рынок и требованиями к их проверке.

Сотрудники отмечают, что нормативное регулирование должно развиваться параллельно с инженерными достижениями, а не после их внедрения. Помимо рисков безопасности, авторы петиции обращают внимание на следующий комплекс проблем:

- Защита авторских прав при обучении моделей на массивных наборах данных;

- Экологический след и энергопотребление вычислительных центров;
People MattersЕщё 1

- Влияние автоматизации на рынок труда и занятость населения;

- Отсутствие единых международных стандартов ответственности разработчиков.
People Matters

Неопределенность политической реакции

Перевод требований петиции в реальные законодательные нормы потребует длительной работы правительств и координации на мировом уровне, что крайне затруднительно в текущей геополитической обстановке. В США подход к регулированию ИИ остается неоднородным, а международные соглашения подписываются с трудом.

Тем не менее, публичные инциденты безопасности при тестировании автономных агентов придают дискуссии дополнительную остроту. Тот факт, что за сдерживание гонки выступают инженеры и исследователи, создающие ИИ изнутри компаний, делает их позицию новым фактором в споре о будущем всей отрасли.

Читайте также: Владимир Перминов: "Как обеспечить безопасный информационный обмен на крупных предприятиях и объектах КИИ"