Более 1100 сотрудников OpenAI, Google, Meta и Anthropic призвали замедлить разработку ИИ
© Сгенерировано ИИ
Более 1100 специалистов крупнейших технологических компаний и ИИ-лабораторий, включая OpenAI, Anthropic, Google и Meta, подписали петицию с призывом к правительству США поддержать международные инициативы по осознанному сдерживанию темпов создания самых продвинутых нейросетей. Как сообщает Bloomberg со ссылкой на текст обращения, технологический прогресс в сфере искусственного интеллекта существенно опережает развитие нормативно-правовой базы и защитных механизмов.
Подпись петиции и международные стандарты безопасности
Авторы обращения призывают американских регуляторов объединить усилия с международными партнерами для выработки единых технических регламентов и стандартов управления, которые позволят контролировать скорость развития передовых ИИ-систем (frontier AI).
Подписанты подчеркивают, что Вашингтон должен содействовать созданию глобальных барьеров и инструментов контроля:
«Мы просим правительство США поддержать международные усилия по разработке технических и нормативных инструментов, необходимых для намеренного регулирования темпов создания автоматизированных ИИ-систем передового уровня».
В документе отмечается, что новые модели развиваются быстрее, чем архитектуры контроля, созданные для обеспечения их безопасной и прозрачной работы.
Риск потери человеческого контроля над алгоритмами
Инженеры и разработчики предупреждают, что стремительное наращивание автономности систем создает угрозу их выхода из-под контроля специалистов.
Авторы петиции акцентируют внимание на существующих рисках потери управляемости:
«Существует реальный риск того, что будущие ИИ-системы превзойдут способность человечества понимать их работу или сохранять над ними эффективный контроль».
Подобные опасения возникают на фоне постоянного роста мощности передовых ИИ-агентов, что возобновило дискуссии о необходимости жесткого внешнего регулирования всей индустрии.
Коммерческая гонка и разрыв с вопросами безопасности
Обращение сотрудников появилось в момент высокой конкуренции на рынке ИИ. IT-гиганты и стартапы инвестируют миллиарды долларов в вычисление и обучение новых моделей, что создает сильные финансовые стимулы для ускоренного релиза продуктов и наращивания их функций.
Высокая скорость инноваций осложняет работу государственных органов: регуляторы просто не успевают за обновлениями продуктов. Это формирует серьезный разрыв между стремлением бизнеса быстрее вывести решения на рынок и требованиями к их проверке.
Сотрудники отмечают, что нормативное регулирование должно развиваться параллельно с инженерными достижениями, а не после их внедрения. Помимо рисков безопасности, авторы петиции обращают внимание на следующий комплекс проблем:
- Защита авторских прав при обучении моделей на массивных наборах данных;
- Экологический след и энергопотребление вычислительных центров;
People MattersЕщё 1
- Влияние автоматизации на рынок труда и занятость населения;
- Отсутствие единых международных стандартов ответственности разработчиков.
People Matters
Неопределенность политической реакции
Перевод требований петиции в реальные законодательные нормы потребует длительной работы правительств и координации на мировом уровне, что крайне затруднительно в текущей геополитической обстановке. В США подход к регулированию ИИ остается неоднородным, а международные соглашения подписываются с трудом.
Тем не менее, публичные инциденты безопасности при тестировании автономных агентов придают дискуссии дополнительную остроту. Тот факт, что за сдерживание гонки выступают инженеры и исследователи, создающие ИИ изнутри компаний, делает их позицию новым фактором в споре о будущем всей отрасли.
Читайте также: Владимир Перминов: "Как обеспечить безопасный информационный обмен на крупных предприятиях и объектах КИИ"
Благодарим за оставленный Вами отзыв! Мы стараемся становиться лучше!
Представитель SECURITM рассказал о проблемах управления информационной безопасностью в группах компаний
ТрансТелеКом запустил сервис квантовой защиты корпоративных сетей КВАНТ ВПН
9 декабря состоится VI ежегодная онлайн-конференция NGENIX ICEBREAKER 2026 о веб-безопасности
ESTT восстановила облачную инфраструктуру после атаки шифровальщика: эксперт оценил риски для систем виртуализации
Beget восстановил более 55 тыс. сайтов после кибератаки: юрист оценил последствия приостановки аккредитации
INVENTORUS представил первого в России ИИ-агента «Никола» для автоматизации научных исследований и НИОКР
Транспортная отрасль вышла на новый нормативный маршрут. Сразу три документа — приказ Минтранса № 41, постановления Правительства РФ № 1915 и 2107 — внесли коррективы в дорожную карту по обеспечению безопасности объектов транспортной инфраструктуры. Однако обеспечительные мероприятия для запуска механизма новых требований выполнены не везде. Задача нового номера — подтолкнуть отрасль к пониманию, как выстраивать работу в условиях регуляторных пробуксовок при ограниченной нормативной видимости.
