В Сенате США обсуждают законопроект, который обяжет разработчиков передовых ИИ-моделей предотвращать катастрофические риски и позволит правительству остановить выпуск модели, признанной небезопасной. Об этом 11 сентября сообщило Reuters со ссылкой на двух помощников сенаторов и участника переговоров. Точная конструкция федерального запрета ещё не согласована.

Предлагаемая «обязанность проявлять должную осторожность» (duty of care) должна касаться наиболее мощных моделей. Переговорщики рассматривают проверку с участием государственных экспертов и национальных лабораторий: среди рисков названы помощь в создании биологического или ядерного оружия и сложные кибератаки.

Разработчики смогут оспорить запрет в федеральном суде. Одновременно федеральные нормы могут вытеснить законы штатов по тем же рискам — то есть правила выпуска моделей хотят сосредоточить на уровне Вашингтона. Для лабораторий вроде OpenAI, Anthropic и Google это может превратить добровольные проверки безопасности в обязательное условие релиза.

Пока это переговоры, а не готовый закон: текста и соглашения нет, полномочия правительства ещё обсуждаются. До промежуточных выборов 3 ноября у Сената остаётся лишь три рабочих недели, у Палаты представителей — одна, поэтому принятие инициативы не гарантировано.