Губернатор Калифорнии Гэвин Ньюсом 18 сентября подписал распоряжение, которое запускает проверку новых мер безопасности ИИ. К 16 ноября ведомства должны представить рекомендации о том, следует ли обязать разработчиков передовых моделей создать проверяемый механизм аварийного отключения. Пока такого требования нет: сначала власти оценят техническую осуществимость и возможную эффективность поправок.

В тот же список вошли регулярные проверки внутри лабораторий независимыми организациями, внешняя проверка отчётов о рисках и расширение перечня обязательных сообщений об инцидентах. В него предлагают включить случаи потери контроля над системой. Рекомендации готовит Government Operations Agency вместе со службой по чрезвычайным ситуациям и привлечёнными экспертами.

Распоряжение также ускоряет применение уже принятых законов. Правила для независимых проверяющих организаций должны быть готовы к 1 мая 2027 года, а работа государственного реестра аудиторов — перейти к следующему этапу до 1 декабря 2027-го. Немедленное изменение состоит именно в этих сроках и обязательной подготовке предложений: полномочий отключать модели документ не создаёт.

Власти штата указывают, что в Калифорнии базируются 32 из 50 крупнейших частных компаний в сфере ИИ. Поэтому возможные поправки затронут не периферийный рынок, а значительную часть разработчиков передовых моделей. Но до ноябрьских рекомендаций неизвестно, сочтут ли «выключатель» технически действенным, какие системы он охватит и кто сможет его задействовать.