Губернатор Калифорнии Гэвин Ньюсом 30 сентября подписал пакет законов об автоматизированных решениях на работе. С 1 июля 2027 года работодателю будет нельзя увольнять или дисциплинарно наказывать сотрудника, полагаясь только на рекомендацию такой системы. Если она стала главным основанием решения, результат должен подтвердить человек, а работник получит письменное уведомление.

SB 947 охватывает не только нейросети, но и статистические модели, аналитику данных и другие вычислительные процессы, которые выдают оценку, классификацию или рекомендацию. Если человек не может подтвердить вывод системы либо считает его неточным, неполным или вводящим в заблуждение, использовать его для наказания или увольнения нельзя. Сотрудник сможет запросить понятное описание собственных данных, на которых основывалась система. Это не запрет ИИ в кадровой работе: закон запрещает передавать алгоритму последнее слово.

Другой подписанный закон, SB 951, добавляет ИИ в калифорнийские правила о массовых сокращениях. Если система или иная автоматизация полностью либо в значительной части стала причиной сокращения, закрытия или переноса предприятия, в обязательном уведомлении нужно назвать затронутые профессии, автоматизируемые функции и тип технологии. Норма работает в рамках Cal/WARN: она касается предприятий как минимум с 75 работниками и массового увольнения не менее 50 человек за 30 дней, а не каждого отдельного сокращения.

Пакет ограничивает и цифровую слежку. AB 1883 запрещает работодателям применять ИИ для распознавания эмоций сотрудников и сбора нейронных данных; для отдельных федеральных авиационных, военных и оборонных контрактов предусмотрено узкое исключение. AB 1331 отдельно запрещает наблюдение за работниками в туалетах, сохраняя оговорки для добровольно взятых устройств, средств идентификации и безопасности.

Новые правила не доказывают, что автоматизированные оценки всегда ошибочны, и не останавливают замену части труда технологиями. Они оставляют работодателю право использовать систему, но закрепляют человеческую ответственность, раскрытие основания решения и возможность оспорить данные. За нарушение ключевых правил о решениях и слежке предусмотрены штрафы до 500 долларов за каждый эпизод.