Губернатор Калифорнии Гэвин Ньюсом подписал SB 574, который устанавливает отдельные правила использования генеративного ИИ адвокатами и арбитрами. Адвокат не может поручать системе юридическую практику вместо себя и обязан сообщать суду об использовании ИИ при подготовке всех подаваемых документов.

Ответственный за документ адвокат должен лично проверить каждую ссылку на судебное решение или норму закона — в том числе предложенную ИИ. Закон также требует принимать разумные меры для проверки результатов работы системы и исправлять ошибки или выдуманные сведения. Конфиденциальные, персональные и другие непубличные данные нельзя вводить в сервис, если доступ к ним не ограничен самим адвокатом и уполномоченными лицами.

Для арбитров правило жёстче: им запрещено передавать ИИ любую часть принятия решения. Если система дала информацию за пределами материалов дела, арбитр должен заранее раскрыть это сторонам и, насколько возможно, позволить им высказаться.

Как пишет Reuters, это первый закон штата США, специально регулирующий использование ИИ адвокатами и арбитрами. Опрошенные агентством юристы отмечают, что часть требований повторяет уже действующие нормы профессиональной этики. По их оценке, личная проверка увеличит объём работы, особенно для небольших фирм, но вряд ли остановит внедрение ИИ.

Ранее суды уже наказывали адвокатов за непроверенные материалы: DOK рассказывал, как защитник в Нью-Мексико получил штраф за документ с выдуманными ChatGPT свидетелями. SB 574 не запрещает юристам пользоваться ИИ — он прямо оставляет проверку, конфиденциальность и решение за человеком.