Верховный суд Нью-Мексико 9 сентября оштрафовал адвоката Стивена Ааронса на $5 000 за апелляционный документ с вымышленными свидетелями. Защитник использовал ChatGPT при обжаловании пожизненного приговора за убийство и признал, что не проверил результат перед подписью и подачей в суд.

В решении суда перечислены четыре полностью выдуманных свидетеля, в том числе двое полицейских. Другим свидетелям приписали показания, которых они не давали, — об угрозах, одежде и внешности стрелявшего. Искажения затронули и ссылки на судебную практику. О недостоверных сведениях и разбирательстве по поводу своей работы адвокат клиенту не сообщил.

Как пишет Reuters, на заседании 21 августа Ааронс объяснил, что передал ChatGPT расшифровку процесса и другие материалы, рассчитывая получить "безупречное резюме". Позднее он заявил агентству, что недооценил способность модели выдумывать факты, назвал случившееся непреднамеренной ошибкой и выразил раскаяние. Суд, напротив, усмотрел в его объяснениях недостаток раскаяния и заботы о клиенте.

Одним штрафом дело не ограничилось. Ааронсу запретили выступать перед Верховным судом штата до завершения дисциплинарного разбирательства. Поданные письменные позиции по апелляции исключили из рассмотрения: их предстоит подать заново, а клиента будет представлять государственный защитник. Само обжалование приговора продолжается. $5 000 адвокат должен перечислить в фонд защиты клиентов коллегии адвокатов Нью-Мексико в течение 30 дней.

Это санкция за непроверенный судебный документ, а не запрет пользоваться ИИ. Свидетели оказались вымышленными, но подпись под документом — настоящей. Вместе с ответственностью за неё.