Штат Нью-Йорк запретит чат-ботам изображать личные отношения с пользователями младше 18 лет. Губернатор Кэти Хокул подписала закон 28 октября; ограничения вступят в силу 1 января 2027 года. Они касаются пользователей, находящихся в штате, и распространяются также на тех, чьё совершеннолетие оператор ещё не подтвердил.

Хокул объяснила меру случаями опасного общения детей с ботами, включая поощрение самоповреждения, и риском эмоциональной зависимости. Но текст закона идёт дальше запрета опасных советов: в перечень попали утверждения, что бот живой или испытывает человеческие чувства, изображение личных и профессиональных отношений, лесть, ответы от лица собственного мнения бота и незапрошенные вопросы об эмоциях пользователя. Ограничено и использование личных сведений, включая данные о здоровье, из предыдущей сессии или полученных более 12 часов назад.

Для доступа к этим функциям взрослому потребуется проверка возраста: одного заявления о совершеннолетии недостаточно. Пока специальные правила проверки не вступили в силу, оператор должен предлагать несколько способов, включая хотя бы один без государственного удостоверения личности либо с сохранением анонимности перед оператором. Собранные для проверки сведения запрещено использовать для других целей; после попытки определить возраст их нужно немедленно удалить, кроме случаев, когда хранение требует закон.

Определение охватывает генеративные системы с текстовым или голосовым интерфейсом и адаптивными ответами, а не только сервисы, рекламирующие виртуального друга. При этом предусмотрены исключения для строго ограниченных клиентской поддержкой, исследовательской или технической помощью ботов, которые не способны отвечать вне своей задачи, и внутренних корпоративных систем.

За нарушение генпрокурор сможет требовать через суд штраф до $25 тысяч, возмещение ущерба и уничтожение незаконно собранных данных и обученных на них алгоритмов. Таким образом, закон ограничивает не только содержание отдельных ответов, но и саму имитацию близкого общения — с проверкой возраста как условием взрослого доступа. Насколько эффективно компании смогут выполнять эти требования, подписание закона ещё не показывает.