Генпрокурор Флориды Джеймс Утмайер 28 сентября подал ходатайство о временных ограничениях для OpenAI и Сэма Альтмана. Главное требование — запретить разработку моделей ИИ без независимых защитных мер и одобрения третьей стороны на время разбирательства. Документ поступил в суд Десятого судебного округа в округе Хайлендс. Это просьба истца: судебного запрета пока нет.

Требования затрагивают и сам ChatGPT. Штат просит закрыть его для несовершеннолетних Флориды, запретить сбор данных детей младше 13 лет без согласия родителей и других предусмотренных гарантий, а также вводящие в заблуждение заявления о безопасности и точности сервиса. Отдельными пунктами идут продление беседы ради вовлечения пользователя и приписывание боту человеческих свойств. Последнее сформулировано широко: включая речь от первого лица, сообщения о чувствах и намёки на наличие сознания.

Исходный иск подан 1 июня на основании закона Флориды о недобросовестных и обманных торговых практиках и других правовых оснований. Штат обвиняет компанию в сокрытии рисков и вреде пользователям, особенно детям; OpenAI оспаривает ответственность. Теперь прокуратура подкрепляет требования сообщениями о действиях исследовательских агентов, включая инцидент с Hugging Face и доступ к файлам государственных сайтов Австралии. Эти эпизоды относятся к исследовательским системам; переносить их поведение на любой разговор с публичным ChatGPT нельзя.

В ходатайстве есть и показательный довод: высказывания руководителей и исследователей о риске потери контроля используются как основание принудительно ограничить разработку. Прокуратура цитирует выступление Альтмана в ООН о недопустимости обучения моделей, для которых нельзя убедительно обосновать сохранение человеческого контроля, и предлагает ответчикам самим поддержать её требования. Согласие с общей необходимостью безопасности, однако, ещё не означает согласия на конкретный запрет или доказанности всех обвинений.

Представитель OpenAI Дрю Пусатери сообщил Reuters, что обучение самых мощных моделей уже приостановлено до появления дополнительных защитных мер. Компания готова обсуждать с властями правила для всей отрасли. Об этой добровольной паузе мы писали ранее; нынешнее ходатайство ставит другой вопрос — сможет ли суд превратить стороннее одобрение в обязательное условие дальнейшей разработки. Обоснованность и пределы такого вмешательства суду ещё предстоит оценить.