OpenAI 29 октября обновила Model Spec — публичный документ о том, как должны вести себя её модели GPT. Правила теперь организованы вокруг пяти ценностей: верности человеческим намерениям, минимизации вреда, честности и прозрачности, самостоятельности человека и заботы. Компания добавила отдельные положения об использовании контекста и убрала большую часть подробных требований к стилю ответов.

Главный вопрос документа — сколько самостоятельности давать ИИ, когда буквальная команда не объясняет всей задачи. Агенту, который совершает действия, приходится учитывать последствия и недосказанные пожелания. Но догадка о том, чего человек на самом деле хочет, не должна превращаться в разрешение решать за него. В новой редакции прямо разграничены понимание намерений и полномочия: контекст помогает толковать поручение, но сам по себе не даёт права выходить за его пределы.

Это касается и памяти о пользователе. Например, прежняя любовь к ответам списком не должна мешать написать два абзаца, если именно их попросили сейчас. Личные сведения, уместные в частном разговоре, нельзя автоматически переносить в письмо другим людям. При неопределённости модель должна учитывать давность, источник и чувствительность контекста — иногда уточнять, иногда обозначать предположение, иногда вовсе не использовать найденную деталь.

Со стилем OpenAI оставляет больше свободы предпочтениям пользователя и ситуации. При этом сохраняется требование объективной подачи по умолчанию: человек может прямо попросить определённую точку зрения, но модель не должна угадывать желаемую позицию лишь ради приятного ответа.

Полномочия самого пользователя тоже ограничены: обязательные границы задаёт OpenAI, внутри них действуют инструкции разработчика приложения и затем поручения пользователя. Обновление объясняет, как компания намерена разрешать эти конфликты; оно не означает, что GPT уже научилась делать это надёжно. OpenAI признаёт, что работающие модели пока не полностью соответствуют Model Spec, а результаты новых методов обучения этим принципам обещает представить позже.