OpenAI 22 октября выпустила Decisions API из беты и добавила встроенное подключение к голосовому GPT-Live. Этот интерфейс на базе GPT-6 Luna помогает приложению выбрать следующий шаг: задать уточняющий вопрос, перенаправить обращение или передать его специалисту. Разработчики могли пользоваться публичной бетой с 6 октября, поэтому нынешний выпуск — развитие уже доступного сервиса.

Decisions возвращает выбор из заданных вариантов, оценку вероятности или балл. Это полезно там, где приложению нужен короткий сигнал для действия: например, голосовой собеседник должен решить, продолжать упражнение или уточнить ответ ученика. По словам технического директора сервиса изучения языков Speak Эндрю Сю, в их тестировании интеграция с GPT-Live сократила время до следующего действия с 1,4 до 0,13 секунды. Это измерение клиента, приведённое OpenAI, а не обещание такой задержки в любом приложении.

К выпуску добавили кэширование повторяющегося контекста и увеличили число вопросов в одном запросе с 200 до 400. Документация уточняет, что эти вопросы обрабатываются независимо: если следующий зависит от предыдущего ответа, нужны отдельные запросы. Базовая цена — $0,10 за миллион входных токенов, чтение из кэша — $0,01; за выходные токены платы нет, а запись кэша и некоторые режимы обработки тарифицируются отдельно.

Сама идея отдельного классификатора уже знакома: в сентябре мы писали о Jev, который тоже выдаёт ограниченные ответы вместо свободного текста. Здесь существенное изменение — готовая связка такого выбора с голосовым интерфейсом OpenAI.

Ограничить форму ответа проще, чем гарантировать правильность решения. Вероятность в ответе модели остаётся её оценкой: OpenAI рекомендует проверять пороги на размеченных примерах с учётом цены ошибочного срабатывания и пропуска. Для голосового приложения выигрыш понятен — меньше пауз между репликой и действием; качество самого выбора всё ещё нужно измерять на его задачах.