Microsoft и Hugging Face 22 октября представили ThinkingBox Training — открытые инструменты для обучения ИИ-агентов по результату их действий. В опыте с Qwen3.8-27B число заданий, выполненных правильно во всех 20 попытках, выросло с 38 до 107 из 507. При этом задач, которые модель смогла решить хотя бы однажды, стало немного меньше.

ThinkingBox проверяет, что агент действительно изменил в базе: например, правильно ли оформил возврат или сохранил бронирование, если для изменения требовалось согласие руководителя. Сообщения "готово" и корректного вызова инструмента недостаточно. Ту же проверку авторы превратили в сигнал обучения: правильное конечное состояние приносит награду, лишние или пропущенные изменения — нет. Большинство проверок выполняется программно; для части требований используется модель-судья.

После дообучения средняя доля успешных попыток выросла с 51,70% до 60,78%. Этот результат уже содержался в препринте, обновлённом 1 октября. Новый выпуск добавляет код обучения и расчёт повторяемости по тем же сериям испытаний. Задания без единого сбоя в 20 запусках теперь составляют 21,1% вместо 7,5%, однако охват хотя бы одной успешной попыткой сократился с 453 до 446 заданий. Агент стал стабильнее справляться с частью работы, но не расширил общий набор решаемых задач.

Код доступен под лицензией MIT. Он позволяет отбирать учебные задания, дообучать модель и проверять полученный результат. При этом исходная выборка из 187 учебных задач не опубликована: в репозитории есть примеры для проверки работы инструментов, а собственный набор нужно предоставить отдельно. Испытания проводились на других задачах, но в той же системе ThinkingBox с имитируемым пользователем.

Оценку выполнили сами разработчики. Двадцать удачных запусков не гарантируют безошибочной работы дальше, а эксперимент ещё не показывает надёжность в действующей компании. Его практический вклад — доступный способ учить агента отвечать за изменения в системе и проверять, повторяется ли успех.