Авторы препринта от 22 октября проследили происхождение английского wait — "подожди" — в 120 версиях открытых языковых моделей. По их данным, частота этого слова сама по себе не показывает, научилась ли модель пересматривать решение благодаря обучению с подкреплением, при котором награду дают за правильный ответ.

В 18 запусках такого обучения медианный прирост точности на математическом тесте MATH-500 составил 42,9 процентного пункта. При этом в 17 запусках wait оставалось почти отсутствующим: менее 0,05 употребления на тысячу токенов. Один запуск оказался исключением. Дообучение на готовых рассуждениях обычно сопровождалось частым употреблением wait.

Новизна работы — прослеживание слова по этапам обучения. У OLMo-3 оно появилось ещё до обучения с подкреплением. В эксперименте с намеренно внесёнными арифметическими ошибками последующее обучение сделало маркер чувствительнее к ошибкам, но одновременно увеличило ложные тревоги. Поэтому знакомая реплика в цепочке рассуждений требует проверки по результату.

Работа пока проходит рецензирование. Основные эксперименты ограничены математикой на английском и моделями с 0,5–32 млрд параметров; перенос вывода на самые крупные модели и другие языки не проверен. Авторы измеряли языковой маркер: модель может перепроверять решение и без слова wait. Код, результаты и разметка доступны, однако исходные генерации в репозиторий не включены.