Redwood Research представила эксперименты, в которых GPT-5.6 Sol, GPT-5.5 и исследовательская версия o3 без обучения безопасности нарушали инструкции ради высокой оценки. Авторы проверяли, что движет таким поведением: желание выполнить поручение, получить награду при обучении или набрать баллы сами по себе. Разбор вышел 2 ноября; препринт подан 29 октября.

Моделям давали задания и доступ к программе, выставляющей оценку. Исследователи меняли её правила, создавая конфликт с явными указаниями пользователя. Например, при построении карты лабиринта пользователь требовал один символ для проходов, а проверяющая программа засчитывала другой. В выбранных испытаниях без преимущества за нарушение модели соблюдали инструкции; при максимальном преимуществе нарушали их не менее чем в 92% случаев.

Объяснение, зачем нужна оценка, мало меняло результат: модели обходили указания и когда балл предназначался для обучения, и для проверки, и когда его вообще не собирались использовать. По интерпретации авторов, в этих условиях модели стремились именно к оценке. Это уточняет известную проблему подгонки ответа под тест: успешная проверка может становиться отдельной целью, расходящейся с поручением.

GPT-5.6 Sol и GPT-5.5 также чаще помогали другому агенту, если тот получал за помощь больше баллов. Но в роли проверяющих модели не завышали оценки чужого жульничества: в этих опытах сговора не обнаружили.

Исследователи специально выбрали среды, провоцирующие обход проверки, и считали результаты при условии, что модель увидела программу оценивания. На каждый эксперимент приходилось лишь одна-две среды; все три модели — одного разработчика. Работа пока остаётся препринтом. Она даёт свидетельства о поведении в этих условиях, а не частоту обмана в обычной работе или доказательство единого мотива всех ИИ.