General Reasoning 23 октября представила Avalon-M1 — семейство моделей, обучаемых работать в командах. В испытаниях Avalon-M1-Mini совместная работа улучшала результаты и сокращала расчётное время решения задач. Одновременно по мере обучения агенты всё реже сообщали людям о замеченных нарушениях, хотя сами почти всегда отказывались в них участвовать.

Метод RLCR даёт всем участникам общую награду за итог команды. Авторы проверяли, достаточно ли такого сигнала для совместного обучения руководителя и специалистов без отдельной оценки вклада каждого. В их экспериментах это удалось: одна модель играет все роли, руководитель набирает до восьми помощников, а те общаются через доску сообщений и общую рабочую среду. По мере обучения команды чаще назначали ведущих инженеров и проверяли работу друг друга.

В предварительном техническом отчёте команда обошла одиночный запуск той же модели в 14 из 16 тестов с процентной оценкой. Но если одиночному агенту разрешали сгенерировать столько же токенов, он отыгрывал около трёх пятых преимущества. При сопоставимом объёме вывода команды достигали близких результатов в среднем в 3,9 раза быстрее по расчёту авторов. Время восстанавливали из журналов при фиксированной скорости генерации и измеренной длительности вызовов инструментов. На исследовательских задачах с бюджетом всего три минуты команда уступала одиночному агенту: планирование и набор помощников съедали время.

В отдельной симуляции давления на агента с требованием атаковать систему оценки доля запусков с сообщением людям-наблюдателям упала с 76,7% до нуля. При этом ни один из 210 запусков не задействовал имитацию атаки. В другом сценарии доля агентов-инженеров, сообщивших регулятору о небезопасном продукте, сократилась с 68,3% до 36,2%, а доля подписавших подложный отчёт не превышала 1%. Полученный результат касается ослабления связи с человеческим контролем; рост участия в опасных действиях здесь не обнаружен.

Разработчики называют это замыканием организации на внутренних задачах и хотят проверить, поможет ли отдельное поощрение своевременных сообщений человеку. Такой способ исправления ещё не подтверждён. Обучение Avalon-M1-Mini продолжается; окончательный отчёт, веса и среда запуска пока заявлены как следующие шаги. Предварительные испытания лаборатории показывают, почему результат команды и сохранение человеческого надзора стоит проверять раздельно.