1 ноября разработчик Heretic выпустил версию 2.0 — открытого инструмента, который меняет веса языковых моделей без обычного дообучения. В новый выпуск вошли метод Arbitrary-Rank Ablation (ARA), ставший основным, и подключаемые модули: пользователь может задавать собственные критерии желаемого поведения, по которым программа подбирает изменения.

Прежний основной подход — «аблитерация» — ослаблял выделенное направление в работе нейросети, связанное с отказами отвечать. ARA меняет матрицы отдельных частей модели, не предполагая заранее такого единственного направления. Это не открытие, сделанное сегодня: экспериментальная реализация обсуждалась с марта, а переработанный вариант вошёл в основную ветку кода 1 октября. Нынешний повод — его включение в выпущенную версию 2.0.

В документации перечислены настройки для уменьшения отказов, поддакивания, шуток и шаблонной манеры письма. Критерии оценки можно сочетать: добиваться выбранного изменения и одновременно ограничивать отклонение от прежних ответов на контрольных примерах. Таким образом, владелец доступных весов получает больше способов настраивать саму модель на своём оборудовании. Эти возможности зависят от модели, примеров и выбранной оценки; список настроек не доказывает одинакового успеха во всех задачах.

Проект доступен под AGPL-3.0. Переход с версии 1.x требует обновить конфигурацию; часть исследовательских функций из Heretic удалена, их предполагаемая замена — отдельный проект Lophius.

Снижение числа отказов или поддакиваний само по себе не означает, что ответы стали правильнее. Выпуск подтверждает доступность нового инструмента настройки, но сохранение знаний и полезных навыков после изменения весов нужно проверять отдельно: универсального подтверждения для Heretic 2.0 опубликованные материалы не дают.