Clover открыла диффузионную генерацию текста для самостоятельного запуска
Новость опубликована 30.10.2026 ⦁ источник
Редакционная иллюстрация, созданная с помощью ИИ · Изображение создано ИИ
DiffuSpace выпустила Clover-35B-A3B-Preview — языковую модель, которая заполняет несколько фрагментов текста параллельно. Веса доступны под Apache 2.0: модель можно скачать, изменять и использовать в собственных приложениях. Это открытая реализация диффузионной генерации для программирования и работы с инструментами.
Clover построена на Qwen3.6-35B-A3B: из 35 млрд параметров при обработке токена активны около 3 млрд. По описанию архитектуры, ответ создаётся блоками: модель начинает с незаполненных позиций и параллельно подставляет фрагменты, в которых достаточно уверена. Готовый блок становится контекстом для следующего. Такой способ уменьшает зависимость от строго последовательного вывода по одному токену; контекстное окно рассчитано на 128 тысяч токенов.
На внутренних агентских заданиях DiffuSpace получила 515 токенов в секунду на одном NVIDIA H200 против 365 у сопоставляемой конфигурации Qwen с ускорением DFlash2. В тесте исправления ошибок программ SWE-bench Verified разработчик сообщает результат 73,6%. Это собственные измерения команды: скорость выдачи текста не равна скорости полного выполнения задания, а таблица сравнивает выбранные модели, включая Mercury 2.5, а не все актуальные системы.
Опубликованы код запуска и дообучения, предусмотрены реализации для SGLang и llama.cpp. Полные веса в BF16 занимают примерно 69 ГБ, сверх которых нужна память для вычислений. Облачный чат пока предлагает подать заявку на доступ. Практическое изменение — возможность самостоятельно исследовать и развёртывать эту архитектуру; заявленные преимущества ещё предстоит проверить на задачах сторонних пользователей.
AI Clover-35B-A3B-Preview, DiffuSpace, Диффузионные языковые модели