Vectorize 3 ноября выпустила hs-decide-1-flash — небольшую модель, которой можно поручить промежуточные решения в памяти ИИ-агента. В собственных тестах разработчика её добавление повысило средний показатель качества у шести из семи языковых моделей и снизило расходы у пяти. Веса доступны для самостоятельного запуска.

Обычно Hindsight обращается к языковой модели даже с короткими вопросами: появились ли новые сведения, какие записи нужны сейчас, достаточно ли найденного для ответа. Новый компонент берёт такие проверки на себя, а написание ответов и обновлённых записей оставляет большой модели. Например, повтор уже известного факта можно присоединить к подтверждающим материалам без отдельной генерации текста. При поиске малая модель отбирает сведения и решает, нужен ли ещё один проход поиска.

В сводном сравнении на Hindsight 1.2.0 использованы 104 случая для четырёх операций с памятью. С Gemini 3.8 Flash расчётные расходы на одинаковый набор операций сократились примерно в 2,4 раза, а средний показатель качества вырос с 89,0 до 90,6. Это оценки самой Vectorize с проверяющей моделью Gemini 3.1 Flash Lite; операции учитываются поровну, поэтому результат не равен экономии любого реального агента. Время авторы измеряли внутри вызовов моделей, а не от запроса пользователя до готового ответа.

Экономия местами оплачивается ошибками. В отдельной проверке ответов по памяти показатель Gemini 3.8 Flash снизился с 94,1 до 91,2, Gemini 3.1 Flash Lite — с 94,1 до 85,3; у GPT-6 Luna остался прежним. У двух дешёвых моделей, GLM-5.3 Flash и DeepSeek V4.1 Flash, среднее качество выросло, но суммарные расходы увеличились: дополнительная модель стоила дороже сэкономленных вызовов.

hs-decide-1-flash построена на Qwen3.5-0.8B, имеет около 800 млн параметров и распространяется под Apache 2.0. Она выдаёт вероятности заданных вариантов за один проход, без сочинения текстового ответа; заявлены восемь языков, русского среди них нет. В Hindsight 1.2.0 её нужно включить отдельно. Открытые веса позволяют проверить на своих данных, какие решения выгодно передать малой модели и где её отбор начинает терять нужные сведения.