Baseten 20 ноября выпустила bison-1 и groundhog-1 — модели для классификации, оценки и выбора следующего действия в приложении. Обе принимают текст и изображения, а окно контекста в API выросло до 131 072 токенов: это в восемь раз больше, чем у прежних моделей компании. Доступ открыт через сервис Baseten; разработчик также опубликовал веса для самостоятельного запуска.

Таким моделям можно поручить определить категорию обращения, проверить документ по заданным условиям или выбрать, какому инструменту передать задачу. Они возвращают варианты и вероятности, а не сочиняют свободный ответ. Сам подход уже знаком по классификатору Jev. Здесь его применение расширяют более длинный вход и возможность задавать вопросы об изображениях — например, проверять содержимое снимка по указанным критериям.

Обе новинки построены на Gemma 4. У bison-1 — 31 млрд параметров, у groundhog-1 — 26 млрд, из которых при обработке токена задействуется около 4 млрд. В таблице Baseten цены составляют соответственно $0,10 и $0,035 за миллион токенов — столько же, сколько у прежних mammoth-1 и elephant-1. Получается расширение входных возможностей в тех же ценовых категориях, а не объявленное снижение тарифов.

По данным разработчика, на момент выпуска bison-1 заняла первое место среди 19 моделей принятия решений в Artificial Analysis Decision Index v2.1 с результатом 76 баллов. В проверке знаний AA-Omniscience она при этом была лишь одиннадцатой из 19; groundhog-1 ещё не получила оценку этого индекса. Это не «точность 76%»: методика индекса объединяет шесть испытаний и учитывает правильность выбора, уверенность модели и устойчивость к переформулировкам. Условия для обычных языковых моделей отличаются способом получения ответа — их просят выдать вероятности в структурированном JSON; сам индекс проверяет текстовые задания и не подтверждает качество обработки изображений на всём окне 128K.

Для разработчика полезен выбор между готовым API и собственным развёртыванием bison-1 или groundhog-1. Карточки моделей указывают Apache 2.0 для основы Gemma 4 и MIT для изменений Baseten. Но ограниченный формат ответа не устраняет ошибочного решения. Прежде чем автоматически действовать по выбранной категории или вероятности, качество и порог уверенности нужно проверить на задачах своего приложения.