Thinking Machines Lab открыла веса Inkling 2 Small 12 ноября. При первом выпуске 5 ноября модель работала через сервис Tinker с закрытыми весами; теперь файлы можно скачать с Hugging Face. Это новый этап доступа к той же модели: разработчики получили возможность разворачивать и дообучать её за пределами сервиса создателя.

Репозиторий модели публичный, без обязательного запроса разрешения на скачивание, с указанной лицензией Apache 2.0. Проверка ссылки на один из основных файлов весов без авторизации вернула успешный ответ сервера. Полный пакет редакция не скачивала и не запускала. Открытие файлов даёт возможность самостоятельно проверять и менять модель, но само по себе не подтверждает качество её ответов.

Название Small здесь относительно: Inkling 2 Small содержит 594 млрд параметров, из которых при обработке токена задействуются 17 млрд. Она принимает текст и изображения и выдаёт текст. По требованиям авторов, основному варианту NVFP4 нужен кластер как минимум с 500 ГБ суммарной видеопамяти — например, две NVIDIA B300 или четыре H200. Для альтернативного MXFP8 указано минимум 800 ГБ.

Для самостоятельного развёртывания опубликованы инструкции для SGLang, vLLM, TokenSpeed и Unsloth. Поэтому практическое изменение прежде всего касается команд с серверными ускорителями: использовать Inkling теперь можно на своей инфраструктуре. Свобода получить веса расширилась, но вычислительные затраты никуда не исчезли.