Anthropic 2 ноября открыла FlashProve — исследовательский прототип, который позволяет проверять вычисления языковой модели по криптографическому доказательству. Клиенту для этого не нужно заново запускать всю модель. Авторы показали работу на 4-битной версии Llama 4 Maverick с 400 млрд параметров: предмет исследования — возможность проверить удалённый расчёт, даже если его исполнитель не раскрывает веса модели.

Сначала исполнитель фиксирует веса — числовые параметры, определяющие поведение модели, — в криптографическом обязательстве. Затем передаёт доказательство вычислений, которое клиент сверяет с этим обязательством. Но его идентификатор надо получить из доверенного источника: если сервер сам выбирает и модель, и эталон проверки, он может честно доказать запуск совсем другой модели. Правдивость ответа такая проверка тоже не устанавливает.

В опубликованных замерах один NVIDIA H100 обрабатывал около 111 входных токенов в секунду при пакетах из 24 запросов по 1024 токена. Это обработка входа с доказательством расчёта следующего токена, а не скорость генерации ответа. Пакет ждал доказательств примерно 221–226 секунд; последующая проверка в это время не включена. Одно доказательство занимало в среднем около 19 МБ. По расчётам авторов, затраты GPU-времени превышали обычную обработку входа в vLLM примерно в 71–93 раза, причём сравнивались разные конфигурации.

У точной проверки есть важная граница: она относится к целочисленной версии модели после квантования, чьи ответы могут отличаться от исходной. Предусмотренный в проекте более мягкий режим допускает отклонения и подтверждает лишь соблюдение заданных пределов, а не идентичность ответа. Поэтому успешную проверку в этих двух режимах нельзя трактовать одинаково.

Код и доказательства опубликованы, но готовой защитой для коммерческого сервиса FlashProve пока не стал. Формальные гарантии относятся к протоколу и проверяющей программе на Lean; быстрые реализации на C++ и CUDA тестировались, но сами не доказаны. В перечне ограничений авторы также признают отсутствие независимого аудита и неполную проверку утечек весов в выпущенных программах. Результат даёт исследователям реализацию и измеримую цену проверки большой модели; надёжность всей системы ещё предстоит установить.