Пользователи Linux сообщили об ускорении локальных ИИ-задач на GeForce RTX 30 после установки gpu-unlock — модуля с опубликованным кодом, который снимает ограничение скорости некоторых операций тензорных ядер. В отчёте от 24 октября владелец RTX 3090 получил около 60% прироста при умножении матриц BF16, но обработка длинного запроса языковой моделью ускорилась на 14,4%. Разница показывает, сколько от разблокировки вычислительных блоков остаётся в реальном приложении.

По описанию разработчика Zagitta, модуль меняет настройки GPU при загрузке Linux, до подключения обычного драйвера NVIDIA. Он повышает скорость выдачи инструкций FP16/BF16 с накоплением результата в FP32 — операций, используемых при работе нейросетей. Менять саму видеокарту или патчить драйвер при каждом его обновлении для этого не требуется. В таблице проекта уже есть успешные пользовательские отчёты для RTX 3060, 3070, 3080, 3090 и 3090 Ti, но результат не одинаков даже внутри семейства: у одного OEM-варианта RTX 3080 Ti на 20 ГБ разблокировка завершилась без ускорения BF16.

В свежем тесте RTX 3090 работала с неизменённым драйвером и одинаковым лимитом мощности 350 Вт. Скорость умножения матриц BF16 выросла с 72 до 114,8 TFLOPS. При обработке входа длиной 16 тысяч токенов — фрагментов текста — скорость поднялась с 2759 до 3156 токенов в секунду, а ожидание первого токена сократилось с 5,85 до 5,12 секунды. Последующая выдача ответа и обработка примерно 32 тысяч входных токенов не ускорились: по объяснению автора отчёта, там ограничением стала передача данных из памяти. В другом отчёте от 22 октября владелец Zotac RTX 3090 измерил 16% прироста при обработке 16 тысяч токенов, тогда как для короткого входа заметного изменения не было.

Это способ получить больше от уже купленной видеокарты в определённых ИИ-нагрузках. Пока доказательная база — опубликованные замеры отдельных пользователей, а не единое испытание всего семейства карт и моделей. Автор свежего отчёта отдельно ограничивает проверку стабильности несколькими часами работы; переносить его результат на недели эксплуатации, любой компьютер или двукратное ускорение всей нейросети оснований нет.