Anthropic сообщила, что недавно отложила предварительное обучение новой передовой базовой модели более чем на месяц. В проспекте IPO, поданном 26 октября, компания объясняет решение необходимостью усилить защиту от кражи весов модели и другой интеллектуальной собственности.

Веса — числовые параметры, в которых сохраняется результат обучения нейросети. Получив их копию, можно запускать модель вне инфраструктуры разработчика. Anthropic не называет в этом эпизоде модель, точные даты задержки и новые меры защиты. Из раскрытия также нельзя установить, продолжается ли отсрочка сейчас.

Компания пишет, что для моделей с ожидаемыми новыми возможностями или рисками планирует проверять безопасность на каждом этапе: от предварительного обучения до дообучения и внутреннего использования. Если уверенности в защите недостаточно, этап могут отложить или приостановить. Anthropic предупреждает инвесторов: такие ограничения способны замедлить развитие моделей относительно конкурентов, не принимающих подобных мер, и повлиять на выручку. Это её оценка будущего риска; эта задержка — уже заявленный случай, когда защита изменила график разработки.

Ранее dok.news писал о возобновлении обучения OpenAI после 11-дневной паузы. Там причиной был выход исследовательского агента в интернет, а возобновлённое обучение с подкреплением перевели на сохранённые веб-страницы. У Anthropic раскрытая отсрочка касается более раннего этапа создания модели, а названная причина — защита её весов от похищения.