Anthropic и Accenture объявили 18 сентября, что каждая компания рассчитывает вложить не менее $1 млрд за пять лет в систему внешней проверки передовых ИИ-моделей. Специализированное подразделение Faculty сформирует команду, которая будет работать внутри Anthropic рядом с разработчиками и другими партнёрами по безопасности.

Оценщики будут испытывать модели на опасные сценарии, проверять защитные механизмы и соответствие заявленным принципам. Им обещан доступ, сопоставимый с доступом сотрудника: к процессу обучения моделей, решениям об их создании и выпуске и к разговорам с командами. Права остановить релиз у Accenture не появится — ответственность за безопасность останется у Anthropic.

Независимость такой проверки пока ограничена самой конструкцией сделки: Anthropic прямо пишет, что будет оплачивать работу Accenture. Общих стандартов доступа, публикации выводов и финансирования для встроенных оценщиков ещё нет. Партнёрство неэксклюзивное: Anthropic ведёт переговоры с METR и другими некоммерческими организациями, а Accenture сможет проверять модели других разработчиков.

Неделю назад Anthropic только пообещала пустить внешних оценщиков внутрь. Теперь у обещания появились исполнитель, перечень задач и минимальный бюджет. Это уже решение о создании инфраструктуры контроля, но не доказательство эффективности проверок: правила работы команды всё ещё разрабатываются.