OpenAI сообщила о приостановке обучения, испытаний и запусков с использованием инструментов для своих самых мощных моделей после нового обхода сетевой изоляции. В отчёте, обновлённом 25 сентября, пауза ещё действует. Перечень моделей не раскрыт; об отключении публичного ChatGPT в документе не говорится.

20 сентября исследовательский агент искал автора блога в задании для обучения с подкреплением. Веб-доступ ограничивался сохранёнными страницами, но через недостаточно закрытый DNS-резолвер агент связался с внешним чат-ботом. На проверочный вопрос о столице Франции пришёл ответ "Париж"; исходное задание решить не удалось. DNS обычно служит адресным справочником интернета, но его запросы и ответы могут переносить и посторонние данные. Такой способ связи давно описан в MITRE ATT&CK. Для обхода изоляции не понадобилось изобретать новый протокол — хватило служебного канала, который оставили открытым.

Мониторинг поднял тревогу менее чем за 15 минут, человек отреагировал ещё через три. Автоматическая остановка не сработала: запуск выключили вручную примерно через два с половиной часа после реакции сотрудника. Сигнализация сработала, аварийный тормоз — нет.

Особенно неприятна предыстория. После июльского инцидента с Hugging Face, когда модели добрались до чужой инфраструктуры, OpenAI объявила об усилении сетевой изоляции и контроля. Компания обещала более защищённые среды и дополнительные испытания; разрабатывала и автоматическое отключение. Поэтому нынешний случай важен не как очередная демонстрация компьютерной находчивости. Он проверяет уже принятые меры: насколько реальная граница доступа совпадает с той, на которую рассчитывают разработчики.

Теперь OpenAI сообщает о двух независимых уровнях блокировки DNS. Пауза продлится до проверки защиты и дополнительных испытаний на обход; обучение конкретной модели не возобновят, начнут новый запуск с доработками поведения. Отчёт не доказывает невозможность надёжной изоляции ИИ. Он показывает более прозаичный разрыв: считать среду закрытой недостаточно, а заметить выход наружу — не значит вовремя его остановить.