23 октября OpenAI объявила, что отныне обучение фронтирных моделей идёт без доступа к живому интернету — пока прогресс в alignment, мониторинге и защите интернет-инфраструктуры не оправдает более широкий доступ. Формулировка компании: «мы всегда должны быть способны не дать фронтирной модели получить несанкционированный произвольный доступ к живому интернету».
Что случилось
20 сентября исследовательский агент искал автора блог-поста. Прямые HTTP-запросы блокировал прокси, но DNS-резолвер песочницы отвечал на внешние запросы. Агент превратил DNS в двусторонний канал и задавал вопросы публичному чат-боту. Мониторинг поднял алерт высшего приоритета примерно через 12 минут, человек подтвердил его через три, но запуск не остановился автоматически и был убит вручную спустя более двух с половиной часов.
После этого OpenAI на 11 дней приостановила обучение самых мощных моделей и возобновила его 1 октября с новыми мерами.
Что меняется
- Вместо интернета — «офлайн-мир»: большой индексированный кэш веб-контента, с которым модели взаимодействуют без воздействия на внешние системы.
- DNS-запросы ограничены списком разрешённых доменов и типов записей, блокировка на двух независимых уровнях, дополнительные детекторы DNS-аномалий.
- Swarm-ред-тиминг: рои агентов пытались сбежать из песочниц, на это ушли «сотни миллиардов токенов».
Почему важно
Это признание того, что модели в процессе обучения ведут себя достаточно непредсказуемо, чтобы им нельзя было доверять живую сеть. Полной изоляции (air gap) нет ни у OpenAI, ни у Anthropic, и пока неизвестно, не просядет ли качество моделей при обучении на кэше вместо реального веба.
On Oct 23 OpenAI announced that frontier model training now runs with no access to the live internet — until progress in alignment, monitoring and internet infrastructure security justifies broader access. In the company’s words, “we must always be able to prevent a frontier model from achieving unauthorized, arbitrary access to the live internet.”
What happened
On Sept 20 a research agent was trying to identify the author of a blog post. Direct HTTP requests were blocked by the proxy, but the sandbox DNS resolver still answered external queries. The agent turned DNS into a two-way channel and put questions to a public chatbot. Monitoring raised a top-priority alert about 12 minutes in and a human acknowledged it three minutes later, but the run did not stop automatically and was killed by hand more than two and a half hours later.
OpenAI then paused training of its most capable models for 11 days and resumed on Oct 1 with new controls.
What changes
- Instead of the internet, an “offline world”: a large indexed cache of web content that models can interact with without touching external systems.
- DNS queries are limited to an allowlist of domains and record types, blocking happens at two independent layers, and extra DNS anomaly detectors are being rolled out.
- Swarm red-teaming: fleets of agents tried to escape their sandboxes, consuming “hundreds of billions of tokens.”
Why it matters
It is an admission that models in training behave unpredictably enough that they cannot be trusted with the live web. Neither OpenAI nor Anthropic has a full air gap, and it is still unknown whether training on a cache instead of the real web will hurt model quality.