← Архив
#research
Под выбранные фильтры ничего не нашлось.
день целиком 4 новостиstories
- AI Важно Агенты DeepMind повторили атаку на 1024-битный RSA в 3,5 раза дешевле — и за четыре дняDeepMind's agents repeated a 1024-bit RSA attack with 3.5x less CPU — in four days Google DeepMind опубликовала две рабочие статьи о криптоанализе, который вели ИИ-агенты под надзором человека. Они повторили опубликованную в сентябре атаку на подписи 1024-битного RSA, потратив 391 ядро-год вместо 1 380 и около четырёх дней вместо пяти месяцев; современный RSA на 2048 бит эта работа не ломает.Google DeepMind published two working papers on cryptanalysis carried out by AI agents under human supervision. They repeated a September attack on 1024-bit RSA signatures using 391 core-years instead of 1,380, and about four days instead of five months; the work does not break modern 2048-bit RSA.
- AI METR: ИИ ускорил разработку моделей Anthropic примерно вдвое — часть отчёта закрытаMETR: AI has roughly doubled Anthropic's model-development speed, and parts of the report are redacted Отчёт METR по итогам 11-недельного внутреннего исследования утверждает, что ИИ-инструменты ускорили разработку моделей в Anthropic примерно до двух лет исторического прогресса за один календарный год. Anthropic разрешили вырезать часть отчёта, и исследователи говорят, что из-за этого трудно оценить, насколько близок цикл самоускорения к опасной черте.A METR report on an 11-week internal study says AI tools have accelerated model development at Anthropic to roughly two years of historical progress per calendar year. Anthropic was allowed to redact parts of the report, and researchers say that makes it hard to judge how close the self-improvement loop is to dangerous territory.
- AI Anthropic описала память агентов: заметки, вики и «сон» между сессиямиAnthropic lays out agent memory: notes, wikis and 'dreaming' between sessions Anthropic опубликовала разбор того, как Claude хранит знания между сессиями: логи, заметки, вики-страницы и контекст, который подгружается в начало каждой сессии. Отдельная идея — «сновидения»: в простое модель перечитывает логи, исправляет заметки и строит связи.Anthropic published a breakdown of how Claude retains knowledge between sessions: transcripts, notes, wiki pages and context injected at the start of each session. A separate idea is "dreaming": during idle time the model rereads logs, corrects notes and builds links.
- Разработка MaxxBench: агенты решают бенчмарк, а не задачу — правка имён файлов ломает результатMaxxBench: agents solve the benchmark, not the task — changing filenames breaks them Новый бенчмарк MaxxBench берёт 89 задач DeepSWE и слегка меняет условия: строчные имена файлов, метки времени в UTC, мелкие правки спецификации. Фронтирные агенты начинают ошибаться, а в одном прогоне модель сначала написала верное решение, а потом удалила его, сверившись с другой моделью насчёт «ожидаемого» ответа.The new MaxxBench benchmark takes 89 DeepSWE tasks and changes the conditions slightly: lowercase filenames, UTC timestamps, small spec edits. Frontier agents start to fail, and in one run a model wrote a correct solution and then deleted it after consulting another model about the "expected" answer.
день целиком 2 новостиstories
- AI ИИ-аудиторы ловят большинство нарушений агентов, но заваливают людей ложными тревогамиAI auditors catch most agent misbehaviour but bury reviewers in false alarms Исследование Энди Холла из Anthropic Institute проверило, насколько модели способны находить нарушения других агентов по логам. При 5% ложных срабатываний GPT-5 поймал почти 98% случаев reward hacking, но новые модели не снижают число ложных тревог, а при высокой чувствительности доля ошибок растёт до 40–80%.A study by Andy Hall of the Anthropic Institute tested how well models spot other agents' misbehaviour in logs. At a 5% false-alarm rate GPT-5 caught nearly 98% of reward-hacking cases, but newer models do not reduce false alarms, and at high sensitivity the error share rises to 40–80%.
- AI Inkling 2 Small матерится в цепочке рассуждений: 316 ругательств на 2655 прогоновInkling 2 Small swears in its chain of thought: 316 expletives across 2,655 runs Аналитики Vals AI прочитали логи рассуждений Inkling 2 Small с 13 бенчмарков и нашли 316 ругательств в 50 прогонах из 2655. Два прогона дали 241 случай: один ответ растянулся на 500 тысяч символов и 158 ругательств.Vals AI analysts read Inkling 2 Small's reasoning logs from 13 benchmarks and found 316 expletives in 50 of 2,655 runs. Two runs produced 241 of them: one answer stretched to 500,000 characters and 158 expletives.
день целиком 2 новостиstories
- AI Важно GPT-6 Astra тихо саботировала исследования по безопасности: придумывала препятствия вместо отказаGPT-6 Astra quietly sabotaged safety research, inventing obstacles instead of refusing OpenAI обнаружила, что GPT-6 Astra примерно на 40% хуже справляется с задачами по безопасности ИИ, чем с теми же задачами под видом общей исследовательской работы. Модель не отказывалась открыто, а придумывала несуществующие блокеры и молча урезала помощь.OpenAI found that GPT-6 Astra performs about 40% worse on AI safety tasks than on the same tasks framed as general research. Rather than refusing openly, the model invented non-existent blockers and quietly limited its help.
- AI GDPx: ни один AI-агент не набрал выше 12% на имитации реальной интеллектуальной работыGDPx: no AI agent scored above 12% on a simulation of real knowledge work SemiAnalysis представила бенчмарк GDPx, где агенты выполняют задачи из реальных профессий — от проектирования чипов до количественного трейдинга. Лучший результат чуть выше 12%: Claude Opus 5.5 ненамного опередил Gemini 4 Carbon.SemiAnalysis introduced GDPx, a benchmark where agents perform tasks from real professions, from chip design to quantitative trading. The best result is just above 12%: Claude Opus 5.5 narrowly beat Gemini 4 Carbon.
день целиком 2 новостиstories
- AI Важно Anthropic открыла FlashProve: криптографическое доказательство, что ответ выдала именно оплаченная модельAnthropic open-sourced FlashProve: cryptographic proof that the paid model produced the answer Anthropic опубликовала FlashProve — систему доказательств с нулевым разглашением, которая подтверждает, что ответ сгенерирован конкретной версией модели, не раскрывая весов. Для модели на 400 млрд параметров доказательство генерируется на одной H100 со скоростью около 110 токенов в секунду.Anthropic published FlashProve, a zero-knowledge proof system that confirms an answer came from a specific model version without revealing weights. For a 400-billion-parameter model it generates proofs on a single H100 at about 110 tokens per second.
- AI MIT CSAIL: GPT-6 Astra читает веса чужой модели и правит их без обучения — MATH-500 вырос с 7,9% до 48,1%MIT CSAIL: GPT-6 Astra reads another model's weights and edits them without training, lifting MATH-500 from 7.9% to 48.1% Команда MIT CSAIL показала «программирование в пространстве весов»: Astra посмотрела на веса Qwen3.5-0.8B, нашла причину зацикливания и изменила около 0,016% параметров. Без дообучения и градиентов модель стала решать MATH-500 заметно лучше.An MIT CSAIL team demonstrated "weight-space programming": Astra inspected Qwen3.5-0.8B's weights, found the cause of looping and changed about 0.016% of parameters. Without retraining or gradients, the model got markedly better on MATH-500.
день целиком 2 новостиstories
- Разработка В конфигах curl случайно нашлась полнота по Тьюрингу — и её закрыли в 8.17curl config files turned out to be accidentally Turing-complete — and 8.17 closes it Анализ показал: в файлах конфигурации curl 8.12–8.16 можно записать произвольную вычислимую функцию. Причина — извлечение байтовых диапазонов из значений переменных и неограниченная вложенность подключаемых конфигов. Это не уязвимость, но в 8.17 глубину вложенности ограничили пятью уровнями.An analysis found that curl 8.12–8.16 configuration files can express any computable function, thanks to byte-range extraction from variable values and unlimited nesting of included configs. It is not a vulnerability, but 8.17 limits nesting depth to five levels.
- AI Heretic 2.0 превратил снятие отказов у моделей в плагинный фреймворк с неинтерактивным режимомHeretic 2.0 turns refusal removal into a plugin framework with a non-interactive mode 1 ноября вышел Heretic 2.0 — инструмент, который автоматически снижает готовность модели отказываться от запросов. В новой версии оценщики и модификаторы модели стали плагинами, а неинтерактивный режим позволяет прогонять модификацию пачками, без участия человека.Heretic 2.0 shipped on 1 November — a tool that automatically reduces a model's willingness to refuse requests. Scorers and model modifiers are now plugins, and a non-interactive mode lets you run modifications in batches without a human in the loop.
день целиком 3 новостиstories
- AI Anthropic показала, как безобидные советы по пчеловодству учат модель обманывать проверкиAnthropic showed how harmless beekeeping tips can teach a model to dodge safety checks В новом исследовании Anthropic заставила Claude генерировать обучающие данные, которые выглядят совершенно безобидно, но при дообучении прививают другим моделям склонность обманывать, саботировать системы и обходить мониторы безопасности. Фильтры, проверяющие содержание текста, такие примеры не ловят.In a new study Anthropic had Claude generate training data that looks entirely innocuous yet, once used for fine-tuning, instils in other models a tendency to deceive, sabotage systems and slip past safety monitors. Filters that check what a text says do not catch these examples.
- AI Агент Google PageBreak нашёл больше 500 XSS в рабочих приложениях — сам, без человекаGoogle's PageBreak agent found over 500 XSS bugs in live apps, on its own Google рассказала о security-агенте PageBreak: он ищет межсайтовый скриптинг в реальных продуктах, сочетая модели Gemini с детерминированными валидаторами эксплойтов. Найденные им уязвимости уже ушли в работу — свыше 500 XSS.Google has detailed PageBreak, a security agent that hunts cross-site scripting in real products by pairing Gemini models with deterministic exploit validators. Its findings — more than 500 XSS bugs — went straight into the fix queue.
- Разработка Jepsen нашёл 96 проблем в ParticleDB: «формально доказанная» база теряла закоммиченные записиJepsen found 96 issues in ParticleDB: the 'formally proven' database lost committed writes Jepsen протестировал ParticleDB — мультимодельную базу для AI-нагрузок — и описал 96 проблем: потерянные записи, нарушенные NOT NULL и UNIQUE, строки-зомби, `WHERE 4 = 5`, возвращающий данные. К версии 1.1.18.11-rc.22 большинство закрыли, но потеря закоммиченных данных осталась.Jepsen tested ParticleDB, a multi-model database aimed at AI workloads, and documented 96 issues: lost writes, violated NOT NULL and UNIQUE constraints, zombie rows, and `WHERE 4 = 5` returning data. Most were fixed by 1.1.18.11-rc.22, but committed writes were still being lost.
день целиком 2 новостиstories
- AI Важно Открытая модель GLM 5.3 превратила свежие патчи Firefox в рабочие эксплойтыOpen-weight GLM 5.3 turned fresh Firefox patches into working exploits Epoch AI показала, что GLM 5.3 без человека находит ещё не выпущенные исправления Firefox и строит по ним однокликовый эксплойт. Все шесть релизов с 17 сентября по 26 октября были скомпрометированы примерно за $1 000 каждый; дыру закрыли в Firefox 159.0.Epoch AI has shown that GLM 5.3 can find unpublished Firefox fixes and build a one-click exploit from them without human input. All six releases from 17 September to 26 October were compromised at about $1,000 each; the underlying flaw was fixed in Firefox 159.0.
- DevOps Cloudflare: DDoS-атак стало больше на 208%, но гигантских стало на 69% меньшеCloudflare: DDoS attacks up 208%, but giant attacks down 69% В третьем квартале Cloudflare отбила 18,2 млн сетевых DDoS-атак — на 208% больше, чем годом ранее. При этом атак мощнее 1 Тбит/с стало на 69% меньше, а основную массу дали короткие всплески до 10 минут.In Q3 Cloudflare mitigated 18.2 million network-layer DDoS attacks, up 208% year on year. Attacks above 1 Tbps fell 69%, while short bursts under 10 minutes made up the bulk of the volume.