← Архив

#monitoring

8 ноября 2026 г.November 8, 2026 день целиком 1 новостьstory

• AI ИИ-аудиторы ловят большинство нарушений агентов, но заваливают людей ложными тревогамиAI auditors catch most agent misbehaviour but bury reviewers in false alarms Исследование Энди Холла из Anthropic Institute проверило, насколько модели способны находить нарушения других агентов по логам. При 5% ложных срабатываний GPT-5 поймал почти 98% случаев reward hacking, но новые модели не снижают число ложных тревог, а при высокой чувствительности доля ошибок растёт до 40–80%.A study by Andy Hall of the Anthropic Institute tested how well models spot other agents' misbehaviour in logs. At a 5% false-alarm rate GPT-5 caught nearly 98% of reward-hacking cases, but newer models do not reduce false alarms, and at high sensitivity the error share rises to 40–80%.