22 октября OpenAI перевела Decisions API в общий доступ. Впервые его показали на DevDay 29 сентября, а с 6 октября он был в публичной бете.
Что это
Это API не для генерации текста, а для ограниченных решений: классификации, маршрутизации запросов, выбора следующего действия агента. Разработчик передаёт вопрос и варианты ответа, а модель возвращает один из трёх типов результата:
- predicate — вероятность от 0 до 1, что утверждение истинно;
- choice — один вариант из заданного списка с оценкой уверенности;
- score — оценку по заданным критериям.
Под капотом — доработанная GPT-6 Luna, а не отдельная модель. На вход принимаются текст, изображения и структурированные данные.
Скорость и лимиты
- По словам руководителя продукта Никунджа Ханды, время ответа сократилось с 1–3 секунд до примерно 100–180 мс; OpenAI говорит о «до 10 раз быстрее», чем тот же запрос через Responses API. Методику сравнения компания не раскрыла.
- До 400 вопросов в одном запросе (в бете было 200).
Цены
$0,10 за миллион входных токенов, выходные токены не оплачиваются. В оценках издания расходятся по тарифу на кэш, поэтому для точного расчёта лучше смотреть страницу цен OpenAI.
Кто уже использует
Ранние клиенты — Box, Datadog, Ramp и Speak. Datadog оценивает риск команд, которые генерирует агент, перед их выполнением; Speak сократил паузу между действиями с 1,4 до 0,13 секунды.
Зачем это разработчикам
Многие агентные системы тратят полноценный вызов LLM на вопрос «да или нет». Отдельный быстрый и дешёвый эндпоинт для таких решений позволяет вынести их из основного цикла агента. Прямой конкурент — модель Jev от TypeSafe, которая стоит вдвое дешевле.
On October 22 OpenAI made the Decisions API generally available. It was first shown at DevDay on September 29 and had been in public beta since October 6.
What it is
It is not a text-generation API but one for bounded decisions: classification, request routing, picking an agent’s next action. You pass a question and possible answers, and the model returns one of three result types:
- predicate — a probability from 0 to 1 that a statement is true;
- choice — one option from a fixed list, with a confidence score;
- score — a grade against defined criteria.
Under the hood is an adapted GPT-6 Luna rather than a separate model. Inputs can be text, images and structured data.
Speed and limits
- According to product lead Nikunj Handa, response time dropped from 1–3 seconds to roughly 100–180 ms; OpenAI claims “up to 10x faster” than the same request via the Responses API, without publishing a methodology.
- Up to 400 questions per request (up from 200 in beta).
Pricing
$0.10 per million input tokens, with output tokens not billed. Reports differ on cache pricing, so check OpenAI’s pricing page for exact numbers.
Who uses it
Early customers include Box, Datadog, Ramp and Speak. Datadog scores the risk of agent-generated commands before running them; Speak cut the gap between actions from 1.4 to 0.13 seconds.
Why it matters
Many agent systems burn a full LLM call on what is really a yes/no question. A dedicated fast, cheap endpoint lets you move those decisions out of the main agent loop. The direct competitor is TypeSafe’s Jev model, priced at less than half as much.