Быстро или дёшево: как управлять скоростью и ценой LLM

Любой разработчик рано или поздно попадает в классическую ловушку: «хочу, чтобы быстро, дёшево и качественно». Старая шутка говорит, что из трёх можно выбрать только два. С API ВЕГА ситуация чуть веселее: эти два пункта вы выбираете одной строчкой в запросе, причём для каждой задачи свои.

Откуда берётся разница в цене и скорости

У одной и той же модели у разных провайдеров бывает несколько «классов обслуживания»:

• flex — скидочный тариф. Вы готовы подождать и смириться с не самой высокой доступностью, а взамен платите меньше. Например, у gpt-5 на flex скидка может достигать 50%.
• priority — премиум-тариф. Дороже, зато быстрее и стабильнее. Это как бизнес-класс: те же облака за окном, но кофе приносят сразу.

API ВЕГА (api.vega.chat) показывает каждый такой тариф как отдельный эндпоинт. Дальше есть два пути: отдать выбор маршрутизатору или задать тариф вручную.

В ответе всегда указано, каким тарифом реально обслужили запрос, и платите вы именно по его ставке, так что сюрпризов в счёте не будет.

Способ 1. Самый простой: суффиксы :nitro и :floor

Добавляете суффикс к ID модели, и всё.

{
  "model": "openai/gpt-5:nitro"
}

:nitro сортирует провайдеров по пропускной способности (токенов в секунду) и допускает в гонку эндпоинты с тарифом priority. :floor сортирует по цене и допускает эндпоинты flex.

При этом тарифные эндпоинты не получают поблажек и соревнуются наравне со всеми. Платить по priority-ставке придётся только тогда, когда этот эндпоинт действительно самый быстрый, а flex достанется вам, только если он действительно самый дешёвый.

Fallback тоже работает: если нужный эндпоинт недоступен, запрос уйдёт следующему в отсортированном списке, по его ставке.

Для большинства задач это самая простая точка входа: поменяли одну строчку и получили результат.

Нюанс: если вам нужна сортировка по скорости без допуска priority-тарифов, не используйте :nitro, а задайте provider.sort со значением "throughput".

Способ 2. Жёстко зафиксировать тариф: service_tier

Когда нужен конкретный тариф независимо от конкуренции, передайте параметр service_tier на верхнем уровне тела запроса:

• flex — дешевле, но медленнее;
• priority — быстрее, но дороже;
• fast — просто псевдоним для priority.

Пример на Python:

import requests

response = requests.post(
    "https://api.vega.chat/api/v1/chat/completions",
    headers={
        "Authorization": "Bearer <VEGA_API_KEY>",
        "Content-Type": "application/json",
    },
    json={
        "model": "openai/gpt-5",
        "service_tier": "flex",
        "messages": [
            {"role": "user", "content": "Сделай краткое резюме отзыва клиента"}
        ],
    },
)

data = response.json()
print(data["choices"][0]["message"]["content"])
print("Обслужено тарифом:", data.get("service_tier"))

Тот же параметр принимают Responses API и Anthropic Messages API (эндпоинт /messages), так что переучиваться не придётся.

Кейсы: что и когда выбирать

Кейс 1. Ночной пакетный разбор отзывов → flex или :floor

Каждую ночь нужно обработать 50 000 отзывов: классифицировать тональность, выделить темы. Утром результат нужен, а вот секунда туда или сюда никого не волнует. Это идеальный сценарий для flex: на больших объёмах скидка до 50% превращается в ощутимые деньги.

{
  "model": "openai/gpt-5",
  "service_tier": "flex",
  "messages": [...]
}

Если хочется, чтобы система сама искала самый дешёвый вариант среди провайдеров, используйте openai/gpt-5:floor.

Кейс 2. Чат-бот поддержки → :nitro

Клиент пишет в чат и ждёт ответ. Каждая секунда задержки съедает терпение и конверсию, поэтому здесь важна скорость потока токенов. :nitro сам выберет самого быстрого провайдера в данный момент, а priority подключится, только если реально выигрывает.

{
  "model": "openai/gpt-5:nitro",
  "messages": [...]
}

Это как такси: обычно хватает эконом-класса, но если по-настоящему опаздываете, система сама найдёт машину поближе.

Кейс 3. AI-помощник в офисном редакторе → смешанная стратегия

В редакторе документов у AI-функций разные требования:

Один продукт, три режима: интерактивное делаем быстрым, фоновое дешёвым.

Кейс 4. Живая демонстрация клиенту → priority (или fast)

Завтра в 10:00 демо для заказчика. Менять ничего нельзя, а зависший ответ на глазах у директора никому не нужен. На время показа ставим service_tier: "priority" и платим чуть больше, зато спокойствие бесценно.

{
  "model": "openai/gpt-5",
  "service_tier": "priority",
  "messages": [...]
}

После демо возвращаем :nitro или дефолт.

Кейс 5. Тестирование промптов → :floor

Нужно прогнать 500 вариантов промпта и выбрать лучший. Это рутинный эксперимент, здесь важна экономия: :floor снижает расходы, а скорость вторична.

Шпаргалка

Подводные камни

1. Платите по фактическому тарифу: если провайдер «сбросил» запрос на обычный тариф, вы заплатите обычную ставку. Проверяйте поле service_tier в ответе.
2. flex обменивает цену на задержки и доступность, поэтому для интерактивных сценариев он не подходит.
3. service_tier жёстко фиксирует тариф и, в отличие от :nitro, в честной конкуренции не участвует. Если нужна гибкость, начинайте с суффиксов.
4. Пишите в логи модель, тариф и стоимость. Через неделю у вас будет честная статистика, где вы переплачиваете.

Итог

Правило простое:

• Не знаете, что выбрать? Начните с :nitro для интерактива и :floor для фона.
• Нужен строгий контроль? Фиксируйте service_tier.
• Сомневаетесь? Посмотрите на поле service_tier в ответе и посчитайте деньги.

Одна строчка в запросе способна сэкономить бюджет или спасти демо. Редкий случай, когда настройка окупается быстрее, чем вы успеете дочитать документацию.