Лимиты

Актуальные значения именно для вашего аккаунта всегда доступны без документации: на странице «Лимиты» в личном кабинете и через GET /v1/key.

УровниСкопировать ссылку на раздел

Лимиты зависят от уровня аккаунта. Уровень определяется суммой пополнений за всё время (пополнения минус возвраты; промокоды не учитываются) и повышается автоматически - обычно в течение минуты после оплаты.

Нужны индивидуальные лимиты - напишите на support@tsarrouter.ru.

Сетка по типам моделейСкопировать ссылку на раздел

Лимиты действуют на аккаунт целиком (по всем вашим ключам сразу), окно - 60 секунд. Одновременно действуют общий лимит уровня и лимит каждого типа моделей - срабатывает более строгий из них:

Дополнительно:

Справочные запросыСкопировать ссылку на раздел

Справочные методы - GET /v1/models, GET /v1/models/{id}, GET /v1/balance и GET /v1/key - расходуют отдельный счётчик: один на аккаунт, общий для всех четырёх методов и всех ключей, окно - 60 секунд. Размер одинаковый на всех уровнях - строка «Справочные запросы, запросов/мин» в таблице выше. С лимитами запросов к моделям этот счётчик не пересекается: справочные запросы не тратят общий лимит уровня, а запросы к моделям - справочный.

Ответ 429 и заголовкиСкопировать ссылку на раздел

При превышении лимита API возвращает 429 в OpenAI-совместимом формате (rate_limit_error, см. список ошибок). Отклонённый запрос не тратит квоту (единственное исключение: отказ по лимиту типа успевает занять слот общего лимита). В 429 есть Retry-After - секунды до освобождения окна; у лимита одновременных потоков значение фиксированное - 5 секунд.

Успешные и ошибочные ответы авторизованных эндпоинтов /v1/* несут заголовки самого ограничивающего действующего лимита:

x-ratelimit-limit-requests: 120
x-ratelimit-remaining-requests: 119
x-ratelimit-reset-requests: 60

• limit - размер лимита, remaining - осталось в текущем окне, reset - через сколько секунд освободится место: в 429 точно (равно Retry-After), в остальных ответах - оценка сверху, для минутного лимита - 60. Все значения - целые числа, reset - в секундах, а не строка вида 1s.
• Заголовки приходят на авторизованные /v1-ответы - успешные, 304 и 429. Исключение - ранние отказы, когда запрос не дошёл до проверки лимитов: 401 (неверный или просроченный ключ), 403 (ключ отключён или не того типа), 400 валидации тела приходят без них.
• У потоковых ответов значения фиксируются в момент старта потока.

Рекомендуемая обработка: при 429 подождите Retry-After секунд и повторите запрос с экспоненциальной задержкой на случай повторного отказа.

GET /v1/keyСкопировать ссылку на раздел

Уровень, действующие лимиты и кредитный лимит своего ключа отдаёт GET /v1/key - поля описаны в справочнике.

• Лимит справочных запросов - поле limits.reference_rpm.
• Полная сетка лимитов по всем уровням машиночитаемо - публичный GET /v1/limits (без авторизации); таблицы этой страницы рендерятся из него. Русские названия типов из per_type_rpm - в поле types его ответа.