Для агента и ключа AI Gateway вы можете установить дневной лимит потребления в рублях или токенах, чтобы контролировать расход.
Если лимит установлен в токенах, учитываются и входящие, и исходящие токены.
При превышении лимита отправка сообщения будет завершаться ошибкой.
Вы можете настроить уведомления о достижении 80% и 100% суточного лимита использования токенов.
Лимит сбрасывается через 24 часа после первой траты токенов, а не в 00:00. Например, если первая трата произошла в 14:00, лимит будет сброшен в 14:00 следующего дня.
Установка лимита для агента
Опция доступна только для агентов с поресурсной тарификацией.
Установить лимит можно при создании агента и в дальнейшем в его настройках.
При создании агента
На шаге «Тариф» включите опцию «Дневной лимит потребления» и укажите нужный лимит в рублях. Вы сможете изменить его в любое время в настройках агента.
В настройках агента
-
Перейдите в раздел «ИИ-сервисы» → «Агенты» и кликните на нужного агента.
-
На вкладке «Управление» нажмите «Установить лимиты».
-
Выберите единицу измерения лимита: рубли или токены.
-
Включите дневной лимит потребления и укажите нужное значение. Если ограничение больше не требуется, отключите лимит.
-
Нажмите «Сохранить».
Установка лимитов для AI Gateway
Лимиты AI Gateway настраиваются для каждого API-ключа. Вы можете установить:
-
Общий дневной лимит потребления — ограничивает суммарное потребление по всем моделям в рамках ключа.
-
Дневной лимит потребления по моделям — ограничивают потребление конкретных моделей в рамках ключа.
Если установлены оба вида лимитов, общий лимит имеет приоритет. Когда он будет исчерпан, генерация по ключу прекратится, даже если лимиты отдельных моделей еще не достигнуты.
Чтобы установить лимиты:
-
Перейдите в раздел «ИИ-сервисы» → «AI Gateway».
-
На вкладке «API-ключи» кликните на нужный ключ.
-
В панели управления ключом откройте вкладку «Управление» и нажмите «Установить лимит».
-
Выберите единицу измерения лимитов: рубли или токены.
-
Установите общий дневной лимит, лимиты для отдельных моделей или оба вида лимитов.
-
Нажмите «Сохранить».