Тарификация агентов и баз знаний

Для работы AI-агентов используются языковые модели и база знаний. Ниже представлены доступные модели, типы тарификации и правила работы с токенами.

Доступные модели

В панели управления можно создать агентов на базе следующих больших языковых моделей:

При работе через API список версий может быть шире. Все доступные варианты можно найти на сайте.

Модели с размышлениями

Если при выборе модели отображается пиктограмма мозга — значит, модель поддерживает режим размышлений (reasoning).

В этом режиме модель перед финальным ответом самостоятельно формулирует промежуточные рассуждения. Модель задает себе уточняющие вопросы и отвечает на них. Это позволяет добиться более точного, аргументированного ответа, особенно в сложных задачах.

Каждая итерация размышлений требует дополнительного ввода и вывода текста, а значит — увеличивает количество затраченных токенов.

Отключить размышления нельзя.

Как работают токены

Модели работают с текстом, разбивая его на фрагменты — токены. Один токен может быть:

• частью слова (например, «техно» + «логия»);
• целым коротким словом (например, «кот»);
• символом или знаком препинания.

В среднем 1 000 токенов ≈ 750 слов на русском или английском языке.

Приведенные значения приблизительны и предназначены для общего представления о расходах. Каждая модель использует собственный токенизатор с уникальной логикой разбиения текста

Токены тарифицируются как на входе, так и на выходе. Например, если ваш запрос содержит 20 токенов, а ответ от модели — 30 токенов, то всего будет списано 50 токенов из доступной квоты.

Типы тарификации агентов

Для агентов доступны два вида тарификации: пакетная и поресурсная. На аккаунте могут быть агенты либо только с пакетной, либо только с поресурсной тарификацией. 

Лимит потребления токенов

Опция доступна только для агентов с поресурсной тарификацией.

При создании агента и в дальнейшем в его настройках вы можете настроить лимит потребления токенов, чтобы контролировать их расход. 

Для этого:

1. Кликните на нужного агента в разделе «AI-агенты».
2. Перейдите на вкладку «Управление» и кликните «Установить лимиты».
3. Включите или отключите лимит и установите нужное значение.

База знаний

Расчет стоимости

Стоимость базы знаний складывается из двух составляющих:

• Абонентская плата за токены
  При создании базы знаний сразу списывается 450 ₽ за 10 млн токенов. Токены расходуются на индексацию базы, а также на все запросы к ней. Этот платеж повторяется ежемесячно.
• Почасовая оплата за базу данных OpenSearch
  Для работы базы знаний используется облачная база данных. После создания базы начинает взиматься почасовая оплата. Размер платы зависит от выбранной конфигурации.

При создании базы данных выбирайте минимальный подходящий тариф — в дальнейшем его можно будет увеличить. Уменьшение тарифа недоступно.

Пример расчета

При создании базы знаний с минимальной конфигурацией:

• Сразу списывается 450 ₽ за 10 млн токенов (ежемесячный платеж).
• В течение всего месяца с аккаунта списывается 1,23 ₽ каждый час за работу базы данных.

Дополнительные токены

При необходимости вы можете добавлять токены по цене 60 ₽ за 1 000 000 токенов, нажав кнопку «Добавить токены» в панели управления базой знаний.

Дополнительные токены будут добавлены до конца оплаченного периода. То есть, если следующее списание за единый тариф произойдет через два дня, дополнительные токены пропадут через два дня.

Расход токенов при индексации

Для индексации используется модель встраивания text-embedding-3-large, которая преобразует тексты в векторный формат. Это необходимо для индексации данных и последующей работы с ними. 

Расход токенов при индексации зависит от формата загружаемого файла. Ниже — пример приблизительного потребления токенов при загрузке документов разных объемов:

Фактический расход может отличаться в зависимости от структуры и содержания файла.