Статистика использования ИИ-сервисов

В разделе «ИИ-сервисы» → «Активность» приводится статистика по запросам всех ключей AI Gateway и всех агентов аккаунта за выбранный период. 

Доступны два режима просмотра данных:

• Активность отвечает на вопрос, что происходило за выбранный период: расходы, запросы, токены, кэширование, топы ключей и агентов, распределение по моделям.
• Тренды покажут, что изменилось: какие модели, ключи и агенты начали использоваться заметно больше.

Особенности и ограничения

• Данные доступны за последние 90 дней. Более старые данные получить невозможно.
• Дни считаются по часовому поясу браузера. Столбец конкретного дня на графике включает запросы с 00:00 до 24:00 по местному времени.

Общие показатели за период

Чтобы просмотреть показатели за конкретный период:

1. Перейдите в раздел «ИИ-сервисы» → «Активность».
2. Выберите «Показать активность».
3. Выберите нужный период или задайте его вручную.

Рядом с каждым показателем отображается график по дням выбранного периода, с подсказкой по наведению. Если графика нет, значение не менялось.

Как работает сравнение с прошлым периодом

• Изменение рассчитывается относительно предыдущего отрезка точно такой же длины. Например, если выбран текущий месяц с 1-го по 15-е число, сравнение проводится с 15 днями, предшествующими 1-му числу.
• Изменение расходов отображается в рублях и процентах, у остальных показателей — в процентах. Если в прошлом периоде значение равнялось нулю и процент рассчитать нельзя, будет отображена только абсолютная разница.
• Изменения считаются в процентах от значения прошлого периода. Например, если доля кэша выросла с 30% до 33%, изменение составит 10%, а не 3%.

Расход средств

Общая сумма расходов и ее динамика видны в блоке «Расходы». Чтобы понять, за счет чего она сложилась, обратите внимание на блоки ниже:

• «Топ API-ключей» и «Топ агентов» показывают ключи и агентов, на которые приходится больше всего списаний. Для каждой позиции указаны сумма и количество токенов.
• График «Расходы по моделям» показывает, какие модели обходятся дороже всего и в какие дни расходы были максимальными. Три модели с наибольшими расходами выделены отдельными цветами, остальные объединены в категорию «Остальное».

Расход токенов

Общее количество токенов можно найти в блоке «Токены». 

Для детализации обратитесь к графику «Токены по типам»: он разделяет входящие токены, исходящие и токены рассуждений. Это позволяет определить, что именно формирует расход: объемные запросы, длинные ответы или «размышления» модели.

Если растет значение в блоке «Средняя цена за 1 млн токенов» при стабильном объеме токенов, это может означать, что нагрузка сместилась на более дорогие модели.

Эффективность кэширования

Блок «Доля кэша» показывает, какая часть входящих токенов была прочитана из кэша. 

Ниже на графике «Кэширование входа» можно посмотреть эти данные по дням: входящие токены из кэша и без него.

Токены, прочитанные из кэша, тарифицируются дешевле обычных входящих токенов, поэтому доля кэша напрямую влияет на расходы. Чем выше доля, тем ниже стоимость повторяющихся запросов.

Самые используемые и самые затратные модели

Наиболее востребованные модели видны на графике «Запросы по моделям», а модели с наибольшими расходами — на графике «Расходы по моделям». 

Три модели с максимальными значениями выделены отдельными цветами, остальные сгруппированы в «Остальное».

Самые затратные ключи и агенты

В блоках «Топ API-ключей» и «Топ агентов» отображаются ключи AI Gateway и агенты с наибольшими расходами за период.

Если ключ удален, он будет отображаться в списке со своим прежним именем. Удаленный агент будет показан как «Удаленный агент».

Тренды

Режим «Тренды» показывает, где расходы, токены или запросы растут быстрее всего. Здесь доступны три графика: модели, API-ключи и агенты. 

1. Перейдите в раздел «ИИ-сервисы» → «Активность».
2. Выберите «Показать тренды».
3. Выберите нужный период или задайте его вручную.
4. На графиках выберите, по какой метрике вывести данные: по расходам, токенам или запросам.

Справа от графика вы увидите три растущие позиции по выбранной метрике. Первыми идут новые позиции, которых не было в прошлом периоде, далее — по убыванию роста относительно прошлого периода.

Мелкие колебания отсеиваются. В список попадает позиция с ростом от 10%, на которую приходится не менее 1% от общей суммы на графике.

Пустой список может быть в двух случаях:

• «За период заметного роста нет» — значимых изменений не обнаружено.
• «Не с чем сравнить» — прошлый отрезок находится за пределами 90 дней.

Показатели по конкретным ключам, агентам или моделям

Вы можете отфильтровать статистику, чтобы вывести только данные по конкретным сущностям.

Фильтр действует на все блоки страницы сразу, включая тренды.

1. Перейдите в раздел «ИИ-сервисы» → «Активность».
2. Кликните на иконку воронки (фильтра) справа верху.
3. Задайте параметры фильтра:
   • Источник: выберите отображение всех источников, только агентов или только ключей.
   • Ключи, агенты и модели: укажите конкретные ключи, агенты или модели. Не более 50 в каждом списке.
4. Нажмите «Применить».

В фильтре доступны только те позиции, которые работали за выбранный период. Если по ключу не было запросов, он не будет отображаться в списке фильтра.