AI Gateway — это API для работы напрямую с языковыми моделями без использования AI-агентов.
В отличие от OpenAI-совместимого API и нативного API, AI Gateway не предоставляет возможности агентов, такие как:
- RAG;
- MCP;
- Системные настройки (системный промпт, температура, ограничения на длину ответа).
AI Gateway подходит, когда требуется работать с моделями напрямую, без логики AI-агента.
Например:
- если вы реализуете собственную логику поверх моделей (строите RAG, подключение MCP);
- если нужна единая точка доступа к нескольким моделям;
- если вы уже используете OpenAI SDK и хотите переключаться между моделями без изменения кода.
Отличия AI Gateway от OpenAI-совместимого API:
|
OpenAI-совместимый API |
AI Gateway |
|
|
Объект работы |
Агент |
Модель |
|
RAG / MCP |
Есть |
Нет |
|
Системные настройки |
Можно задать в панели управления агента |
Передаются с каждым запросом |
|
Выбор модели |
Модель агента |
Любая доступная |
Для работы с API рекомендуется использовать OpenAI SDK — он абстрагирует различия и упрощает интеграцию.
Поддерживаемые методы и возможности зависят от используемой модели. Например, эндпоинт responses доступен только для моделей с поддержкой размышлений.
В AI Gateway не поддерживаются Fine-tuning — обучение и кастомизация моделей.
Отслеживать статистику использования ключей и моделей AI Gateway можно в панели управления на вкладке «Активность».