4 ноября 2026 года Kong представил AI Management в составе Kong Konnect, добавив контроль расходов на ИИ, учетных данных, управляемого поиска и наблюдаемости для продуктивных агентов. Управление затратами, работа с учетными данными, контекст и базовая наблюдаемость входят в Kong AI Gateway на Konnect, а не продаются отдельными дополнениями. Это важно, поскольку задачи с несколькими моделями затрагивают модели, MCP-серверы, API и инструменты, и разрозненный контроль становится трудно поддерживать.
Затраты, доступы и поиск в одном шлюзе
Kong описывает выпуск через четыре операционных пробела: расходы, которые нельзя отнести на команду или приложение, учетные данные в коде агентов или промптах, многократное обертывание API в инструменты агентов и отсутствие сводного учета действий агента. Компания размещает контроль в тракте связности, чтобы политики и данные использования следовали за взаимодействиями между моделями, MCP-серверами и агентами. Управляемый поиск моделей, MCP-серверов и агентов входит в расширенный выпуск. Действующие клиенты шлюза на Konnect получают базовые компоненты без дополнительной покупки.
AI Cost Management связывает данные потребления шлюза с идентификатором и контекстом запроса, чтобы относить расходы на бизнес-подразделения, команды, приложения, агентов, пользователей, клиентов или арендаторов. Каталог цен централизует тарифы провайдеров на токены и расходы и допускает переопределения для договорных условий. Интеграции со сторонними инструментами ИИ расширяют учет на среды кодирования, copilots и процессы разработки. Команды могут задавать бюджеты для этих групп и получать оповещения при приближении к порогам. Обзор в Konnect добавляет жесткие и мягкие бюджеты и панель сравнения расходов с лимитами по командам, средам или репозиториям.
Оптимизация работает на уровне инфраструктуры через интеллектуальную маршрутизацию моделей, семантическое кэширование, кэширование промптов, сжатие промптов и управление reasoning. Kong отмечает, что выгода зависит от нагрузки: семантическое кэширование подходит для повторяющихся запросов, а маршрутизация полезна, когда дорогие модели выполняют задачи, доступные более дешевым альтернативам. Функция Opportunities для поиска экономии и замера эффекта помечена как скоро ожидаемая. Token Vault с трехсторонним OAuth для каждого пользователя, вышедший в Kong AI Gateway 2.3, включен во все подписки Kong Gateway. Context Management уже стал общедоступным 30 сентября 2026 года.
Что это меняет для эксплуатации ИИ
Для компаний, использующих copilots и среды кодирования, детализация затрат до команды, репозитория, пользователя или арендатора меняет управление счетами за ИИ и внутренние взаиморасчеты. Жесткие бюджеты ограничивают потребление, а мягкие предупреждают до достижения лимита, при этом панель показывает, где концентрируется использование дорогих моделей. Небольшие компании получают готовый учет расходов без собственной разработки, а крупные организации могут связать затраты на ИИ с логикой центров затрат. Маршрутизация и кэширование дают путь к снижению счетов за токены без переписывания приложений.
Token Vault убирает учетные данные из кода агентов, аутентифицируя пользователей и агентов на прокси MCP-сервера через корпоративные данные провайдера идентификации. При первом использовании шлюз возвращает краткосрочную ссылку регистрации, пользователь проходит обычное согласие OAuth, а refresh-токены шифруются ключом клиента для хранения в Kong Identity. При последующих вызовах шлюз расшифровывает данные в памяти ключом из хранилища секретов клиента, подставляет их в запрос и обновляет по мере необходимости. Агент получает ответ, не видя токена, а отзыв доступа в политике действует сразу, еще до отзыва на стороне сервиса.
Маркером для проверки станет выпуск расширенной трассировки сессий и шагов, запланированный на конец ноября или начало декабря 2026 года. Этот механизм должен показывать входы, выходы, токены, стоимость, задержки, проверки политик и вызовы инструментов для отдельного шага. Его появление вместе с замером экономии в Opportunities покажет, станет ли Konnect общим слоем ответственности за агентов. До этого момента базовый контроль затрат, идентификации и поиска доступен, а полная детализация аудита остается ожидаемой.
