Kong AI Gateway

Kong AI Gateway es la capa de gobernanza de tráfico de LLM y agentes construida sobre Kong Gateway, el gateway de API de código abierto ampliamente implementado de Kong Inc., una empresa de San Francisco fundada en 2017. Aborda un problema empresarial que crece con cada modelo que se adopta: a medida que una organización integra OpenAI, Anthropic, Bedrock, Gemini, Mistral y otros en sus sistemas internos y flujos de trabajo de agentes, el control se fragmenta, ya que cada proveedor aporta su propio SDK, credenciales, medidor de costos y comportamiento de límite de velocidad. Kong se sitúa frente a todos ellos como un único plano de control para el enrutamiento, la contención de costos, la seguridad y la observabilidad. No es un binario independiente, sino Kong Gateway más un conjunto de plugins de IA, que se ejecutan de forma autohospedada o a través del plano de control gestionado Konnect de Kong.

Sus capacidades abarcan el enrutamiento y balanceo de carga multiproveedor, la limitación de velocidad y cuotas basadas en tokens, el almacenamiento en caché semántico que omite llamadas duplicadas, la sanitización de PII y protecciones contra la inyección de prompts, así como paneles de control para el gasto de tokens y la latencia por modelo. Para abril de 2026, el Agent Gateway de la versión 3.14 amplió esa gobernanza a dos tipos de tráfico más allá de las llamadas LLM sin procesar: el tráfico de herramientas del Model Context Protocol (MCP) y la comunicación de agente a agente, lo que, según Kong, lo convierte en el único gateway que cubre los tres desde un solo plano de control. Seis plugins principales de IA son gratuitos y de código abierto en Kong Gateway, mientras que las funciones más avanzadas se encuentran en los niveles de pago de Konnect. Kong en sí está bien capitalizada, con una Serie E de $175 millones a finales de 2024 con una valoración de $2 mil millones.

Lo que gobierna Kong AI Gateway en junio de 2026

El modelo mental es un único punto de control para todo el tráfico de IA. En lugar de que cada servicio tenga sus propias claves de proveedor, las llamadas fluyen a través de Kong, que aplica políticas de enrutamiento, autenticación, límites de velocidad, almacenamiento en caché y seguridad en un solo lugar, para luego emitir una observabilidad unificada. Esto es genuinamente valioso a gran escala: se puede limitar el gasto de tokens por equipo, realizar una conmutación por error de un proveedor a otro, almacenar en caché prompts semánticamente similares para reducir costos y eliminar la PII antes de que llegue a un modelo.

"Con solo actualizar su Kong Gateway actual a la versión 3.6, podrá utilizar estos nuevos plugins enfocados completamente en el uso de IA y LLM". Marco Palladino, CTO de Kong, febrero de 2024.

El paso más reciente y distintivo se produjo el 14 de abril de 2026, cuando Kong lanzó el Agent Gateway en la versión 3.14, añadiendo la gobernanza de la comunicación de agente a agente a través del protocolo A2A de Google, además del soporte existente para LLM y MCP. Ese lanzamiento trajo consigo la identidad y autenticación de agentes, la inspección en tiempo real de flujos de agente a agente en busca de violaciones de políticas e inyección de prompts, la asignación de costos por agente y un registro de auditoría completo. La adquisición por parte de Kong de la empresa de medición OpenMeter en septiembre de 2025 indica que también está trabajando en el aspecto del seguimiento de costos de tokens.

Los plugins de código abierto frente a Konnect de pago

La división entre lo gratuito y lo de pago importa más aquí que con la mayoría de las herramientas. Kong Gateway es genuinamente gratuito y Apache 2.0, y desde la versión 3.6 en febrero de 2024 incluye seis plugins de IA sin costo, que cubren el proxy de LLM, la protección de prompts y la transformación de solicitudes y respuestas. Lo que el nivel de código abierto no incluye es la parte que la mayoría de los equipos de IA realmente desean: limitación de velocidad basada en tokens (el nivel gratuito solo cuenta las solicitudes HTTP), almacenamiento en caché semántico, sanitización de PII a escala, la interfaz gráfica de gestión, SSO, análisis avanzados y la gobernanza de MCP y A2A. Estos requieren Konnect, que ofrece una prueba gratuita de 30 días, seguida de un nivel Plus de autoservicio que incluye un millón de solicitudes de API por mes con $200 por cada millón adicional y hasta cinco modelos LLM, y un nivel Enterprise con modelos ilimitados, SSO, registros de auditoría y SLA personalizados que generalmente alcanza las decenas de miles de dólares al año. Kong no cobra por token; usted sigue pagando directamente a los proveedores por ello.

Kong frente a LiteLLM y Portkey

Frente a LiteLLM, el contraste radica en el peso y el lenguaje. LiteLLM se ejecuta como un proceso ligero de Python en un servidor pequeño con PostgreSQL, es nativo de Python, por lo que los ingenieros de IA lo amplían con las herramientas que ya conocen, y cubre una amplia lista de proveedores. El autohospedaje de Kong implica ejecutar Nginx, una base de datos y nodos del plano de datos, y los plugins personalizados se escriben en Lua, un lenguaje de nicho en los círculos de IA. El propio benchmark de Kong lo muestra muy por delante en rendimiento bruto, pero esa ventaja es en gran medida irrelevante cuando la propia latencia del proveedor de LLM de cientos de milisegundos eclipsa unos pocos milisegundos de sobrecarga del gateway. Donde Kong toma la delantera es en la gobernanza empresarial madura: RBAC, SSO, registros de auditoría y la cobertura de MCP y A2A de la que carece LiteLLM. Portkey es el otro rival, diseñado específicamente para el tráfico de LLM con plugins nativos de Python y precios por solicitud, mientras que Kong es un gateway de API adaptado a la IA con precios por servicio. El resumen honesto es que Kong gana cuando se desea unificar la gobernanza de la IA con la gobernanza más amplia de API y microservicios que ya se ejecuta, y un enrutador multi-LLM como OpenRouter o un backend como Together AI cubren una porción más estrecha de la misma necesidad.

Dónde el modelo de Kong frustra a los equipos de IA

La queja recurrente es que el modelo de precios se creó para las API tradicionales, no para los agentes.

"Un solo flujo de trabajo de agente podría desencadenar una cadena de más de 20 llamadas a API internas. Este efecto multiplicador hace que Kong sea económicamente ineficiente para las aplicaciones de IA agéntica". Análisis técnico de TrueFoundry, 2026.

Debido a que cada modelo o proveedor cuenta como un servicio de gateway independiente, y los flujos de trabajo agénticos se despliegan en muchas llamadas internas por acción del usuario, los costos pueden aumentar rápidamente; un análisis estima aproximadamente $2,625 por mes solo en tarifas de servicio para cinco integraciones de LLM en veinte microservicios. El requisito de Lua para los plugins personalizados es una verdadera barrera de entrada para los equipos de IA que priorizan Python, el autohospedaje a escala de producción conlleva una sobrecarga operativa desproporcionada para los equipos cuya única necesidad es un gateway de IA, la documentación para las funciones específicas de IA va a la zaga del núcleo maduro, y varias capacidades que los equipos esperaban en el lanzamiento, como el balanceo de carga de modelos y el proxy de MCP, llegaron meses después. El patrón de ir a la zaga de las herramientas nativas de IA en funciones específicas de IA se ha reducido para 2026, pero persiste.

Para quién es Kong AI Gateway y a quién le queda grande

Kong es una excelente opción para los equipos que ya ejecutan Kong Gateway para la gestión de API que no son de IA, donde agregar plugins de IA tiene un costo marginal bajo y la observabilidad unificada es una ganancia real. Se adapta a las empresas que necesitan gobernanza de MCP y de agente a agente, a las industrias reguladas que requieren sanitización de PII, registros de auditoría y RBAC sobre el tráfico de LLM, y a los grandes equipos de ingeniería con la experiencia en plataformas para escribir plugins en Lua y ejecutar la infraestructura.

Le queda grande a la mayoría de los pequeños equipos de productos de IA y startups que aún no usan Kong, donde la sobrecarga operativa y los precios por servicio favorecen las estrategias de consolidación en lugar de la infraestructura de IA desde cero, y una herramienta más simple como LiteLLM encaja mejor. Los equipos nativos de Python que desean ampliar el gateway con lógica al estilo LangChain, los equipos cuyo verdadero cuello de botella es la latencia del proveedor en lugar de la sobrecarga del gateway, cualquiera que espere precios por token en el gateway y los desarrolladores independientes que necesitarían Konnect de pago para las funciones avanzadas deberían buscar en otra parte. Los equipos que enrutan a modelos alojados como Fireworks AI sin necesidades de gobernanza empresarial encontrarán que Kong es más pesado de lo que requiere el trabajo.