LLM Gateway

LLM Gateway es una API unificada para solicitudes de enrutamiento en 40+ proveedores de LLM, incluyendo OpenAI, Antropopic, Google, Meta, Mistral y DeepSeek, así que los equipos utilizan un punto final compatible con OpenAI y una clave para 200 modelos, con análisis de uso, seguimiento de costos, caché y failover automático. También se conoce como una puerta de entrada AI API, proxy LLM y API de LLM unificada. El producto es fuente abierta bajo AGPLv3 y autoanfitriona; la nube gestionada es operada por Polar Lights LLC (16192 Coastal Highway, Lewes, DE 19958, Estados Unidos). Las entrevistas públicas y la escritura de los cofundadores identifican a Luca Steeb e Ismail Ghallou (smakosh) como constructores; la página About nombra a la LLC y una comunidad de GitHub distribuida en lugar de fundadores individuales. A partir de septiembre de 2026 el repositorio GitHub theopenco/llmgateway muestra el orden de estrellas de 1.5K (API recuperar ~1,594 el 2 de septiembre de 2026).

Mecánicamente, las aplicaciones apuntan un SDK OpenAI existente (o HTTP crudo) en https://api.llmgateway.io/v1 (o una URL de base auto hospedada), autenticar con una clave de API de gateway, y mantener las cadenas de modelos intercambiables. La puerta de entrada se dirige al proveedor elegido, las fichas de metros y el costo por modelo/providente/proyecto/key, caches repetibles respuestas, y falla cuando una corriente degrada. El precio para el producto de la puerta de entrada no es una suscripción de asiento: pago-como-usted-go prepago créditos factura en la lista de proveedores tasas de ficha más un piso 5% cuota de plataforma en la compra de crédito (10 mínimo / $5,000 máximo por arriba; más 1,5% para tarjetas internacionales por precio.md última actualización 15 agosto 2026). Bring-Your-Own-Keys (BYOK) es libre con una cuota de plataforma del 0%; el alojamiento de la pila AGPLv3 es gratuito. Los modelos gratis están disponibles en el nivel libre sin comprar créditos. La empresa es personalizada (por ejemplo, por sus siglas en inglés, por sus siglas en inglés). Las superficies relacionadas de Polar Lights - planes de codificación de DevPass y miembros del chat de Lounge - son SKUs separados y no deben confundirse con matemáticas de crédito de gateway.

Qué ofrece LLM Gateway en septiembre de 2026

El trabajo a hacer es el acceso multiprovidente LLM sin cola multi-SDK. Los documentos oficiales describen el mismo bucle: una integración, la visibilidad de costes entre los proveedores, la fiabilidad a través de la failover y el caching, y ninguna entrada porque la pila es compatible con OpenAI y auto-hostable. El catálogo público en llmgateway. io/models lists supported LLMs with pricing, context windows, and capabilities; providers are enumerated at /providers. Marketing and pricing copy consistently claim 200+ modelos y 40+ proveedores. Los nuevos modelos se enumeran normalmente dentro de unas 48 horas de liberación del proveedor (hogar/Acerca).

Las superficies de desarrolladores más allá de las terminaciones de chat incluyen embeddings, visiones, rutas de generación de imágenes y vídeos (especializada en la página de comparación de Portkey), compatibilidad con mensajes de Anthropic, ayudantes OCR/documento, endpoints en tiempo real/habla/transcripción en la superficie de OpenAPI, un servidor MCP con metadatos conocidos, una integración de proveedores AI SDK y plantillas de agente/skills. La documentación legible por máquina se distribuye como OpenAPI en api.llmgateway.io/openapi.json y texto concatenado en llmgateway.io/llms-full.txt; las páginas aceptan el encabezado Accept: text/markdown para agentes. Nota-limitación 429 respuestas incluyen Retry-After y RateLimit . La API se ha convertido en /v1.

Cifras de volumen indicadas en la página Acerca de: más de 100B+ tokens enrutados a través de más de 20M+ solicitudes. Las estadísticas oficiales de la página Acerca de proporcionan la base de referencia verificada. La comercialización de la empresa también cita el cumplimiento de SOC 2 Tipo II (report request via security.llmgateway.io), DPA/subprocesadores alineados con el GDPR, Tgamentos TLS en tránsito y AES-256 en reposo incluyendo claves de proveedor, y estado en status.llmgateway.io.

Dónde se sitúa LLM Gateway frente a OpenRouter, LiteLLM y Portkey

en contra OpenRouter, la diferencia más clara es la forma de auto hospedaje y de honorarios. LLM La propia página de comparación de Gateway se posiciona como abierta/flexible a partir de $0 con libre para siempre auto-host, plana 5% en las compras de crédito, y libre BYOK; describe OpenRouter como un proxy hospedado con 5,5% de cuota de plataforma en créditos de tarjeta y BYOK que se convierte en pago por encima de umbral de los umbrales publicados. LLM Gateway publica una guía de migrate-desde OpenRouter: la misma API compatible con OpenAI y el patrón de anillo de modelo - swap base URL y clave. Se trata de un autoanfitriono autoanfitriono, gratuito de BYOK, o de una tarifa de crédito menos anunciada.

en contra LiteLLM, ambos son proxies centrados en desarrolladores que puede ejecutarse. LiteLLM es ampliamente utilizado como una capa de traducción/proxy auto hospedado con soporte de empresa opcional (LLM Gateway’s fees blog cita LiteLLM empresa de aproximadamente $250/mes – TODOIFY en los precios en vivo de LiteLLM). LLM Gateway paquetes gateway + dashboard + trabajador como una plataforma AGPLv3 completa con una nube gestionada que carga 5% en créditos (0% BYOK). Pick LiteLLM si usted ya se estandariza en su configuración proxy y sólo necesita la traducción auto-anfitriona; elija LLM Gateway si desea un camino de proveedor libre auto-anfitrión a través de créditos gestionados en empresas SSO/guardrails sin montar el plano de control usted mismo.

Contra Portkey (no Vantaige slug confirmado en la lista local de slug en tiempo de escritura – enlace cuando importado), marcos de página de comparación de LLM Gateway Portkey como puerta de entrada + suite de LLMOps (tabla libre, luego planes pagados; honorarios blog cita Producción ~$49 / mes más sobres de registro) con recuentos de modelo más amplios, mientras que LLM Gateway destaca el proveedor automático de autocofrado AGPLv3 Portkey a menudo gana equipos que compran auto-anfitrión profunda y OpenTelemetry-centric LLMOs; LLM Gateway gana equipos que compran auto-anfitrión abierto más unificados que se pudrin multiprovidente con tasas de token paso a través.

Helicone y Kong AI Gateway sit in the same broad “AI gateway” category but did not have dedicated LLM Gateway compare URLs as of 2 September 2026 - do cannot invent feature matrices. El trabajo de Helicone es principalmente de observabilidad y registro frente a llamadas LLM; el trabajo de AI Gateway de Kong es control de API-platform para el tráfico de IA dentro del ecosistema de portal más amplio de Kong. LLM a menos de un año, a menos de un año, a menos de un año, a menos de un de manera que, en el caso de que, en el caso, de la manera, el trabajo de la mano, de la mano, en el caso, en el caso de que, en el caso, de la situación, en el caso, de que,

"Una API compatible con OpenAI para 200 modelos más a través de 40 proveedores. Los precios por ficha coinciden con las tarifas publicadas de cada proveedor; LLM Gateway cobra una cuota plana de plataforma del 5% cuando usted compra créditos. Traer las claves de su propio proveedor es gratis, y el auto hospedaje es gratuito bajo AGPLv3." - LLM La puerta de entrada de precios (pricing.md), última actualización 2026-08-15

Coste, cuotas y fricción real de uso

No hay un asiento de puerta de entrada mensual obligatorio para la API central. La fricción aparece como (1) el aumento de crédito del 5% y las tasas de tarjeta/internacionales cuando no está en BYOK, (2) el top-up mínimo de $10, (3) el costo de auto-host infra y on-call si usted deja la nube gestionada, y (4) negociación comercial empresarial cuando usted necesita SSO, registros de auditoría de SIEM, correas, etiqueta blanca, o un 99,9% SLA. Los reembolsos en las primas de crédito (y en los pagos DevPass/Lounge) son autoservicio en 14 días si se utiliza menos del 20% de la compra; DevPass Reset Passes difiere (7 días, no utilizado). Los modelos libres de nivel libre evitan los créditos enteramente para la experimentación, pero no son un sustituto de los modelos pagados de frontera.

No precio la puerta de entrada usando DevPass ($29 / $79 / $179) o Lounge ($9 / $19 / $49) – estos son productos adyacentes para el uso plano de codificación y chat de consumo. Calculadora de Token Cost y las páginas de cálculo de costos de Copilot en el sitio de marketing te ayudan a comparar el gasto de token a otras formas de facturación; siempre volver a comprobar llmgateway. io/models for live per-model rates before locking a budget.

Dónde LLM Gateway sigue fallando - y quién debería saltarlo

La amplitud de catálogo se comercializa como 200+ modelos / 40+ proveedores; OpenRouter y algunos proveedores de LLMOps anuncian catálogos anfitriones más grandes - equipos que necesitan cada modelo hospedado de cola larga puede todavía preferir un primer proxy del mercado. AGPLv3 self-host es una característica para el control y una limitación para las empresas que rechazan copyleft sin una licencia comercial para el ee/ características empresariales. . La profundidad de la observabilidad frente a herramientas especializadas como Helicone, y la profundidad de gestión de API versus Kong, siguen siendo diferentes centros de productos de gravedad.

"LLM Gateway añade el auto hospedaje completo bajo una licencia AGPLv3, el costo real más profundo y el análisis de latencia para cada solicitud, libre Traiga sus propias claves y complementos de empresa flexibles. OpenRouter es un proxy hospedado y no puede ejecutarse en su propia infraestructura". - LLM Gateway vs OpenRouter FAQ, llmgateway.io/compare/open-router, recuperada Septiembre 2026

Quién debería usar LLM Gateway - y quién debería saltarlo

Use LLM Gateway si usted necesita una integración compatible con OpenAI en muchos proveedores; si BYOK o AGPLv3 libre es un requisito de adquisición; si desea créditos gestionados con una cuota de plataforma plana explícita y sin marcación de token; o si usted está migrando fuera de OpenRouter y puede cambiar la URL base/key. La empresa se ajusta a orgs que necesitan SAML/OIDC SSO, presupuestos por miembros, correderas, registros de auditoría, chat de marca blanca, despliegue basado en Terraform y un piloto de producción de 30 días antes de un contrato largo.

Skip LLM Gateway si solo llama a un proveedor único SDK y no necesita una facturación defectuosa o unificada, hable directamente con ese proveedor. Skip the managed credit path if a specialist observability gateway (Helicone-class) del API-platform AI gateway (Kong-class) is the actual job and multi-provider model routing is incidental. Skip waiting a ChatGPT-style consumer chat product from the gateway API alone (Lounge is the separate chat membership). Saltar a inventar “modelos de fronteras libres ilimitados” – existen modelos libres, fichas de frontera siguen costando dinero a precios de proveedores.