LLM Gateway

LLM Gateway est une API unifiée pour acheminer les requêtes à travers plus de 40 fournisseurs de LLM – dont OpenAI, Anthropic, Google, Meta, Mistral et DeepSeek – permettant aux équipes d'utiliser un unique point de terminaison compatible OpenAI et une seule clé API pour plus de 200 modèles, avec analyse de l'utilisation, suivi des coûts, mise en cache et basculement automatique. Le produit est open source sous licence AGPLv3 et auto-hébergeable ; le service cloud géré est exploité par Polar Lights LLC (16192 Coastal Highway, Lewes, DE 19958, États-Unis). Les cofondateurs identifiés publiquement sont Luca Steeb et Ismail Ghallou (smakosh) ; la page À propos nomme la LLC et une communauté GitHub distribuée. En septembre 2026, le dépôt GitHub theopenco/llmgateway compte environ 1,5k étoiles.

Concrètement, les applications connectent un SDK OpenAI existant (ou des requêtes HTTP brutes) à https://api.llmgateway.io/v1 (ou l'URL d'une instance auto-hébergée), s'authentifient avec une clé API de passerelle, et conservent des chaînes de modèles interchangeables. La passerelle achemine les requêtes vers le fournisseur choisi, mesure les tokens et les coûts par modèle, fournisseur, projet et clé, met en cache les réponses répétables et bascule automatiquement en cas de dégradation d'un fournisseur en amont. La tarification n'est pas un abonnement par siège : les crédits prépayés sont facturés aux tarifs catalogue des fournisseurs majorés de 5 % de frais de plateforme lors de l'achat de crédits (10 $ minimum / 5 000 $ maximum par recharge ; +1,5 % pour les cartes internationales selon les tarifs du 15 août 2026). L'option Bring-Your-Own-Keys (BYOK) est gratuite avec 0 % de frais de plateforme, tout comme l'auto-hébergement de la pile AGPLv3. Des modèles gratuits sont également proposés sans achat de crédits. L'offre Enterprise est sur mesure (remises sur volume, SSO, journaux d'audit, gardes-fous, SLA de 99,9 %, pilote de production de 30 jours). Les offres connexes DevPass et Lounge sont des produits séparés qui ne doivent pas être confondus avec la tarification de la passerelle.

Ce que LLM Gateway propose en septembre 2026

L'objectif principal est d'offrir un accès unifié à de multiples fournisseurs de LLM sans dépendre de multiples SDK. La documentation officielle met en avant la même proposition : une seule intégration, une visibilité consolidée des coûts, une haute disponibilité grâce au basculement et à la mise en cache, et l'absence de verrouillage propriétaire grâce à la compatibilité OpenAI et à l'auto-hébergement. Le catalogue public sur llmgateway.io/models répertorie les modèles pris en charge avec leurs tarifs, fenêtres de contexte et capacités. La communication officielle mentionne 200+ modèles et 40+ fournisseurs. Les nouveaux modèles sont généralement intégrés sous 48 heures après leur sortie par le fournisseur.

Au-delà de la complétion de chat, les fonctionnalités pour développeurs couvrent les embeddings, la vision, la génération d'images et de vidéos, la compatibilité avec les messages Anthropic, des helpers OCR/documents, des endpoints temps réel/audio dans OpenAPI, un serveur MCP avec métadonnées OAuth, une intégration AI SDK et des modèles d'agents. La documentation OpenAPI est publiée sur api.llmgateway.io/openapi.json et sous forme de texte brut sur llmgateway.io/llms-full.txt. Les erreurs 429 de limitation de débit incluent les en-têtes Retry-After et RateLimit-*. L'API est versionnée sous /v1.

Chiffres de volume indiqués sur la page À propos : plus de 100 milliards de tokens acheminés à travers plus de 20 millions de requêtes. Les statistiques officielles de la page À propos constituent la référence vérifiée. Le marketing d'entreprise cite également la conformité SOC 2 Type II (demande de rapport via security.llmgateway.io), des accords de traitement de données (DPA) et sous-traitants alignés sur le RGPD, le chiffrement TLS en transit et AES-256 au repos, y compris pour les clés API, ainsi qu'une page de statut sur status.llmgateway.io.

Positionnement de LLM Gateway face à OpenRouter, LiteLLM et Portkey

Face à OpenRouter, la différence majeure réside dans l'auto-hébergement et la structure des frais. LLM Gateway se positionne comme une solution ouverte dès 0 $ avec auto-hébergement gratuit à vie, 5 % forfaitaires sur les achats de crédits et BYOK gratuit. OpenRouter fonctionne comme un proxy hébergé avec 5,5 % de frais sur les crédits par carte et un BYOK soumis à tarification au-delà de certains seuils. LLM Gateway propose un guide de migration depuis OpenRouter : même API compatible OpenAI et même format de chaînes de modèles, en changeant simplement l'URL de base et la clé API. Choisissez OpenRouter pour un vaste marketplace hébergé sans gérer d'infrastructure ; choisissez LLM Gateway pour l'auto-hébergement AGPLv3, le BYOK gratuit ou des frais de crédits réduits.

Face à LiteLLM, les deux outils sont des proxys pour développeurs que l'on peut auto-héberger. LiteLLM est largement utilisé comme couche de traduction et proxy open source avec support entreprise optionnel. LLM Gateway regroupe passerelle, tableau de bord et workers au sein d'une plateforme AGPLv3 complète, complétée par un cloud géré facturant 5 % sur les crédits (0 % en BYOK). Privilégiez LiteLLM si vous êtes déjà standardisé sur sa configuration proxy pour de la simple traduction de requêtes ; choisissez LLM Gateway si vous souhaitez une solution complète allant du self-host gratuit aux crédits gérés et aux fonctions d'entreprise (SSO, gardes-fous) sans assembler vous-même le plan de contrôle.

Face à Portkey, LLM Gateway met l'accent sur l'auto-hébergement complet AGPLv3, le scoring automatique des fournisseurs sur métriques réelles, une tarification transparente 5 % / 0 % BYOK, et la prise en charge d'images et vidéos via la même API. Portkey séduit généralement les équipes recherchant une gestion poussée des prompts et des outils LLMOps axés OpenTelemetry ; LLM Gateway séduit celles cherchant l'auto-hébergement libre et le routage multi-fournisseurs sans marge sur les tokens.

Helicone et Kong AI Gateway relèvent de la même grande catégorie « passerelle IA » mais répondent à des besoins différents. Helicone se concentre sur l'observabilité et les logs d'appels LLM, tandis que Kong AI Gateway gère le contrôle du trafic IA au sein de son écosystème d'API. Le rôle de LLM Gateway est l'accès multi-fournisseurs unifié avec options d'auto-hébergement et d'utilisation commerciale transparente.

"Une API compatible OpenAI pour plus de 200 modèles sur plus de 40 fournisseurs. Les prix par jeton correspondent aux tarifs publiés par chaque fournisseur ; LLM Gateway facture 5 % de frais de plateforme lors de l'achat de crédits. L'utilisation de vos propres clés est gratuite, et l'auto-hébergement est libre sous licence AGPLv3." - LLM Gateway Pricing (pricing.md), 15 août 2026

Coûts, quotas et contraintes d'usage

Il n'y a pas d'abonnement mensuel obligatoire par siège pour l'API principale. Les contraintes concernent principalement : (1) les 5 % de frais sur les crédits et les frais de carte internationale lorsque vous n'êtes pas en BYOK, (2) la recharge minimale de 10 $, (3) l'infrastructure et la maintenance en cas d'auto-hébergement, et (4) les négociations commerciales pour les besoins Enterprise (SSO, journaux d'audit SIEM, gardes-fous, marque blanche ou SLA 99,9 %). Les remboursements de crédits s'effectuent en libre-service sous 14 jours si moins de 20 % du solde a été consommé. Les modèles gratuits permettent d'expérimenter sans crédits mais ne remplacent pas les modèles frontières payants.

Ne confondez pas les tarifs de la passerelle avec DevPass (29 $ / 79 $ / 179 $) ou Lounge (9 $ / 19 $ / 49 $), qui sont des produits connexes pour le codage ou le chat grand public. Des calculateurs de coûts sur le site officiel permettent de comparer les dépenses en tokens avec d'autres modèles de facturation ; vérifiez toujours les tarifs actuels par modèle sur llmgateway.io/models.

Les limites actuelles de LLM Gateway

Bien que le catalogue annonce plus de 200 modèles et 40 fournisseurs, certains acteurs axés marketplace proposent un catalogue hébergé plus étendu pour les modèles de niche. L'auto-hébergement AGPLv3 offre un contrôle total mais constitue une contrainte pour les entreprises refusant le copyleft sans licence commerciale pour les fonctionnalités ee/. Enfin, la profondeur d'observabilité reste différente de spécialistes comme Helicone, tout comme la gestion d'API par rapport à Kong.

"LLM Gateway ajoute un auto-hébergement complet sous licence AGPLv3, une analyse approfondie des coûts et de la latence en temps réel pour chaque requête, le Bring-Your-Own-Keys gratuit et des options entreprise flexibles. OpenRouter est un proxy hébergé uniquement qui ne peut pas être exécuté sur votre propre infrastructure." - FAQ LLM Gateway vs OpenRouter, llmgateway.io/compare/open-router

Qui devrait utiliser LLM Gateway – et qui devrait l'éviter

Utilisez LLM Gateway si vous avez besoin d'une intégration unique compatible OpenAI vers de multiples fournisseurs, si le BYOK gratuit ou l'auto-hébergement AGPLv3 est un prérequis d'approvisionnement, si vous souhaitez des crédits gérés avec des frais forfaitaires clairs sans marge sur les tokens, ou si vous migrez depuis OpenRouter en changeant simplement l'URL de base et la clé. L'offre Enterprise convient aux organisations nécessitant le SSO SAML/OIDC, des budgets par collaborateur, des gardes-fous, des journaux d'audit et un pilote de production avant engagement.

Évitez LLM Gateway si vous n'utilisez qu'un seul SDK de fournisseur sans besoin de basculement ni de facturation unifiée. Évitez les crédits gérés si une passerelle d'observabilité pure (type Helicone) ou une passerelle d'API d'entreprise (type Kong) répond mieux à votre cas d'usage. Enfin, ne vous attendez pas à un chatbot grand public de type ChatGPT à partir de la seule API de passerelle (Lounge étant le produit de chat séparé).