DeepInfra

DeepInfra est une plateforme d'inférence cloud conçue spécifiquement pour exécuter des modèles d'IA open source à bas coût et à grand volume. Ce n'est pas un créateur de modèles, mais un hébergeur d'inférence : vous envoyez des requêtes à ses points de terminaison compatibles avec OpenAI, les modèles s'exécutent sur la propre infrastructure GPU verticalement intégrée de DeepInfra, et les résultats reviennent en quelques millisecondes. L'entreprise a été fondée en septembre 2022 à Palo Alto par Nikola Borisov, Yessen Kanapin et Georgios Papoutsis, la même équipe qui a créé l'application de messagerie imo, utilisée par plus de 200 millions de personnes. À la mi-2026, la plateforme traite près de cinq mille milliards de tokens par semaine répartis sur huit centres de données américains, ce qui représente une véritable échelle de production plutôt qu'une simple métrique de lancement.

Une seule clé API permet d'accéder à plus de 150 modèles, couvrant la génération de texte, le raisonnement, les embeddings, l'image, la reconnaissance vocale (speech-to-text), et bien plus encore, provenant de DeepSeek, Llama, Qwen, Mistral, Gemma et d'autres. La transition se résume à un simple changement d'URL de base pour quiconque utilise déjà le SDK OpenAI, LiteLLM ou des outils similaires. L'attrait principal réside dans le prix : Mistral Nemo à $0.02 en entrée et $0.04 en sortie par million de tokens est presque le tarif le plus bas disponible sur le marché, et un H100 dédié coûte $1.79 par heure, soit une fraction du prix des concurrents premium. DeepInfra est certifié SOC 2 et ISO 27001 avec une politique de zéro rétention des données, et sa levée de fonds de série B en mai 2026 a inclus NVIDIA en tant qu'investisseur stratégique.

Ce que DeepInfra propose en juin 2026

Le produit est délibérément ciblé et approfondi : une inférence serverless sur un catalogue soigneusement sélectionné de plus de 150 modèles, facturée uniquement à l'usage, sans abonnement ni licence par utilisateur. La génération de texte en est le cœur, mais le catalogue s'étend également aux embeddings, aux modèles d'image comme FLUX, à la reconnaissance vocale et aux rerankers, permettant ainsi à une application multimodale de rester chez un seul fournisseur. Pour les équipes ayant besoin d'isolation, DeepCluster propose des instances GPU dédiées avec des points de terminaison privés et la prise en charge de poids personnalisés ou affinés, bien qu'il n'y ait pas de pipeline de fine-tuning géré. La trajectoire de l'entreprise est fulgurante : une série A de $18 millions en avril 2025 a révélé un volume de tokens multiplié par 8 000 depuis l'amorçage, et le 4 mai 2026, une série B de $107 millions co-dirigée par 500 Global avec NVIDIA comme investisseur nommé a été annoncée, accompagnée d'une collaboration sur l'optimisation de l'inférence Nemotron et d'un accès aux GPU de classe Blackwell. Cette relation avec NVIDIA est le signal le plus clair que DeepInfra est bien plus qu'une simple API bon marché.

DeepInfra face à Groq et Together AI

Face à Groq, le compromis se situe entre le coût et la vitesse. Le silicium LPU personnalisé de Groq sert un modèle de 120B à environ 476 tokens par seconde contre 161 pour DeepInfra, mais DeepInfra facture une fraction du prix et propose un choix de modèles dix fois supérieur, puisque Groq n'exécute qu'une poignée de modèles sur du matériel dédié exclusivement à l'inférence. Choisissez Groq lorsque chaque centaine de millisecondes compte, et DeepInfra lorsque le coût et la diversité priment. Face à Together AI, DeepInfra est tout simplement moins cher, souvent de 67 à 76 % sur les mêmes modèles Llama, mais Together possède un net avantage en matière de fine-tuning, offrant un pipeline complet d'entraînement et de déploiement qui fait défaut à DeepInfra, ainsi qu'un catalogue plus riche de modèles mixture-of-experts. Une équipe qui a besoin d'affiner et de déployer à partir d'une seule API se tournera vers Together ; une équipe optimisant le coût pur de l'inférence penchera pour DeepInfra. En matière de fiabilité, les données de routage provenant d'agrégateurs comme OpenRouter ont signalé une disponibilité plus faible sur certains des points de terminaison les moins populaires de DeepInfra, ce qui constitue la mise en garde récurrente.

Où DeepInfra frustre les développeurs

La plainte la plus fréquente concerne la stabilité des prix. Étant donné que les modèles sont tarifés individuellement et peuvent changer sans grand préavis, l'économie d'une charge de travail peut basculer à tout moment.

"Ils vous attirent avec des prix bas et augmentent le tarif de 400 % ou suppriment le modèle, vous forçant à utiliser des versions plus chères." Simon M., SourceForge, septembre 2025.

Cet utilisateur a documenté trois changements de prix en moins d'un mois, y compris un modèle supprimé sans remplacement. Le deuxième problème récurrent concerne les performances sur les modèles de niche : les points de terminaison populaires restent rapides, mais ceux moins utilisés peuvent se dégrader fortement sous la charge, et les rapports de bugs ne reçoivent pas toujours de réponse.

"Deepinfra a ralenti jusqu'à devenir extrêmement lent. J'aimais beaucoup Deepinfra mais quelque chose ne tourne pas rond." wolttam, Hacker News, avril 2026.

Le support passe principalement par un formulaire commercial plutôt que par un canal technique, les dépréciations de modèles arrivent sans chemin de migration, et les paliers de facturation prépayée augmentent discrètement la recharge minimale à mesure que vous évoluez, jusqu'à $10,000 au niveau le plus élevé. Rien de tout cela n'est rédhibitoire vu le prix, mais c'est la raison pour laquelle les équipes de production gardent toujours un fournisseur de secours configuré.

Qui devrait utiliser DeepInfra, et qui devrait l'éviter

DeepInfra est un excellent choix pour les équipes soucieuses des coûts qui traitent de gros volumes de tokens, pour les développeurs qui utilisent déjà le SDK OpenAI et souhaitent des modèles ouverts moins chers via un simple changement d'URL de base, pour les produits multimodaux qui veulent un vaste catalogue auprès d'un seul fournisseur, et pour les acheteurs qui ont besoin des normes SOC 2 ou ISO 27001 avec une rétention de données nulle. Les startups financées peuvent également profiter du programme DeepStart pour obtenir un milliard de tokens gratuits.

C'est le mauvais choix si vous ne pouvez pas tolérer des changements soudains de prix ou de modèles sans préavis, si vous avez besoin d'un pipeline de fine-tuning géré (Together AI est plus adapté), si vous avez besoin d'une fiabilité garantie des sorties structurées sur chaque modèle (Fireworks AI est plus performant sur ce point), ou si la latence est le cœur de votre produit et que l'avantage matériel de Groq justifie son surcoût. Quiconque développe sur un modèle tout nouveau ou de niche devrait tester la fiabilité en charge réelle avant de s'engager.