Databricks Mosaic AI

Databricks Mosaic AI est la suite de produits d'IA intégrée à la Databricks Data Intelligence Platform, destinée aux équipes d'ingénierie des données et de ML des entreprises qui ont besoin d'un contrôle de bout en bout sur la façon dont les modèles d'IA sont construits, ajustés, déployés et gouvernés. Il ne s'agit pas d'un produit d'IA autonome : c'est une couche profondément intégrée au-dessus du Databricks Lakehouse, conçue pour les organisations qui exécutent déjà leur infrastructure de données sur Databricks et qui souhaitent étendre cet investissement à l'IA en production. La marque Mosaic AI tire son nom de MosaicML, la startup d'IA générative que Databricks a acquise en juillet 2023 pour $1.3 billion, dont l'équipe a apporté l'entraînement de LLM optimisé pour les GPU et la famille de modèles MPT dans l'écosystème Databricks.

La plateforme couvre six grands domaines de capacités : Mosaic AI Agent Framework pour la création d'applications RAG et basées sur des agents ; Mosaic AI Agent Evaluation avec des juges d'IA automatisés pour la mesure de la qualité ; Mosaic AI Vector Search, une base de données vectorielle gérée qui se synchronise automatiquement à partir des tables Delta ; Mosaic AI Model Serving pour le déploiement d'agents et de LLM à grande échelle ; Mosaic AI Model Training pour le fine-tuning ou le pré-entraînement de modèles open-source sur des données propriétaires ; et Managed MLflow pour le suivi des expériences et le MLOps. En juin 2025, Databricks a ajouté Unity AI Gateway (une couche de gouvernance centralisée pour tous les LLM et serveurs MCP) et Agent Bricks (un outil de création d'agents automatisé) lors du Data + AI Summit. La plateforme prend en charge des modèles tiers, notamment GPT-4, Meta Llama, Anthropic Claude et Mistral, aux côtés du propre modèle de Databricks, DBRX.

Ce que fait réellement Databricks Mosaic AI en mai 2026

Mosaic AI s'articule autour du cycle de vie complet du développement de l'IA en entreprise, des données brutes aux agents en production. À partir d'une table Delta Lake, une équipe de données peut créer un index vectoriel dans Mosaic AI Vector Search qui reste synchronisé automatiquement à mesure que les données sources changent. Cet index vectoriel alimente un pipeline RAG construit à l'aide du SDK Agent Framework, qui gère l'orchestration de la récupération, la construction des prompts et la logique d'utilisation des outils. L'agent finalisé est déployé via Model Serving, qui, à la mi-2025, prend en charge plus de 250,000 requêtes par seconde et inclut un moteur d'inférence propriétaire pour les LLM open-source qui, selon Databricks, s'exécute jusqu'à 1.5x plus rapidement qu'une configuration vLLM standard.

Agent Evaluation fournit aux équipes des juges d'IA qui évaluent les réponses en fonction de leur exactitude, de leur ancrage (détection des hallucinations), de la pertinence de la récupération, de la pertinence de la réponse et de la sécurité. Une interface de révision humaine permet aux experts métier de fournir des retours supplémentaires sans avoir besoin d'expertise en ML. Ces scores alimentent directement MLflow pour la comparaison des expériences et le contrôle des déploiements. MLflow 3.0, sorti en juin 2025, a été entièrement repensé pour l'IA générative et suit désormais les agents déployés en dehors de Databricks, y compris sur AWS, GCP et les systèmes sur site.

Pour les équipes qui ont besoin de modèles personnalisés plutôt que de l'inférence de modèles de fondation hébergés, Model Training gère le fine-tuning sur des clusters GPU gérés sans aucune gestion d'infrastructure requise. La refonte Storage-Optimized Vector Search de juin 2025 a réduit les coûts d'un facteur 7x selon les affirmations, tout en passant à l'échelle de milliards de vecteurs en séparant les couches de calcul et de stockage. AI Gateway, également disponible de manière générale depuis juin 2025, offre un basculement automatique de fournisseur, des garde-fous pour les PII et la sécurité, une limitation de débit et une journalisation de l'utilisation à l'échelle de l'entreprise, routable vers n'importe quel LLM ou serveur MCP.

Agent Bricks, encore en version bêta à la mi-2025, adopte une approche de plus haut niveau : un utilisateur décrit une tâche (extraction structurée, assistance aux connaissances, transformation de texte ou coordination multi-agents), connecte les données de l'entreprise, et le système génère des évaluations et ajuste l'agent automatiquement. Les architectures d'agents prises en charge incluent la récupération en une seule étape, les chaînes de raisonnement à sauts multiples et les agents d'appel d'outils. FactSet a signalé une amélioration de 44% de la précision après le déploiement d'un agent via cette pile ; Block a signalé $10M de gains de productivité ; Intercontinental Exchange a signalé une précision de réponse de 96%.

"Mosaic AI Agent Framework nous a permis d'expérimenter rapidement avec des LLM augmentés, avec la certitude que toutes les données privées restent sous notre contrôle. L'intégration transparente avec MLflow et Model Serving garantit que notre équipe d'ingénierie ML peut passer du POC à la production avec une complexité minimale." - Analytics Director, Burberry, blog Databricks, juillet 2024

"Mosaic AI Agent Framework a changé la donne pour nous, car il nous a permis d'évaluer les résultats de nos applications GenAI et de démontrer l'exactitude de nos résultats tout en conservant un contrôle total sur nos sources de données." - VP of Data and AI, Lippert, blog Databricks, juillet 2024

Où se situe Mosaic AI par rapport à AWS Bedrock et Snowflake Cortex

Les trois plateformes d'IA d'entreprise dominantes en mai 2026 sont Databricks Mosaic AI, AWS Bedrock et Snowflake Cortex, et elles diffèrent sur le plan architectural d'une manière qui compte bien plus que de simples listes de fonctionnalités.

AWS Bedrock est une passerelle d'inférence gérée sur l'infrastructure Amazon. Elle offre un accès à Claude, Llama, Titan, Mistral et d'autres modèles tiers via une API unique, et Bedrock Knowledge Bases gère le RAG adossé à Amazon S3 et OpenSearch Serverless. Ce que Bedrock ne fait pas, c'est donner aux équipes le contrôle sur l'entraînement : le fine-tuning sur Bedrock est limité à des modèles spécifiques avec un accès restreint aux hyperparamètres, et la couche de stockage est S3, qui ne dispose pas des garanties de transaction ACID et de l'application de schémas de Delta Lake. Le modèle opérationnel de Bedrock est plus simple : les équipes n'ont pas besoin d'expertise Spark, et la facturation se fait par token d'API. Le compromis est une moindre flexibilité pour les équipes qui ont besoin de combiner le fine-tuning avec le RAG sur le même pipeline de données, ou qui souhaitent des cycles d'entraînement complets sur des architectures de modèles propriétaires. Mosaic AI prend en charge les quatre principaux modèles d'IA (prompt engineering, RAG, fine-tuning, pré-entraînement) dans une plateforme unifiée ; Bedrock est plus performant sur les aspects d'inférence gérée et de RAG.

Snowflake Cortex adopte une approche fondamentalement différente : l'IA sous forme de fonctions SQL. Cortex expose des LLM, notamment Llama, Mistral et le propre modèle Arctic de Snowflake, via des appels SQL standard grâce à Snowpark, permettant aux analystes sans expérience en Python ou en ML d'exécuter des inférences au sein des requêtes de l'entrepôt. Cortex n'expose pas l'entraînement de modèles, le fine-tuning ou l'orchestration d'agents personnalisés : la couche de modèles est entièrement gérée par Snowflake. Databricks affirme que les fonctions d'IA en SQL s'exécutent jusqu'à 3x plus rapidement et à un coût 4x inférieur à celui des "autres fournisseurs sur des charges de travail à grande échelle" en juin 2025, un benchmark qui semble faire référence à Cortex. L'avantage de Cortex est l'accessibilité : un analyste SQL peut appeler un LLM sans écrire une seule ligne de Python. L'avantage de Mosaic AI est la profondeur : il gère l'ensemble de la pile pour les équipes qui ont besoin de posséder le modèle, et pas seulement de l'appeler.

Pour les équipes qui comparent Mosaic AI à Vertex AI, la différence structurelle réside dans la couche de données : Vertex AI est étroitement couplé à BigQuery et Vertex AI Feature Store, tandis que Mosaic AI fonctionne sur Delta Lake et Unity Catalog. Les deux plateformes prennent en charge le fine-tuning de modèles open-source et le service géré, mais Mosaic AI couvre une gamme plus large de scénarios d'entraînement, y compris le pré-entraînement complet.

À quoi ressemble la réalité du workflow Mosaic AI

En pratique, la création d'agents de production sur Mosaic AI nécessite une équipe dotée d'expertises croisées : Python ou Scala pour l'ingénierie des données, SQL pour la gestion des tables Delta, des concepts de ML pour l'évaluation et le fine-tuning, et l'optimisation de Spark pour le contrôle des coûts. La plateforme ne cache pas cette complexité ; elle la gère. Pour une équipe qui possède déjà ces compétences, l'intégration est réelle : la mise à jour d'une table Delta se propage automatiquement à un index vectoriel en direct sans toucher à l'agent déployé, ce qui constitue un véritable avantage opérationnel par rapport aux piles où les pipelines de données et le service d'IA sont des systèmes déconnectés.

L'intégration commence par la configuration de la gouvernance Unity Catalog, qui, comme le reconnaît la propre documentation de Databricks, "peut facilement prendre des mois de planification minutieuse". La configuration des autorisations de données, des politiques de cluster et des points de terminaison de service de modèles avant d'écrire la moindre logique d'IA représente un coût en temps réel. Les équipes qui sautent cette étape se retrouvent souvent à devoir intégrer rétroactivement la gouvernance lorsque des exigences de conformité ou légales émergent, ce qui est plus coûteux que de l'intégrer dès le départ.

L'intégration de MLflow est une véritable force. La version 3.0 a fait du traçage des agents et du versionnage des prompts des fonctionnalités de premier plan, et la capacité de suivre les agents déployés n'importe où (pas seulement sur Databricks) le rend utile comme couche d'observabilité à travers une pile hybride. Les équipes qui utilisent également Weights and Biases pour le suivi des expériences exécutent parfois les deux systèmes en parallèle pendant le fine-tuning, ce qui ajoute de la complexité mais préserve les visualisations plus riches de W&B que MLflow ne reproduit pas encore pour les cycles d'entraînement.

À qui s'adresse Mosaic AI

Mosaic AI convient aux organisations qui ont déjà investi dans le Databricks Lakehouse et qui ont besoin d'étendre cette plateforme à l'IA en production sans avoir à assembler un ensemble d'outils distincts. L'intégration native aux données (synchronisation automatique de Delta Lake vers les index vectoriels, gouvernance Unity Catalog sur les actifs d'IA et de données, suivi MLflow de l'entraînement au déploiement) élimine la taxe de connecteur que les équipes paient lorsqu'elles gèrent des systèmes séparés pour les données, le ML et le service.

Les secteurs où la plateforme s'implante de manière constante incluent les services financiers (les exigences de gouvernance et de résidence des données rendent la couche Unity Catalog précieuse), l'analyse des soins de santé, ainsi que le commerce électronique et la fabrication à grande échelle (Burberry, Lippert, FordDirect, ICE sont tous des utilisateurs en production documentés). Les équipes qui ont besoin de combiner le fine-tuning avec le RAG dans un seul pipeline, plutôt que de choisir entre les deux, bénéficient le plus de l'approche unifiée.

Ce que Mosaic AI n'est pas

Mosaic AI n'est pas adapté aux petites équipes ou à celles du marché intermédiaire qui ne disposent pas d'ingénieurs ML dédiés et d'une expertise Spark certifiée Databricks en interne. La courbe d'apprentissage est suffisamment abrupte pour que l'évaluation de la plateforme eesel.ai la décrive comme "une falaise" pour les équipes sans expérience technique approfondie dans les trois domaines requis simultanément.

Ce n'est pas une plateforme de prototypage rapide. Les équipes signalent que la mise en œuvre prend des mois avant qu'un système de production ne soit prêt, et la configuration de la conformité et de la gouvernance à elle seule peut consommer des semaines de temps d'ingénierie avant même qu'une logique d'IA ne soit écrite. Si l'objectif est de déployer un chatbot orienté client en deux semaines, Bedrock ou Cortex y parviendront plus rapidement.

Le modèle de coûts n'est pas non plus adapté aux équipes disposant de budgets d'IA limités ou imprévisibles. Databricks facture des frais DBU en plus des coûts d'infrastructure cloud, et les utilisateurs signalent régulièrement que des tâches Spark mal optimisées entraînent des surprises de facturation. Une analyse Reddit largement citée a révélé que les frais DBU représentaient une majoration de 600% par rapport aux coûts bruts des serveurs cloud. Les workflows d'agents d'IA en production nécessitant des clusters GPU dédiés peuvent coûter de $5,000 à $15,000 par mois en calcul de base avant tout frais d'API basé sur les tokens.

Enfin, Mosaic AI comporte un risque juridique actif : le procès en cours pour droits d'auteur (In re Mosaic LLM Litigation) alléguant que les données d'entraînement ont été tirées d'environ 196,000 titres de livres piratés via le jeu de données RedPajama/Books3 reste d'actualité en avril 2026, après que le juge Charles Breyer a rejeté la requête en irrecevabilité de Databricks. Ce n'est pas un facteur dans l'utilisation quotidienne de la plateforme, mais les équipes d'achat des organisations réglementées doivent en être conscientes.