Databricks Mosaic AI

Databricks Mosaic AI 是嵌入在 Databricks Data Intelligence Platform 中的 AI 产品套件，专为需要对 AI 模型的构建、微调、部署和治理进行端到端控制的企业数据和 ML 工程团队而设计。它并非独立的 AI 产品，而是 Databricks Lakehouse 之上深度集成的功能层，旨在帮助已在 Databricks 上运行数据基础设施的组织将该投资扩展到生产级 AI 领域。Mosaic AI 品牌得名于 MosaicML，这是一家生成式 AI 初创公司，Databricks 于 2023 年 7 月以 $1.3 billion 的价格将其收购，其团队为 Databricks 生态系统带来了高效利用 GPU 的 LLM 训练技术和 MPT 模型系列。

该平台涵盖六大核心能力领域：用于构建 RAG 和智能体应用的 Mosaic AI Agent Framework；通过自动化 AI 裁判进行质量评估的 Mosaic AI Agent Evaluation；可从 Delta 表自动同步的托管向量数据库 Mosaic AI Vector Search；用于大规模部署智能体和 LLM 的 Mosaic AI Model Serving；用于在专有数据上微调或预训练开源模型的 Mosaic AI Model Training；以及用于实验跟踪和 MLOps 的 Managed MLflow。2025 年 6 月，Databricks 在 Data + AI Summit 上新增了 Unity AI Gateway（适用于所有 LLM 和 MCP 服务器的集中式治理层）和 Agent Bricks（自动化智能体构建工具）。该平台支持 GPT-4、Meta Llama、Anthropic Claude 和 Mistral 等第三方模型，以及 Databricks 自家的 DBRX。

Databricks Mosaic AI 在 2026 年 5 月的实际功能

Mosaic AI 围绕企业 AI 开发的全生命周期（从原始数据到生产级智能体）进行组织。从 Delta Lake 表开始，数据团队可以在 Mosaic AI Vector Search 中创建向量索引，该索引会随着源数据的更改自动保持同步。该向量索引为使用 Agent Framework SDK 构建的 RAG 管道提供支持，该 SDK 负责处理检索编排、提示词构建和工具使用逻辑。构建完成的智能体通过 Model Serving 进行部署，截至 2025 年中，该服务支持每秒超过 250,000 次查询，并包含一个专为开源 LLM 设计的专有推理引擎，Databricks 称其运行速度比标准 vLLM 配置快 1.5x。

Agent Evaluation 为团队提供 AI 裁判，可针对正确性、事实依据（幻觉检测）、检索相关性、答案相关性和安全性对回复进行评分。人工审查界面让领域专家无需具备 ML 专业知识即可提供额外反馈。这些分数直接输入 MLflow，用于实验对比和部署门禁。2025 年 6 月发布的 MLflow 3.0 针对生成式 AI 进行了彻底的重新设计，现在可以跟踪在 Databricks 外部（包括 AWS、GCP 和本地系统）部署的智能体。

对于需要自定义模型而非托管基础模型推理的团队，Model Training 可在托管 GPU 集群上处理微调，无需进行基础设施管理。2025 年 6 月重写的 Storage-Optimized Vector Search 通过分离计算和存储层，在扩展到数十亿个向量的同时，据称将成本降低了 7x。同样自 2025 年 6 月起全面上市的 AI Gateway 提供自动提供商故障转移、PII 和安全护栏、速率限制以及跨企业的用量日志记录，可路由到任何 LLM 或 MCP 服务器。

截至 2025 年中仍处于测试阶段的 Agent Bricks 采用了更高级的方法：用户描述任务（结构化提取、知识辅助、文本转换或多智能体协调），连接企业数据，系统即可自动生成评估并微调智能体。支持的智能体架构包括单步检索、多跳推理链和工具调用智能体。FactSet 报告称，通过该技术栈部署智能体后，准确率提高了 44%；Block 报告了 $10M 的生产力收益；Intercontinental Exchange 报告了 96% 的响应准确率。

"Mosaic AI Agent Framework 让我们能够快速试验增强型 LLM，同时确信任何隐私数据都始终在我们的掌控之中。它与 MLflow 和 Model Serving 的无缝集成，确保了我们的 ML 工程团队能够以极低的复杂性从 POC 扩展到生产环境。" - Burberry 分析总监，Databricks 博客，2024 年 7 月

"Mosaic AI Agent Framework 对我们来说具有颠覆性意义，因为它允许我们评估 GenAI 应用的结果并证明输出的准确性，同时保持对数据源的完全控制。" - Lippert 数据与 AI 副总裁，Databricks 博客，2024 年 7 月

Mosaic AI 与 AWS Bedrock 和 Snowflake Cortex 的定位对比

截至 2026 年 5 月，三大主流企业 AI 平台分别是 Databricks Mosaic AI、AWS Bedrock 和 Snowflake Cortex，它们在架构上的差异比表面的功能列表更为重要。

AWS Bedrock 是 Amazon 基础设施上的托管推理网关。它通过单一 API 提供对 Claude、Llama、Titan、Mistral 及其他第三方模型的访问，而 Bedrock Knowledge Bases 则处理由 Amazon S3 和 OpenSearch Serverless 支持的 RAG。Bedrock 不提供的是让团队控制训练：在 Bedrock 上的微调仅限于特定模型，且超参数访问受限，存储层为 S3，缺乏 Delta Lake 的 ACID 事务保证和模式强制执行。Bedrock 的运营模式更简单：团队不需要 Spark 专业知识，且按 API token 计费。代价是，对于需要在同一数据管道上结合微调和 RAG，或者希望在专有模型架构上进行完整训练的团队来说，灵活性较低。Mosaic AI 在统一平台中支持所有四种主要 AI 模式（提示词工程、RAG、微调、预训练）；而 Bedrock 在托管推理和 RAG 方面最为强大。

Snowflake Cortex 采用了一种截然不同的方法：将 AI 作为 SQL 函数。Cortex 通过 Snowpark 的标准 SQL 调用暴露 LLM（包括 Llama、Mistral 和 Snowflake 自家的 Arctic），允许没有 Python 或 ML 经验的分析师在数据仓库查询中运行推理。Cortex 不暴露模型训练、微调或自定义智能体编排：模型层完全由 Snowflake 托管。Databricks 自身声称，截至 2025 年 6 月，SQL 中的 AI Functions 在“大规模工作负载上比其他供应商”运行速度快 3x，成本低 4x，这一基准测试似乎指向了 Cortex。Cortex 的优势在于易用性：SQL 分析师无需编写一行 Python 代码即可调用 LLM。Mosaic AI 的优势在于深度：它为需要拥有模型而不仅仅是调用模型的团队处理整个技术栈。

对于将 Mosaic AI 与 Vertex AI 进行比较的团队来说，结构上的差异在于数据层：Vertex AI 与 BigQuery 和 Vertex AI Feature Store 紧密耦合，而 Mosaic AI 运行在 Delta Lake 和 Unity Catalog 之上。这两个平台都支持开源模型微调和托管服务，但 Mosaic AI 涵盖了更广泛的训练场景，包括完整的预训练。

Mosaic AI 工作流的实际情况

在实践中，在 Mosaic AI 上构建生产级智能体需要一个具备交叉专业知识的团队：用于数据工程的 Python 或 Scala，用于 Delta 表管理的 SQL，用于评估和微调的 ML 概念，以及用于成本控制的 Spark 调优。该平台并没有隐藏这种复杂性，而是对其进行管理。对于已经具备这些技能的团队来说，这种集成是实实在在的：更新 Delta 表会自动传播到实时向量索引，而无需触及已部署的智能体，与数据管道和 AI 服务相互脱节的技术栈相比，这是一种真正的运营优势。

入门始于 Unity Catalog 治理配置，Databricks 自己的文档也承认这“很容易需要数月的精心规划”。在编写任何 AI 逻辑之前设置数据权限、集群策略和模型服务端点是一项实际的时间成本。跳过这一步的团队通常会发现，当合规性或法律要求出现时，他们不得不追溯性地改造治理，这比从一开始就内置治理要昂贵得多。

MLflow 集成是一个真正的优势。3.0 版本将智能体追踪和提示词版本控制作为一等功能，并且能够跟踪部署在任何地方（不仅限于 Databricks）的智能体，这使其成为跨混合技术栈的实用可观测性层。同时使用 Weights and Biases 进行实验跟踪的团队有时会在微调期间并行运行这两个系统，这增加了复杂性，但保留了 MLflow 尚未在训练运行中复制的更丰富的 W&B 可视化效果。

Mosaic AI 专为谁而建

Mosaic AI 适合已经投资 Databricks Lakehouse 并需要将该平台扩展到生产级 AI，而无需拼凑一套独立工具的组织。数据原生集成（Delta Lake 自动同步到向量索引、跨 AI 和数据资产的 Unity Catalog 治理、从训练到部署的 MLflow 跟踪）消除了团队在管理独立的数据、ML 和服务系统时所支付的连接器成本。

该平台持续落地的行业包括金融服务（治理和数据驻留要求使 Unity Catalog 层极具价值）、医疗保健分析以及大规模电子商务和制造业（Burberry、Lippert、FordDirect、ICE 都是有记录的生产用户）。需要在单一管道中结合微调和 RAG，而不是在两者之间做出选择的团队，将从这种统一方法中获益最多。

Mosaic AI 不是什么

Mosaic AI 不适合没有专职 ML 工程师和 Databricks 认证 Spark 专家的中小型团队。它的学习曲线非常陡峭，以至于 eesel.ai 平台评论将其描述为对于未能同时在所有三个必需领域具备深厚技术经验的团队来说是“一道悬崖”。

它不是一个快速原型设计平台。团队报告称，在生产系统准备就绪之前，实施需要数月时间，而且在编写任何 AI 逻辑之前，仅合规性和治理设置就可能消耗数周的工程时间。如果目标是在两周内部署一个面向客户的聊天机器人，Bedrock 或 Cortex 会更快实现。

其成本模型也不适合 AI 预算有限或不可预测的团队。Databricks 在云基础设施成本之上收取 DBU 费用，用户不断报告称，未正确调优的 Spark 作业会带来账单上的“惊喜”。一项被广泛引用的 Reddit 分析发现，DBU 费用比原始云服务器成本高出 600%。需要专用 GPU 集群的生产级 AI 智能体工作流，在产生任何基于 token 的 API 费用之前，每月的基础计算成本可能达到 $5,000 到 $15,000。

最后，Mosaic AI 带有活跃的法律风险：正在进行的版权诉讼（In re Mosaic LLM Litigation）指控其通过 RedPajama/Books3 数据集提取了约 196,000 本盗版书籍的训练数据，在 Charles Breyer 法官驳回 Databricks 的驳回动议后，该诉讼截至 2026 年 4 月仍在进行中。这在日常平台使用中不是一个影响因素，但受监管组织的采购团队应意识到这一点。