Langfuse

Langfuse 是一个专为将 AI 应用程序推向生产环境的团队打造的开源 LLM 工程平台。该平台由 Y Combinator W23 批次的三位工程师于 2023 年创立，旨在解决每位 AI 开发者在生产部署最初几周内都会遇到的问题：你完全无法了解你的 LLM 实际上在做什么。Langfuse 在一个平台中为团队提供结构化的可观测性、提示词管理、评估流水线和数据集工具，并提供真正的 MIT 许可证自托管选项，可在 Docker、Kubernetes 或云托管基础设施上运行。2026 年 1 月，ClickHouse 在获得 4 亿美元 D 轮融资的同时收购了 Langfuse，为性能和企业级可靠性带来了大量工程资源，同时保持了开源承诺和定价不变。

该平台通过 Python 和 TypeScript SDK，或通过与 LangChain、LlamaIndex、OpenAI、Haystack 及 20 多个其他框架的自动插桩（auto-instrumentation）集成，对 AI 应用程序进行监控。每一次 LLM 调用、工具调用、检索步骤和用户交互都会变成一个结构化的追踪（trace），包含 token 计数、延迟、成本归因以及完整的输入/输出捕获。在此基础上，团队可以运行 LLM-as-judge 评估器，附加人工标注队列，通过 A/B 测试管理版本化的提示词，并在精选数据集上进行基准测试。Langfuse Cloud 运行在 v3（2024 年 12 月）引入的由 ClickHouse 支持的数据层上，每秒可处理数百个摄取事件而不会出现数据库瓶颈。其 GitHub 仓库拥有 26,300+ 颗星，并持续发布更新，v3.171.0 版本于 2026 年 4 月下旬发布。

Langfuse 在 2026 年 4 月的实际功能

Langfuse 位于你的应用程序代码和你调用的 LLM API 之间，但并非作为代理。与 Helicone 的 URL 替换方法不同，Langfuse 使用 SDK 级别的插桩：你的代码显式创建追踪（traces）和跨度（spans），而 Langfuse 捕获完整的执行树。这为你提供了更多的控制权和上下文，代价是前期需要更多的集成工作。

单个追踪可以包含数十个嵌套的观察结果：一个外部的 agent 跨度包裹着一个检索调用、一次 LLM 生成、一次工具执行以及最后的格式化步骤。每个节点都会记录自己的延迟、token 成本和输入/输出。当凌晨 2 点出现故障时，你可以从日志中提取追踪 ID，打开 Langfuse，完整的决策树就会呈现在你面前，而无需从日志碎片中进行猜测。

除了追踪之外，该平台还涵盖了可观测性工具通常会忽略的三个相邻工作流：

• 提示词管理：存储带有版本历史的提示词模板，在不同环境间推广版本，并运行 A/B 实验。更改独立于源代码之外，无需部署即可回滚。

• 评估：自动对采样的追踪运行 LLM-as-judge 评估器，收集用户反馈（点赞/踩、星级评分），并将追踪路由到人工标注队列进行手动审查。

• 数据集：将追踪整理成结构化的测试数据集，并在发布前跨提示词版本或模型升级运行回归基准测试。

2026 年 3 月的版本发布了一个以观察为中心的数据模型，仪表板加载时间缩短了 10 倍，解决了在较高追踪量下关于 UI 响应速度的常见抱怨。

Langfuse 与 LangSmith 和 Helicone 的定位对比

这三个工具主导了这一领域，它们之间的差异是架构上的，而非表面上的。

LangSmith 是 LangChain 的专有可观测性产品。如果你的整个应用程序技术栈都是 LangChain 或 LangGraph，LangSmith 确实是零摩擦的：只需设置一个环境变量，自动追踪就能覆盖你所有的链，而无需修改应用程序代码。一旦你走出 LangChain 生态系统，这种优势就会消失，你无论如何都需要手动插桩。LangSmith 是闭源的，没有自托管选项，这将其排除在有数据驻留要求的团队之外。免费层：5,000 次追踪/月。Starter 计划：$39/月。

Helicone 采用了相反的架构：一个位于你的代码和 LLM API 之间的代理。你通过 Helicone 的服务器重定向你的基础 URL，并添加一个 API 密钥请求头。设置大约需要 15 分钟，并且不需要对应用程序逻辑进行任何更改。代价是所有流量都要经过 Helicone 的基础设施，这在关键路径上产生了第三方依赖。Helicone 的语义缓存功能（相似的提示词返回缓存的响应）可以在某些工作负载上节省 20-40% 的成本，这是 Langfuse 所不具备的。但 Helicone 缺乏 Langfuse 的提示词版本控制、A/B 测试、评估流水线和数据集管理功能。免费层：50,000 次请求/月。Starter 计划：$20/月。

Langfuse 与框架无关，需要在你的代码中进行显式的 SDK 插桩。设置投入较高（几个小时对比 Helicone 的 15 分钟），但结果是获得最完整的可观测性视图：嵌套跨度、完整的 agent 执行树、人工反馈循环以及提示词生命周期管理。自托管选项功能非常完善，并且自项目启动以来一直是头等部署目标。需要注意的一点是：Langfuse 使用自己的追踪格式，而不是原生的 OpenTelemetry，这引起了在整个技术栈中标准化 OTel 的团队的担忧。

"我们真正喜欢 Langfuse 的地方在于其开放的 API。虽然许多追踪工具需要特定的 SDK 或包装器，但 Langfuse 的开放 API 使我们能够围绕它构建自己的 Golang 客户端。" - Walt Wells，Khan Academy 主任软件工程师，2024 年

"我们每个月在 LLM 调用上花费超过 60k+，因此在出现问题时拥有调试的骨干支持对我们帮助很大。" - punkpeye，Hacker News，2024 年 12 月

插桩和可观测性工作流的实际情况

在实践中，Langfuse 的集成始于一次性的 SDK 设置，以及决定对代码进行多深程度的插桩。最简单的路径是使用 OpenAI 或 LangChain 包装器进行自动插桩，只需几个导入级别的装饰器即可捕获每次 LLM 调用，而无需手动创建跨度。对于自定义的 agent 循环或多步流水线，你需要显式地进行插桩：将每个有意义的工作单元包裹在一个追踪或跨度中，附加输入/输出，并让 SDK 处理批处理和异步上传。

一旦追踪数据流入，仪表板就会为你提供每个模型的成本明细、P50/P95/P99 延迟、错误率以及用户级别的会话视图。搜索速度非常快，调试特定用户的投诉只需一分钟：通过会话 ID 查询，打开追踪，并逐步查看执行树。

Langfuse Cloud 版本运行在 v3 中引入的相同的由 ClickHouse 支持的架构上，能够处理流量激增，而不会将摄取压力积压到 API。v3 架构在接收到事件后立即将其写入 S3，在插入数据库之前进行排队，这意味着数据库变慢不会导致入站追踪丢失。

Khan Academy 的 Khanmigo 团队展示了生产工作流：在 2024 年 4 月跨 7 个产品团队和 4 个基础设施团队的 100 多名用户中部署 Langfuse 后，当学生报告问题时，支持人员将 Langfuse 追踪作为他们的首选调试工具。Khan Academy 的主任软件工程师 Walt Wells 直接指出了结果："Langfuse 使我们的开发者能够获得极快的反馈。" Khan Academy 通过提取相关的会话追踪而不是从日志中重建上下文，将平均支持解决时间保持在 8 分钟以内。

Langfuse 是为谁打造的

当满足以下三个条件时，Langfuse 是最合适的选择：团队正在向真实用户交付 LLM 功能（而不仅仅是在笔记本中评估模型），团队中有人负责 LLM 基础设施，并且数据驻留或开源许可在商业或法律上具有重要意义。

实际上，这意味着在基于 LLM 构建产品（而不是销售 LLM API 访问权限本身）的公司中的 ML 工程师和 AI 平台团队。对于使用混合框架（LlamaIndex 用于检索，自定义 Python 用于 agent，OpenAI 用于生成）的团队来说，Langfuse 是正确的选择，因为与框架无关的 SDK 涵盖了整个技术栈，而无需针对每个框架进行设置。对于无法将生产数据发送到没有自托管选项的第三方 SaaS 的受监管行业（医疗保健、金融、教育）来说，它也是正确的选择。

ClickHouse 的收购加强了其企业级优势：Pro 计划提供 SOC2、ISO27001 和 HIPAA 合规报告，团队得到了在基础设施领域具有深厚信誉的公司的支持，并且由于它现在是一家资金充足的组织的一部分，而不是处于种子阶段的初创公司，其开源承诺更加持久。

Langfuse 不是什么

Langfuse 不是一个零成本的即插即用工具，不适合那些希望在 15 分钟内建立成本仪表板的开发者。如果你的全部用例只是"我在 OpenAI 上花了多少钱"，Helicone 的代理设置能让你更快实现目标。当你需要完整的视图时，Langfuse 的集成投资才物有所值：嵌套的执行树、提示词版本控制、评估和人工反馈，而不仅仅是 token 计数。

自托管是免费的，但并不简单。Langfuse v3 需要五个服务协同运行：web 容器、worker 容器、ClickHouse、Redis/Valkey 以及兼容 S3 的 blob 存储。没有现有 ClickHouse 基础设施的团队将面临实际的运营开销。独立估算显示，中等规模自托管的总拥有成本（包括 DevOps 时间）为 $3,000-4,000/月，而 Langfuse Cloud Pro 上同等使用量的成本为 $199-300/月。"免费"指的是许可证，而不是基础设施。

Langfuse 也不提供语义缓存或 LLM API 成本削减功能。如果降低 API 支出是主要目标，那是 Helicone 的领域。

如果你属于以下情况，请跳过 Langfuse：运行没有生产用户的周末项目的独立开发者；已经完全投入 LangChain 并希望获得零配置自动覆盖的团队；或者需要原生 OpenTelemetry 追踪以与现有 OTel 收集器基础设施集成的公司。