Beam Cloud

Beam Cloud 是由 Eli Mernit 和 Luke Lombardi 构建的无服务器 GPU 基础设施平台，于 2021 年推出，并获得了 Y Combinator（W22 批次）、Tiger Global、Snyk 的 Guy Podjarny 以及 GitHub 前 CTO Jason Warner 的支持。该平台解决了一个特定的问题：在 GPU 上运行自定义 AI 模型，而无需管理预留实例、Kubernetes 集群或 Dockerfile。开发者只需添加一个 Python 装饰器，指定 GPU 类型，即可通过单条命令完成部署。当没有请求在处理时，平台会缩放至零，计费也随之完全停止。

Beam 支持推理端点、后台任务队列、定时 cron 任务以及沙盒执行环境。支持的硬件范围从 $0.15/hr 的 T4 GPU 到 $7.15/hr 的 RTX 4090、A10G、A100（40GB 和 80GB）以及 H100，全部按秒计费。该平台包含用于迭代开发的热代码重载、用于模型权重和检查点的持久化卷存储，以及 Webhook 支持。其底层运行时 beta9 于 2024 年 5 月在 AGPL-3.0 协议下开源，支持在任何云、本地硬件或混合架构上进行自托管部署。包括 Frase、Coca-Cola、Magellan AI 和 Stratum 在内的客户都在 Beam 上运行推理工作负载。

Beam Cloud 在 2026 年 5 月的实际功能

核心工作流是 Python 原生的。开发者使用 @endpoint 装饰一个函数，指定 GPU 内存需求，然后运行 beam deploy。平台会使用自定义缓存运行时构建容器镜像，配置所请求的 GPU，并暴露一个 REST API 端点。无需 Dockerfile，无需 Kubernetes 清单，也无需配置扩展策略。

除了端点之外，Beam 还处理其他三种工作负载模式。任务队列接收异步任务并将其同时分发到多个容器中，非常适合对大型数据集进行批量推理。定时任务基于 cron 表达式运行，支持模型重训练流水线和夜间数据处理。沙盒为需要安全运行不受信任代码或生成子进程的代理式 AI 应用程序提供隔离的执行环境。

开发循环专为快速迭代而设计。热代码重载将更改推送到实时的远程推理服务器，而无需完全重新部署。Beam 的 CLI 会启动一个在本地镜像云环境的开发会话，因此笔记本电脑测试与生产部署之间的差距微乎其微。卷挂载在容器运行之间保持持久化，这意味着大型模型权重在冷启动期间会被缓存，而不是在每次调用时重新下载。

对于大多数函数，容器首次启动的冷启动性能为 2-3 秒，在热容器重用时降至约 50ms。该平台使用 Go 构建（beta9 运行时有 72.5% 是 Go），并带有一个 Python SDK 层，这比 Python 原生运行时实现了更快的容器调度，但在原始冷启动速度上落后于基于 Rust 的竞争对手。

Beam 与 Modal 和 Fal.ai 的定位对比

开发者最常做的两个比较是 Modal Labs 和 Fal.ai。每一个都代表了截然不同的架构路线。

Modal Labs 运行基于 Rust 的容器运行时，可实现亚秒级冷启动，明显快于 Beam 2-3 秒的基准。Modal 的 Python SDK 通常被认为更成熟，拥有更广泛的文档、更大的社区以及在生产部署中更长的业绩记录。代价是供应商锁定：Modal 是完全闭源的，没有自托管路径。Beam 的 beta9 采用 AGPL-3.0 许可，可部署在任何云或本地硬件上，且托管版 Beam 和自托管 beta9 之间的 CLI 体验完全相同。对于有数据驻留要求、本地 GPU 硬件或多云任务的团队来说，Beam 的可移植性绝非微不足道的优势。对于只想要最快推理开发者体验（DX）且不关心可移植性的团队，Modal 的亚秒级冷启动使其占据优势。您可以在 Modal 直接比较这两个选项。

Fal.ai 走的是一条更垂直的路线。其自定义推理引擎使用专门为扩散模型调整的 TensorRT 优化，在热容器上为 Stable Diffusion XL 提供亚秒级延迟。该平台在图像和视频生成开发者中具有很强的社区渗透率。局限性在于 Fal 的优化是针对特定模型的：它在运行 FLUX、Stable Diffusion 和视频生成流水线方面表现出色，但不允许导出微调的模型权重，并将您限制在其模型执行堆栈中。Beam 则是模型无关的。您可以在任何支持的 GPU 上运行任何 Python 代码，包括 LLM、自定义训练循环、ComfyUI 工作流或数据处理任务。对于重度依赖扩散模型的生产工作负载，Fal.ai 是更好的选择；而对于通用 ML 基础设施工作，Beam 则是更好的选择。另请参阅 Replicate 了解预托管模型市场方法，以及 RunPod 了解原始 GPU 定价和区域可用性的比较。

“我们完全在 Beam 上运行语言模型，迁移过程出奇地简单，维护工作更少，而且还省钱，因为 Beam 能够提供随流量立即扩展的按需解决方案。” - Frase（AI 写作平台），beam.cloud 客户页面，2024 年

“我测试了 CLI，5 分钟内就在云端运行了一些东西。Slack 社区更是改变了游戏规则，因为当我们遇到困难时，能很快得到回复。” - 开发者评价，beam.cloud 主页，2024 年

部署的实际情况

对于熟悉 Python 的开发者来说，获得一个运行中的 GPU 端点的最快路径大约需要五分钟。安装 CLI，进行身份验证，编写一个带有 @endpoint 装饰器的函数，然后运行 beam deploy。平台会处理容器镜像构建、GPU 调度和 API 路由。响应中包含一个随时可用于 HTTP 请求的 URL。

在规模化时会出现现实中的摩擦。Developer 层（按需付费）将 GPU 并发限制为 5，这意味着对生产场景进行负载测试需要升级到 Team 计划或进行仔细的分阶段测试。计费将 CPU 核心、RAM 和 GPU 分为独立的按秒收费项。这虽然准确透明，但在部署前估算每月支出需要将三个独立的费率线相乘，而不是读取单一的实例价格。对于来自 Lambda Labs 或 AWS SageMaker 等提供商（单一实例价格涵盖所有内容）的开发者来说，这种认知转变值得注意。

Slack 社区是一个活跃的支持渠道，Beam 的小团队规模（7 人，ARR 达 $1M）意味着收到创始人的回复并不罕见。对于遇到异常部署错误的开发者来说，这是一个优势，但它不能替代企业级支持 SLA。运行对收入至关重要的推理任务的生产团队在评估时应考虑到这一点。

Beam Cloud 适合哪些人

最明显的适用对象是构建 AI 应用程序的独立开发者或小型初创公司，其推理成本需要跟踪实际用户流量，而不是承诺的预留实例。$0 的空闲成本模型极大地改变了流量不规律的早期产品的经济效益。一个在 H100 上每天处理 1,000 个请求的团队只需为实际的 GPU 秒数付费，而不是每月 720 小时的预留容量。

第二个非常适合的对象是需要可移植性的 ML 工程师。Beam 的 beta9 开源运行时意味着，无论团队是在 Beam 的托管云、本地 DGX 设备还是自我管理的 AWS 实例上运行，相同的 Python 装饰器语法和相同的 CLI 都能正常工作。具有数据主权要求、企业基础设施任务或混合云设置的团队拥有真正的可移植性选项，这是 Modal 和大多数纯云提供商所不具备的。

Beam 也非常适合构建代理式 AI 流水线的开发者。沙盒执行环境满足了 AI 代理生成子进程、运行不受信任代码或需要隔离计算环境的特定需求。结合用于异步分发的任务队列和用于重复任务的定时任务，该平台涵盖了代理式应用程序所需的大部分基础设施层面，而无需外部编排工具。对于探索这一领域的团队，Together AI 值得一比，因为它在代理式 LLM 调用方面采用了推理 API 优先的方法。

Beam Cloud 不适合的场景

如果低于一秒的冷启动延迟是硬性生产要求，那么 Beam 不是正确的选择。Modal 基于 Rust 的运行时始终如一地实现亚秒级冷启动；Beam 的 Go 运行时则在 2-3 秒左右。对于用户需要等待冷容器的延迟敏感型消费者应用程序来说，这种差距是显而易见的。

它不是一个专门的扩散推理平台。大规模构建 ComfyUI 工作流或 Stable Diffusion 图像生成产品的开发者会发现，Fal.ai 经过 TensorRT 优化的流水线在处理此类特定工作负载时明显更快。Beam 可以运行这些模型，但该平台并未针对扩散流水线优化进行调整。

它不是一个在路线图上突出合规认证的企业级 ML 平台。有 SOC2、HIPAA 或 FedRAMP 要求的团队在做出承诺之前，应直接与 Beam 团队核实当前的合规状态。该公司有 7 名员工，筹集了 $7M 资金，这意味着其企业合规基础设施处于比 AWS SageMaker 或 Google Vertex AI 等提供商更早期的阶段。

最后，对于持续高容量的推理，Beam 并不是最便宜的选项。如果一个团队每天 24 小时以可预测的高吞吐量运行 GPU 推理，那么来自 Lambda Labs 或 CoreWeave 的预留 GPU 实例在每 GPU 小时的成本上几乎总是比按秒计费的无服务器定价更便宜。无服务器模型在可变、突发或平均利用率较低的工作负载中具有经济优势。