跳到主要内容
Vantaige
Northflank screenshot
Northflank logo

Northflank

免费增值

Northflank 是一家于 2019 年在伦敦成立的全栈 PaaS 平台,允许团队在 Northflank 托管的云端或他们自己的 AWS、GCP 和 Azure 账户上部署容器、托管数据库、GPU 推理工作负载和 AI 沙盒。专为希望获得 Kubernetes 的强大功能而又不想编写 YAML 的团队打造。

使用场景:代码与开发
功能:API

Northflank 是一个全栈部署平台,由首席执行官 Will Stewart 和首席技术官 Fredrik Brix 于 2019 年在伦敦创立。该平台解决了一个困扰不断发展的工程团队的特定问题:Kubernetes 是生产工作负载的正确架构,但运行它需要大量的 DevOps 专业知识。Northflank 在 Kubernetes 之上构建了一个对开发者友好的抽象层,因此团队无需编写 YAML 即可部署容器化应用、托管数据库、计划任务、GPU 推理服务和 AI 代码执行沙盒。截至 2024 年 11 月,该公司已筹集了 2230 万美元的资金,收入同比增长了两倍,并且每月为生产环境中的 70,000 多名开发者处理超过 100 万次容器部署。

该平台涵盖了完整的应用栈:由 Git 触发的 CI/CD 流水线、每个拉取请求(pull request)的临时预览环境、托管的 PostgreSQL、MySQL、MongoDB、Redis 和 RabbitMQ、在 NVIDIA H100 和 B200 上的 GPU 工作负载,以及由 microVM 支持的用于安全 AI 代码执行的沙盒。其最突出的功能是自带云(BYOC):团队通过 Northflank 的 UI 和 API 进行部署,但计算运行在他们自己的 AWS、GCP、Azure、Oracle Cloud 或 Civo 账户中。Northflank 目前服务于 2,000 多家初创公司和企业,并已处理了超过 1300 亿次请求。

Northflank 在 2026 年 5 月的实际功能

Northflank 作为一个控制平面,位于您的开发工作流和您运行的任何云基础设施之间。您将代码推送到 Git,Northflank 会构建一个容器镜像,将其作为长期运行的服务或任务运行,配置其所需的数据库,并将其暴露在带有 TLS 的负载均衡器后面。这是基础功能。有趣的部分在于围绕这个基础功能发生的事情。

预览环境是最具实用价值的功能之一:当开发者发起拉取请求时,Northflank 会自动启动应用栈的完整副本,包含其自己的数据库、环境变量和路由,以便审查者可以在与生产环境完全相同的环境中测试实际的更改。在审查和合并之间不再有“在我的机器上能运行”的鸿沟。模板允许您以代码形式定义项目的完整拓扑结构,草稿模板的功能类似于基础设施更改的拉取请求工作流。

GPU 支持涵盖了已成为许多产品团队核心的 AI 推理和训练用例。可用硬件从 $1.42/hr 的 A100 40GB 到 $2.74/hr 的 H100 以及 $5.87/hr 的 B200 不等,并具有竞价实例优化功能,可自动扫描 AWS、GCP 和 Azure 以寻找最便宜的可用容量。支持部分 GPU 分配,因此您不必为负载较轻的推理端点租用完整的 GPU。对于构建 RAG 流水线的团队,配备 pgvector 的 PostgreSQL 实例可以一键添加,与同一项目中的推理服务相邻运行。

沙盒功能与 AI 编码工具和代理(agentic)应用特别相关。Northflank 使用 Kata Containers(带有 Cloud Hypervisor)和 gVisor 运行由 microVM 支持的沙盒,可根据安全要求按工作负载进行选择。Kata 提供硬件级别的 VM 隔离;gVisor 提供开销较低的系统调用拦截。冷启动时间约为 200ms。这是 Writer 和 Sentry 等产品用来大规模运行不受信任的多租户代码的基础设施。Northflank 报告称,每月在这些工作负载中处理 200 万个 microVM。对于构建需要安全执行用户提交代码的 AI 编码助手的团队来说,此功能是经过生产环境测试的,而不是实验性的。

2024 年 11 月 11 日,Northflank 宣布获得 2230 万美元融资:由 Bain Capital Ventures 领投的 1600 万美元 A 轮融资,以及由 Vertex Ventures US 领投的 630 万美元种子轮融资,Kindred Ventures、Pebblebed、Tapestry VC 和 Uncorrelated Ventures 参投。在宣布这一消息的同时,Northflank 透露其收入同比增长了两倍,并概述了未来的路线图,包括 ARM 硬件支持、用于加快构建速度的本地 Docker 缓存、将 BYOC 扩展到更多云提供商,以及用于本地部署的可自行部署的企业控制平面。

“Northflank 比组装多个工具要容易得多。它是在我们的云账户中部署容器的理想平台,避免了大型云和 Kubernetes 的复杂性。它比传统的 PaaS 更强大、更灵活,而且都在我们的 VPC 内。” - David Cramer,Sentry 联合创始人兼 CPO,2024 年 11 月

Northflank 与 Modal 和 Render 的定位对比

与最常被提及的竞品相比,Northflank 占据了不同的细分市场,并且这些差异是架构上的,而不仅仅是表面上的。

Modal 是一个以 Python 为中心的无服务器计算平台,专为 AI 和数据科学工作流构建。核心区别在于范围和灵活性。Modal 专门使用 gVisor 进行隔离;Northflank 支持 Kata Containers 和 gVisor,并可按工作负载进行选择。Modal 要求所有容器镜像都通过其 Python SDK 定义,这会将您锁定在他们的镜像构建流水线中。Northflank 接受来自任何注册表的任何 OCI 镜像,无需修改。Modal 仅提供托管服务,没有 BYOC 选项,并且受 SDK 限制的会话持续时间限制了长时间运行的代理循环。Northflank 支持无限的会话持续时间,并在 AWS、GCP、Azure 和 OCI 上提供完整的 BYOC。价格差异显著:当汇总 CPU、RAM 和存储时,Modal 的 H100 运行成本约为 $7.25/hr;Northflank 的 H100 全包价格为 $2.74/hr。权衡之处在于,对于只想装饰一个函数并获得可扩展端点的 Python AI 工程师来说,Modal 更简单,而 Northflank 需要更多设置,但为您提供了与 GPU 计算并行的完整基础设施栈。只需要无服务器 AI 函数执行且不关心应用托管、数据库或 BYOC 的团队会发现 Modal 更简单。构建具有多个组件的完整 AI 产品的团队会发现 Northflank 更加连贯。对于特定的无服务器推理比较,Modal 仍然是纯 Python ML 工作负载的专家。

Render 是通用 PaaS 类别中最接近的竞争对手,但在过去两年中差距已显著扩大。Render 完全没有 GPU 支持。Northflank 支持 H100、B200、A100、L40S 等。Render 没有 BYOC 支持;一切都运行在 Render 自己的基础设施上,这给企业客户带来了数据驻留和合规性方面的复杂问题。Render 的免费层会在应用处于非活动状态后使其休眠;Northflank 的 Sandbox 层保持服务始终在线。Render 需要升级付费计划才能获得静态 IP;Northflank 在所有层级中都包含这些。在托管数据库方面,Render 原生支持 PostgreSQL 和 Redis,但需要手动设置 MongoDB 和其他引擎。Northflank 将 PostgreSQL、MySQL、MongoDB、Redis 和 RabbitMQ 作为一流的平台功能进行管理。Render 始终胜出的一个领域是对初学者的简单性:它的界面不那么密集,从 GitHub 到部署应用的路径更短,社区资源也更丰富。如果主要需求是部署没有 GPU、复杂任务工作流或企业合规性需求的 Web 应用或 API,Render 较低的摩擦力是一个真正的优势。但对于最终需要 GPU 支持或需要将数据保留在自己的云账户中的团队来说,从 Render 开始意味着以后需要迁移。开发者经常将 Northflank 与 RunPod 进行纯 GPU 工作负载的比较,尽管 RunPod 缺乏 Northflank 的全栈应用托管和 BYOC 功能。

“任何熟悉 Kubernetes 的人都应该会感到宾至如归。” - eschatology,Hacker News,2023 年 2 月

Railway 和 Fly.io 完善了这一比较。Railway 是对初学者最友好的选项,具有从代码库到运行应用的最快路径,但没有 GPU 支持,也没有 BYOC。Fly.io 通过其自身网络上的任播(anycast)路由支持更多的基础设施控制,但没有 BYOC 也没有托管 GPU。对于没有 AI 工作负载的纯应用托管,两者都值得考虑;对于预计需要 GPU 或合规性控制的团队,Northflank 是更持久的选择。

日常工作流的实际情况

AI 产品团队的典型 Northflank 项目如下所示:Python 推理服务运行在 H100 GPU 服务上,Node.js API 位于其前端处理身份验证和路由,带有 pgvector 的 PostgreSQL 实例处理嵌入(embeddings)存储,Redis 实例处理会话缓存,计划任务运行夜间数据处理。所有这些都存在于一个 Northflank 项目中,具有统一的日志、指标和回滚控制。CI/CD 流水线在 Git 推送时触发。预览环境会自动为每个拉取请求启动,以便在合并之前测试推理更改。

BYOC 路径增加了一层:团队导入其现有的 GKE、EKS 或 AKS 集群,而不是使用 Northflank 托管的基础设施。Northflank 的控制平面管理部署、机密、数据库和流水线,而所有计算都保留在客户的 VPC 内。这就是 Sentry 的架构,解决了阻碍大多数企业采用完全托管 PaaS 的数据主权要求。

构建时间一直是一个反复被抱怨的问题。Northflank 过去不支持本地 Docker 层缓存,这意味着每次运行构建时都会从头开始重新拉取基础镜像。2024 年 11 月的融资公告将通过本地缓存加快构建速度列为路线图的优先事项。部分缓存改进已在 2025 年初发布,但拥有大型镜像的团队仍然报告称,其构建时间比具有成熟缓存的平台更长。

对于 AI 沙盒需求,Northflank 在同一平台中将安全的 microVM 隔离与全栈基础设施结合在一起。运行您的 LLM 推理服务的同一个项目也处理代码生成输出的沙盒执行,避免了与 Replicate 等提供商的单独集成。对于专注于 GPU 的研究工作流,Lambda Labs 和 Together AI 服务于该市场的不同细分领域。

Northflank 是为谁打造的

Northflank 很好地服务于三类受众。第一类是从 Heroku 迁移出来的团队,他们已经超越了基础托管的需求,需要 GPU 支持、更好的 CI/CD 和更多的基础设施控制,而无需聘请完整的 Kubernetes 工程团队。该平台的全栈特性意味着一个工具涵盖了以前需要将部署平台、数据库主机、CI/CD 系统和 GPU 云拼接在一起才能完成的工作。

第二类是需要部署开源模型(Llama 4、Deepseek、自定义微调模型)以及向用户提供这些模型的传统 Web 基础设施的 AI 初创公司。在同一个 Northflank 项目中(如果需要,在同一个 BYOC 集群上)同时运行推理服务和产品应用,与维护两个独立的基础设施配置相比,显著简化了操作。

第三类是具有合规性要求(SOC 2、GDPR 数据驻留、内部安全审查)的企业团队,他们不能使用数据离开其 VPC 的托管 SaaS 云。Northflank 的 BYOC 模式专门解决了这个问题:公司获得了 Northflank 的开发者体验,但实际的数据和计算永远不会离开客户自己的 AWS 或 GCP 账户。

Northflank 不是什么

对于想要绝对最简单部署体验的开发者来说,Northflank 不是正确的选择。如果您的要求是“连接 GitHub,点击部署,获取 URL”,Railway 和 Render 实现该结果的路径更短,并且有更好的初学者文档。Northflank 的界面暴露了更多的基础设施概念,这在您需要它们时很有价值,但在您不需要时会增加摩擦。

它不是以最低成本进行纯 GPU 计算的选择。如果您需要尽可能便宜的 H100 访问权限并且可以管理自己的容器设置,RunPod 或 Vast.ai 在价格上会低于 Northflank。H100 全包价格为 $2.74/hr,Northflank 的价格是合理的,但溢价涵盖的是平台层,而不是原始的 GPU 小时数。

Northflank 不是一个托管的 ML 平台。没有内置的实验跟踪、数据集版本控制或模型注册表。需要 MLOps 功能的团队在 Northflank 的基础设施之上运行 Weights and Biases 或 MLflow。该平台处理部署和执行;它不管理生成正在部署的模型的实验生命周期。

用户评价

暂无评价,快来分享你的第一条体验吧!

登录 后即可撰写评价。

相关文章

与 Northflank 相关的指南和文章。