Vercel AI SDK

Vercel AI SDK 是由 Next.js 背后的公司 Vercel 构建的开源 TypeScript 库，用于构建由 AI 驱动的全栈应用程序和自主代理。它在 Apache 2.0 许可下发布，通过为 OpenAI、Anthropic、Google、Mistral、Amazon Bedrock 及其他 15 家以上的提供商提供单一、一致的接口，涵盖文本生成、结构化对象输出、工具调用、图像生成、语音、嵌入（embeddings）和流式 UI，从而消除了学习每个提供商专有 API 的需求。该 SDK 于 2025 年 10 月发布了第 6 版（此前于 2025 年 7 月发布了 v5），截至 2026 年 4 月，其月下载量已超过 2000 万次，被超过 95,000 个项目所依赖。

该 SDK 分为两部分：AI SDK Core 和 AI SDK UI。Core 涵盖服务器端原语，包括 generateText、generateObject（集成了 Zod 模式以实现类型安全的结构化输出）、streamText、streamObject、带有多步循环的工具调用、图像生成与编辑、重排序（reranking），以及在 v6 中引入的正式 Agent 抽象。AI SDK UI 提供与框架无关的钩子（useChat、useCompletion、useAssistant），在 React、Next.js、Vue、Svelte 和 Angular 中实现了完整的功能对齐。可选的配套产品 Vercel AI Gateway（于 2025 年 8 月推出）增加了跨数百个模型的统一路由，延迟开销低于 20ms，支持自动故障转移，且在提供商费率之上零加价。所有这些都是免费且开源的；您只需为您使用的提供商 API token 付费。

2026 年 4 月的 Vercel AI SDK 实际功能

截至 v6，SDK 的核心循环围绕三种模式构建。第一种是单次调用生成：generateText 或 streamText 接收模型引用、提示词或消息数组以及可选工具，然后返回类型化响应。从 GPT-4o 切换到 Claude Sonnet 3.7 只需更改一个导入；调用的其余部分保持完全一致。第二种模式是结构化提取：generateObject 接收 Zod 模式并返回完全类型化的对象，SDK 会自动处理模式到提示词的转换和响应解析。第三种是 Agent 抽象：您只需定义一次代理及其模型、系统指令、工具和内存配置，然后在应用程序的任何位置实例化它。stopWhen 参数控制工具调用循环何时退出，取代了早期版本中临时的 maxSteps 模式。

2025 年 7 月发布的 v5 突破了 200 万次周下载量的里程碑，并引入了语音生成和转录、模型可在运行时定义的动态工具、Vue 和 Svelte 与 React 的完全功能对齐，以及全局提供商功能（允许您通过 AI Gateway 使用纯字符串 ID 调用任何模型）。2025 年 10 月发布的 v6 正式确立了 Agent 类，为人在回路（human-in-the-loop）工作流添加了工具审批，推出了用于在浏览器中调试 LLM 调用和代理追踪的 DevTools，扩展了图像生成以接受参考图像进行编辑，并通过 rerank 函数添加了原生重排序功能。完整的 MCP（Model Context Protocol）支持也在 v6 中到来，涵盖了 OAuth、资源和提示词。

"AI SDK 是我迄今为止见过的唯一完美的抽象。v5 延续了这一记录。一切都感觉恰到好处。" - Ben Hylak，raindrop.ai，Vercel AI SDK 5 发布文章，2025 年 7 月 31 日

20 多家模型提供商包括 OpenAI（GPT-4o、GPT-5、o1/o3）、Anthropic（Claude 3.5/3.7 Sonnet、Claude Opus）、Google（Gemini 2.0/2.5 Flash、Gemini Pro）、Meta Llama（通过 Groq 或 Bedrock）、Mistral、Cohere、xAI Grok 和 Amazon Bedrock。提供商的能力各不相同：并非每个提供商都支持所有功能（计算机使用、PDF 输入、嵌入、图像编辑），SDK 记录了每个提供商的能力表以帮助开发者了解这些差异。在项目进行中切换提供商是 SDK 最大的卖点；Thomson Reuters 仅用 3 名开发者在 2 个月内就使用 AI SDK 重建了他们的 CoCounsel 产品，将 10 个独立的提供商集成整合到一个系统中，目前服务于 1,300 家会计师事务所。

Vercel AI SDK 与 LangChain JS 和 Mastra 的定位对比

对于 JavaScript 开发者来说，LangChain JS 是最直接的比较对象。LangChain 的 gzip 压缩包大小为 101.2 kB，而 AI SDK 为 67.5 kB，并且它依赖于 Node.js 文件系统 API，这使其与边缘（edge）运行时不兼容。LangChain 的优势在于 RAG 基础设施：它内置了文档加载器、向量存储检索器以及预构建的代理架构（ReAct、Plan-and-Execute），这些都是 AI SDK 所不提供的。AI SDK 的优势在于 UI 集成、边缘兼容性、流式钩子和极致的简洁性：在 LangChain 中需要多步消息数组实例化的任务，在 AI SDK 中只需一次 generateText 调用。在对比基准测试中，LangChain 的 p99 延迟平均约为 50ms，而 AI SDK 约为 30ms。对于构建 Next.js 聊天 UI 的团队来说，AI SDK 几乎在所有维度上都胜出。对于构建复杂的、偏向 Python 风格的 RAG 管道或多向量检索的团队来说，LangChain 是更好的起点。

Mastra 则处于不同的赛道。它是一个 TypeScript 代理框架，具有持久化工作流、内置的观察记忆（在无需向量数据库的情况下，在 LongMemEval 上得分 94.87%）、用于重放代理运行的视觉 Studio 调试器，以及流畅的编排语法（.then/.parallel/.branch/.foreach）。Mastra 不提供流式 UI 钩子；它是一个服务器端代理基础设施库，而不是全栈 SDK。AI SDK 覆盖的范围更广（从 React 中的 useChat 一直到提供商调用），但在内存和工作流编排方面的主张较少。团队有时会将两者结合使用：Mastra 用于代理层和持久化，AI SDK 用于流式 UI 层。Mastra 每周约有 30 万次下载，而 AI SDK 每月有超过 2000 万次下载，这反映了其受众更为垂直。LiteLLM 是第三个参考点：它作为提供商代理层而不是应用程序库运行，没有前端集成，并且主要面向 Python。它通常作为 Vercel AI SDK 应用程序调用的后端网关。

"从 streamText 到可组合代理的转变非常优雅……团队在 API 设计上投入的心血令人惊叹。" - Josh，Upstash，Vercel AI SDK 6 博客，2025 年 10 月

日常开发体验如何

大多数团队的标准起点是 Next.js App Router 项目。您安装 ai 和一个提供商包（@ai-sdk/openai、@ai-sdk/anthropic 等），创建一个调用 streamText 并返回 StreamingTextResponse 的路由处理程序，然后在客户端使用 useChat 钩子。该钩子管理消息历史记录、输入状态、流式拼接、错误处理和表单提交。团队一致反馈，从空仓库到运行流式聊天机器人只需不到 30 分钟。

结构化输出的路径同样清晰。generateObject 接收 Zod 模式定义并返回类型化的 TypeScript 对象，所有为遵循模式而进行的提示词工程都由 SDK 层处理。这使其成为数据提取、分类以及任何需要可靠输出形状的任务的首选方法。在 v6 的 Agent 抽象中，您定义一个包含模型、指令、工具和可选内存设置的可重用代理，然后在应用程序中需要的任何地方调用 agent.generate() 或 agent.stream()。v6 中新增的 DevTools 面板在开发期间覆盖在浏览器中，并在时间轴视图中显示每次 LLM 调用、工具调用、token 使用情况和延迟，这极大地缩短了多步流程的调试周期。

对于在 Vercel 之外进行部署的团队，SDK 可在任何 Node.js 服务器、边缘运行时、Cloudflare Workers、AWS Lambda 或 Docker 容器上运行。Vercel AI Gateway 是可选的；您可以完全使用直接的提供商 API 密钥来使用 SDK。v0 by Vercel 产品在其 UI 生成功能内部使用了 AI SDK，如果您想了解 Vercel 如何“吃自己的狗粮”（dog-foods）来测试该库，这一点值得了解。OpenAI Agents SDK 是一个概念上相似的工具，但仅限于 OpenAI 提供商，在评估提供商锁定是否对您的技术栈有影响时，可用于对比参考。

Vercel AI SDK 是为谁构建的

主要受众是构建具有 AI 功能的 Web 应用程序的 TypeScript 和 JavaScript 开发者。该 SDK 特别适合需要流式聊天 UI 的 React 和 Next.js 开发者，因为 useChat 钩子抽象了所有从头编写会变得繁琐的状态管道。它也适合需要快速交付 AI 功能并期望在模型选择上进行迭代的团队：与提供商无关的 API 使得对 GPT-4o 和 Claude Sonnet 进行 A/B 测试，或者在非关键路径中引入更便宜的模型变得简单直接，而无需重构调用点。构建客户项目的初创公司和机构反复将该 SDK 作为他们的默认起点，因为实现工作演示的时间始终非常快。

采用 TypeScript 优先开发的企业团队将获得最大的长期杠杆效应：跨工具调用输入和输出的端到端类型安全、直接与 Zod 模式绑定的结构化对象生成，以及通过 AI Gateway 集中提供商配置和成本跟踪的能力。Thomson Reuters 的案例（3 名开发者，2 个月，跨 1,300 家公司的生产级法律 AI）是被引用最多的例子，展示了当提供商抽象层不再是瓶颈时，一个专注的团队能够构建出什么。

Vercel AI SDK 不是什么

该 SDK 仅支持 TypeScript。Python 团队找不到第一方的等效工具，应该转而考虑 LangChain Python、LlamaIndex 或 Genkit 的 Python SDK。

该 SDK 不是 RAG 框架。它没有内置的文档加载器、分块实用程序或向量存储检索器。构建知识库检索管道的团队需要单独添加这些组件（LlamaIndex.TS、Mastra 的 RAG 原语或向量数据库 SDK）。如果检索管道是核心工程挑战，LangChain JS 生态系统拥有更重量级的 RAG 基础设施。

该 SDK 也不是长时间运行的代理运行时。当部署在 Vercel 自己的托管服务上时，路由处理程序有最大执行时间限制（默认 15 秒，Pro 版 300 秒），这限制了进行迭代研究或多步规划的自主代理。运行需要数分钟执行时间的代理的团队，需要部署在没有这些限制的基础设施上，无论是自托管的 Node、带有 Durable Objects 的 Cloudflare Workers，还是专用的代理执行平台。2024 年 10 月的 RSC 事件值得了解：Vercel 在 2024 年 3 月将 Generative UI / React Server Components 流式传输作为 SDK 3.0 的主要功能发布，吸引了大量采用，但 7 个月后以“长期存在的限制……短期内没有好的解决方案”为由暂停了开发。这种雄心勃勃的平台耦合功能撞上架构墙的模式，使得一些团队对基于实验性 SDK 功能进行构建持谨慎态度。

对于针对边缘优化的应用程序来说，包大小是一个合理的担忧。单个 OpenAI 请求的包大小为 186 kB，而官方 OpenAI 库仅为 87 kB，SDK 带来的开销在冷启动延迟或受限的边缘预算中是不容忽视的。需要绝对最小占用空间的开发者可能更倾向于编写直接的提供商调用。