标记为“流式输出”的 AI 工具

所有标记为“流式输出”的 AI 工具，由我们团队精选并验证。

22 款 AI 工具11 款已认证

顶级流式输出工具

该分类下评分最高的工具，每周精选更新

OpenRouter screenshot

AI 模型与 LLM

OpenRouter

OpenRouter 是一个统一的 LLM 网关，通过单一的兼容 OpenAI 的 API 将请求路由至 60 多家提供商的 300 多种模型。专为希望获得多模型灵活性，又不想繁琐管理多个独立账户、计费和 SDK 的开发者而打造。

Fal.ai screenshot

图像

Fal.ai

Fal.ai 是一个无服务器推理平台，为开发者提供访问 1,000 多种图像、视频和音频 AI 模型的 API。该平台由前 Coinbase 工程师打造，通过自定义 CUDA 内核，运行 FLUX 模型的速度比标准实现快高达 4 倍，每张图像起价仅为 $0.003。

LLM Gateway screenshot

AI 基础设施

LLM Gateway

LLM Gateway是一款兼容 OpenAI 的开源 API 网关，可通过一键在 40 多个 LLM 提供商和 200 多个模型之间路由请求，并具有使用情况分析、成本跟踪、缓存和自动故障转移功能。自 2026 年 9 月起，托管积分将收取 5% 的固定平台费用；Bring-Your-Own-Keys和 AGPLv3 自托管是免费的。

Repurpose.io screenshot

AI 智能体与自动化

Repurpose.io

Repurpose.io 是一款自动化分发平台，可提取您的视频或播客，并将其发布到 TikTok、YouTube Shorts、Instagram Reels、LinkedIn 以及 30 多个其他平台。只需设置一次工作流，系统即可在后台无限期运行。

BentoML screenshot

代码

BentoML

BentoML 是一个开源的 Python 框架，用于将机器学习模型打包并部署为生产级 API。它支持任何 ML 框架，包含用于自托管 LLM 服务的 OpenLLM，并提供 BentoCloud 以实现具备自动缩放和 BYOC（自带云）功能的托管推理。

llama.cpp screenshot

AI 模型与 LLM

llama.cpp

llama.cpp 是一款开源的 C++ 推理引擎，为 Ollama、LM Studio 以及大多数本地 LLM 工具提供底层支持。它由 Georgi Gerganov 于 2023 年创建，可在任何硬件（包括消费级笔记本电脑和 Raspberry Pi）上运行 50 多种模型架构。

LiveKit screenshot

音频

LiveKit

LiveKit 是为 ChatGPT 语音模式（Voice Mode）提供支持的开源 WebRTC 基础设施和 AI 代理框架。该公司成立于 2021 年，赋予开发者对实时音视频管道的完全控制权，涵盖从自托管媒体服务器到生产级代理编排的各个环节。

Pipecat screenshot

音频

Pipecat

Pipecat 是由 Daily 推出的一款开源 Python 框架，用于构建实时语音和多模态 AI 代理。它将 STT、LLM 和 TTS 服务链接成可编程的流水线，赋予开发者完全的控制权，并支持 100 多种集成，包括 Deepgram、OpenAI、ElevenLabs 和 LiveKit。

Trigger.dev screenshot

AI 智能体与自动化

Trigger.dev

Trigger.dev 是一个开源的 TypeScript 平台，用于构建后台任务和 AI 代理工作流，且不受无服务器（serverless）超时限制。采用 Apache 2.0 许可，提供托管云和自托管选项。

Vercel AI SDK screenshot

代码

Vercel AI SDK

Vercel AI SDK 是一个开源的 TypeScript 工具包，用于构建由 AI 驱动的应用程序和代理（agents）。它提供了跨 20 多家模型提供商的统一 API、适用于 React 和 Vue 的流式 UI 钩子（hooks）、基于 Zod 的结构化输出，以及完整的代理抽象层。

全部流式输出工具 (22)

AI 模型与 LLM

图像

AI 基础设施

AI 智能体与自动化

代码

AI 模型与 LLM

音频

音频

AI 智能体与自动化

代码

数据

音频