Jan

Jan 是一款免费的开源桌面应用程序，可在您的计算机上本地运行大型语言模型。Jan 由 Menlo Research（一家总部位于新加坡的应用研发初创公司，前身为 janhq）开发，让您无需依赖任何云服务即可下载并运行 Llama、Qwen、Mistral、Gemma 和 DeepSeek 系列模型。它是真正的 ChatGPT 替代方案，将每次对话的字字句句都保留在您自己的硬件上。截至 2026 年中，它的下载量已超过 530 万次，在 GitHub 上获得了 42,000 颗星，是目前应用最广泛的本地 LLM 客户端之一。该项目采用 Apache 2.0 许可，这意味着其完整源代码可审计、可分叉，并且可以合法用于商业项目而无需支付版税。

该应用程序捆绑了类似 ChatGPT 的聊天界面、一个内置的模型中心（可直接从 HuggingFace 下载量化的 GGUF 文件），以及一个位于 localhost:1337 的一键式兼容 OpenAI 的本地 API 服务器。开发者可以将 LangChain、AutoGen 或任何兼容 OpenAI SDK 的工具指向该端点，而无需更改代码。Jan v0.7.7（2026 年 2 月）为 Apple Silicon 添加了原生 MLX 支持，显著加速了 M 系列 Mac 上的推理速度。该应用还支持模型上下文协议 (MCP) 以进行实验性的代理工具调用，允许 Jan 在对话中调用网络搜索、文件访问和其他外部工具。用户还可以选择通过 API 密钥连接 OpenAI、Anthropic、Mistral 或 Groq 等云提供商，实现本地与云端混合的设置。

Jan 在 2026 年 5 月的实际功能

于 2026 年 3 月 23 日发布的 Jan v0.7.9 是当前的稳定版本。它在初始设置期间会获取精选的模型列表，自动限制上下文长度以防止内存不足崩溃，并包含一个适用于 Windows 和 macOS 脚本工作流的 CLI。该应用程序可在 Windows 10+、macOS 13.6+ 和主流 Linux 发行版上运行，系统要求最低为 8GB RAM（推荐 16GB）以及 10GB+ 的模型存储空间。

其底层的推理引擎是 llama.cpp，这与 LM Studio 和 Ollama 使用的 C++ 运行时相同。对于 Apple Silicon，MLX 路径（在 0.7.7 中添加）相比默认的 Metal 路径提供了显著的速度提升。NVIDIA 和 AMD 显卡的 GPU 加速通过 CUDA 和 ROCm 处理。Jan 应用程序通过“高级设置”面板暴露了高级的 llama.cpp 参数（上下文大小、温度、重复惩罚、种子），供希望在默认值之外进行微调的用户使用。

Jan 还发布了自己的模型系列。Jan-Nano 是一个 40 亿参数的非思考型模型，专为结合 MCP 工具使用的深度研究任务而优化，于 2025 年 6 月 16 日发布，并托管在 HuggingFace (Menlo/Jan-nano) 上。它直接与 Jan 应用程序集成，旨在利用连接的搜索工具生成结构化且带有引用的研究报告。官方网站上的配套“Jan v1”设置指南详细介绍了如何配置针对研究优化的系统提示词。对于希望完全留在 Jan 生态系统中的用户来说，这种模型加应用的组合是理想的一流体验。

本地 API 服务器值得特别提及。当您在 Jan 界面中点击“启动服务器”时，它会在 localhost:1337 暴露一个完全兼容 OpenAI 的 REST 端点。与某些替代方案不同，Jan 支持同时运行多个模型端点，这意味着开发者可以在同一界面后配置本地 Llama 实例和远程 OpenAI 代理模型，并在它们之间切换而无需重启。

Jan 与 LM Studio 和 Cherry Studio 的定位对比

在 2026 年，本地 LLM 桌面领域有三个强有力的竞争者：LM Studio、Jan 和 Cherry Studio。尽管表面上相似，但它们服务于截然不同的用户群体。

Jan 与 LM Studio 的区别归结为开放性与精致度。LM Studio 是专有的、闭源的，并且商业使用需要商业许可。Jan 采用 Apache 2.0 许可：每一行代码都在 GitHub 上，每一个依赖项都是可审计的，企业部署无需支付任何许可费用。对于需要验证合规性（HIPAA、GDPR、SOC 2 审计）的组织来说，Jan 的开源性质不仅是一个卖点，更是实际需求。在用户体验方面，LM Studio 略胜一筹：其内置的 HuggingFace 模型浏览器让您无需离开应用即可在约 2 分钟内筛选和下载模型，而 Jan 的模型发现需要更多手动步骤，首次设置大约需要 5 分钟。这两种工具都使用 llama.cpp 作为推理引擎，因此在相同硬件上的原始生成速度差异在 5% 以内。LM Studio 最近添加了专有 SDK 和更完善的 MLX 支持，这为希望构建 LM Studio 专用工具的开发者提供了优势。而 Jan 的优势在于其代码库永远不会对您更改许可。

Jan 与 Cherry Studio 则是更根本的架构分歧。Cherry Studio (AGPL-3.0) 主要是一个云端聚合器：它为您提供了一个精致的统一界面，可在 20 多家云端 LLM 提供商之间切换，并可通过 Ollama 作为后端提供可选的本地模型支持。Cherry Studio 的定位是“适用于所有云 API 的统一 UI”。Jan 的定位恰恰相反：完全消除云 API，在您自己的机器上运行一切。Cherry Studio 支持 iOS 和 macOS，而 Jan 不支持（没有移动客户端）。Cherry Studio 的 GitHub 星数略多（约 44,900 颗，而 Jan 约为 42,400 颗），并且对于真正使用多个云提供商的用户来说，具有更活跃的模型切换工作流。但对于核心需求是数据绝对不离开设备的用户来说，Cherry Studio 云优先的基因使其成为完全不同类别的产品。评估 Cherry Studio 本地 AI 功能的用户还应考虑 Open WebUI 和 AnythingLLM，它们提供基于 Web 的本地 AI 界面，并具有强大的 RAG 和知识库功能。

“对于不想摆弄 python 依赖项和命令行的最终用户来说，它确实让事情变得更容易了”。EMM_386，Hacker News，2024 年 3 月

Jan 的定位也不同于 Ollama，后者是命令行优先且无头（headless）的。Ollama 是一个后端；Jan 则捆绑了完整的前端。实际上，许多用户会同时运行两者：Ollama 为多个前端提供模型服务，而 Jan 则作为桌面聊天客户端。这两种工具是互补的，而不是直接竞争关系。

本地 LLM 工作流的真实情况

Jan 的日常使用分为三种模式。第一种是隐私隔离的文档审查工作流：医疗保健专业人员、律师或财务分析师断开互联网连接，加载量化的 7B 或 13B 参数模型（3-8GB 的 GGUF 文件），并使用聊天界面查询或总结无法发送给云提供商的文档。这是 Jan 最明确的价值主张，也是任何云端工具在隐私保证方面都无法竞争的场景。

第二种模式是开发者本地 API 循环：在 localhost:1337 启动 Jan 服务器，将 LangChain 或自定义 Python 应用程序指向它，并在不累积 API 成本的情况下迭代提示词和代理逻辑。Jan 兼容 OpenAI 的端点意味着调用 openai.chat.completions.create() 的现有代码只需更改基础 URL 即可针对本地模型运行。对于构建和测试 LLM 功能的开发者来说，这在开发过程中具有显著的成本和延迟优势。

第三种是使用 Jan-Nano 和 MCP 的研究助手模式。为 Jan 配置一个提供网络搜索访问权限的 MCP 服务器，加载带有其研究系统提示词的 Jan-Nano 4B 模型，并要求它生成关于某个主题的结构化报告。Jan-Nano 在 SimpleQA 基准测试中达到了 91.1% 的准确率，而其前身 Lucy 1.7B 模型的准确率为 78.3%。这种工作流生成的是带有引用、条理清晰的研究报告，而不是随意的对话回复。

“它还试图分配 30gb（即模型的大小），但我的显存只有 10gb，机器内存是 32gb，所以这说不通。Ollama 运行 30b 模型非常完美。”。匿名用户，BigGo 社区报告，2025 年 8 月

用户最常遇到的摩擦点是显存（VRAM）检测。Jan 并不总是像 Ollama 那样正确地在 CPU 和 GPU 内存之间分配模型加载，因此拥有 10-12GB 显存显卡的用户有时会发现 Jan 拒绝加载在 Ollama 中运行良好的模型。截至 2025-2026 年，这是一个已知问题，也是社区论坛中最常见的抱怨。0.7.9 版本添加了上下文长度限制以减少此类崩溃的一种情况，但显存分配逻辑仍然不够完善。

Jan 是为谁打造的

Jan 是隐私优先专业人士的理想工具：任何处理机密文档、医疗记录、法律简报或财务数据，且需要 AI 协助但不能暴露在云端的人。它同样非常适合需要 Apache 2.0 许可、可审计代码以满足合规性目的的开源倡导者。希望使用基于 GUI 的本地推理服务器来测试 LLM 集成，而无需管理 Ollama CLI 的开发者，也是其天然用户。

对于优先考虑模型发现速度和精致首次运行体验的用户来说，Jan 并不是正确的选择：LM Studio 的引导流程更加顺畅，其集成的 HuggingFace 浏览器需要的步骤更少。Jan 也不适合需要同时运行多个模型的用户，因为目前尚未完全支持并行模型会话。任何想要可通过 Web 访问的界面而不是桌面应用程序的人，都应该考虑 Open WebUI 或 AnythingLLM。

根据 GitHub 星数增长率，Jan 被 TechCrunch 的 ROSS 指数（2025 年 3 月 22 日）评为 2024 年最热门的 20 家开源初创公司之一。这一认可反映了真正的社区发展势头：该项目在没有任何付费层或激进营销的情况下，积累了 42,000 多颗星和 530 万次下载。团队在 2025 年 7 月决定归档 Cortex.cpp 并将其推理工作直接合并到上游的 llama.cpp 中，这是一个深思熟虑的选择，旨在加强共享的开源基础，而不是维护一个竞争性的分支。

Jan 不是什么

Jan 不是模型提供商。它不在自己的服务器上训练、微调或托管任何 LLM。您提供硬件；Jan 提供界面。如果您正在寻找为您托管模型的托管服务，您需要的是像 Ollama 的云产品，或者直接使用云提供商。

Jan 不是无代码 AI 构建器。它不允许您向外部用户部署聊天机器人、使用可视化界面构建工作流，或开箱即用地连接到 Slack 或 Notion 等业务应用。对于这些用例，AnythingLLM 和类似工具具有更成熟的工作流和部署功能。

Jan 不在移动设备上运行。截至 2026 年中，没有 iOS 或 Android 客户端。想要在 iPhone 或 iPad 上使用本地 LLM 的用户需要寻找其他替代方案。

最后，Jan 的“100% 离线”声明需要细微的区分。在正常运行期间，该应用程序会连接到 GitHub 和外部源以获取模型元数据和更新检查。它默认并非物理隔离（air-gapped）。处于严格物理隔离环境中的用户应在部署前验证网络行为，或相应地配置网络规则。