Jan
在电脑上离线运行 AI 对话助手。
Jan 是可在个人电脑运行模型的桌面应用，也能连接云模型，并提供本地兼容 API 与自定义助手。它适合希望控制模型和运行位置的用户。
Jan 能做什么
应用可以从 Hugging Face 获取支持的模型，也可配置外部提供方。离线能力需要先准备好本地模型和依赖。
选择模型时先考虑可用内存和任务，再决定是否加入MCP工具；模型授权与应用代码许可分别处理。
下载本地语言模型
应用支持从Hugging Face下载并运行Llama、Gemma、Qwen等模型，具体模型的大小及能力需要分别查看。
按需连接云模型
可接入OpenAI、Anthropic、Mistral等提供方，将本地与云模型保留为不同选择。
创建任务专用助手
自定义助手可用于不同任务，编辑建议：给每个助手明确职责、输出格式与人工检查要求。
提供本地兼容API
内置本地服务可在localhost:1337向其他应用提供兼容接口；另有MCP接入用于扩展工具能力。
- 核心用途
- 本地模型对话、助手和兼容API
- 可完成的工作
- 离线起草、比较模型、为本机应用提供模型入口
- 如何开始
- 按系统下载Jan，选择并下载适合的模型
- 使用条件
- 内存随模型规模变化；云连接不属于离线调用
如何使用 Jan
- 下载安装应用
从官方入口选Windows、macOS或Linux安装包；源码构建是另一个需要开发工具链的流程。
- 选择合适模型
根据内存和模型体积下载本地模型，首次先用短输入确认可以运行。
- 配置对话与助手
在会话选择实际使用的模型，按任务创建助手；云端提供方需单独配置。
- 检查结果与API调用
先验证对话答案，需要接其他程序时再启用本地兼容API并测试连接。
在本机起草资料
适合：需要控制资料运行位置的人
- 准备输入
- 已安装应用、适合硬件的本地模型、可处理的文本。
- 操作方法
- 编辑建议：下载模型后选择本地入口，输入短材料并要求按结构起草，逐段检查内容。
- 预期交付物
- 本地模型生成的初稿。
- 人工检查
- 确认当前模型没有切换成云端，核对数字和引用。
比较小模型适配程度
适合：在有限内存电脑上选模型的人
- 准备输入
- 同一组短任务、内存条件与输出要求。
- 操作方法
- 编辑建议：依次运行可承载的模型，记录速度、内存和回答可用性。
- 预期交付物
- 针对本机任务的模型选择记录。
- 人工检查
- 不以单次回答推广到所有场景；检查模型自身授权。
给本机程序接模型
适合：开发本地应用的人
- 准备输入
- 兼容接口客户端、模型名称和小型测试请求。
- 操作方法
- 编辑建议：启用本地API服务，让客户端指向本机地址，用短请求检查返回。
- 预期交付物
- 可被本机程序调用的模型入口。
- 人工检查
- 核对接口地址、模型和访问范围，避免无意开放公网。
界面与参考图片
开始前需要了解
硬件影响模型选择
官方列出按模型规模变化的内存建议；能安装应用不代表任意模型都能顺畅运行。
本地与云端有不同边界
选择云提供方后请求会交给该服务；只有本地模型及依赖准备齐全的路径适合离线使用。
代码许可不覆盖模型
Jan代码采用Apache 2.0，下载模型及云端服务各自的许可、额度和使用条件仍须单独确认。
离线对话需先下载本地模型；云模型需独立服务配置，硬件需求随模型规模变化。
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查，再用于实际工作。
常见问题
Jan只能离线使用吗？
不是。它同时支持本地模型与云端提供方，可以按任务选择，但两者的数据流和费用不同。
怎样供其他程序调用？
使用内置兼容API服务，官方说明给出的本机地址为localhost:1337；客户端需配置正确模型。
电脑没有大内存怎么办？
先选更小的模型并查看官方系统建议，避免把大型模型直接套用到有限内存环境。
Jan 能用中文聊天吗？
能否用中文聊天取决于所选模型的中文能力。选择模型后可用自己的中文任务检查理解与回答质量；Jan的应用语言不代表所有模型表现相同。
