你有没有过这种时候?
深夜写方案,ChatGPT 突然卡住,转圈半天没反应;
想问点隐私问题——比如合同条款、体检报告解读,又怕对话被传到服务器;
或者公司电脑禁用了网页访问,连登录页面都打不开。
Plus 会员每月 20 块,一年就是 240,三年快 700。不是大钱,但谁愿意为“可能卡顿、可能不安全、还未必能用”的服务持续掏钱?
其实,早就有个东西能跑在你自己的电脑上,不联网也能聊、不上传任何字、不用续费——它叫 Jan。
能替代什么 / 能省多少钱
Jan 替代的就是你现在正在用的 ChatGPT 网页版或 App,尤其是你已经开了 Plus 会员的那部分需求。
它不替代“所有 AI 功能”,但替掉了最核心的三块:日常问答、文档理解、代码辅助。你不用再纠结“该不该点发送”——因为所有输入只经过你自己的 CPU 和内存,发完就删,不留痕。
按官方定价算,ChatGPT Plus 是 20 元/月,Claude Pro 是 25 元/月,国内某些大模型会员也动辄 15–30 元。Jan 完全免费,开源,没有隐藏收费项,也没有“基础版限流、高级版解锁”。你装好,选一个模型,立刻就能用。
我试过连续用它写周报、改简历、读 PDF 技术文档,全程没弹过一次付费提示,也没跳出“升级 Pro 才能继续”的窗口。这点我很满意,它真没把用户当韭菜。
如果你现在每月为某个 AI 工具付会员费,Jan 就是那个可以立刻停掉的替代品。省下的钱,够你买两杯精品咖啡,或者给手机换个膜。
核心功能
- 下载模型后完全离线运行,连 WiFi 都关掉也能聊天。我试过在高铁上断网两小时,用本地 Qwen2-1.5B 写完一篇产品需求草稿。它不依赖服务器响应,所以没有“正在思考中…”的等待,输入完回车,答案秒出。这点和网页版 ChatGPT 的体验完全不同,不是更快,而是“稳”。
- 支持从 HuggingFace 直接下载主流开源模型,比如 Llama 3、Qwen、Gemma、Phi-3。不需要你懂参数、量化格式或 GGUF,界面里点几下,“下载→安装→设为默认”,整个过程像装微信一样直白。我选了 Qwen2-1.5B(约 1.2GB),在一台 2020 款 MacBook Air 上跑起来很顺,风扇几乎不转。
- 可以连接你已有的 OpenAI/Claude/Groq 账号,当作本地客户端用。比如你有 OpenAI API Key,填进去,Jan 就变成一个带历史记录、支持多会话、还能拖文件进来的桌面版 ChatGPT。比网页版多了文件解析能力,PDF、Word、Excel 都能直接拖进去问问题。
- 建专属助理不用写代码。比如我想让 AI 只帮我审合同,就在“Custom Assistants”里新建一个,设定角色:“你是一名有 10 年经验的法务,只回答合同条款相关问题,不提供法律建议”。之后每次打开这个助理,它自动记住规则,不会跑题。比在网页版里反复输入“请以法务身份回答”省事多了。
- 本地 API 服务开箱即用。启动 Jan 后,它会在你电脑上开一个
http://localhost:1337的接口。这意味着你可以把它当“私有 AI 后端”,接进 Obsidian 插件、Notion AI 自定义按钮,甚至写个 Python 脚本批量处理邮件。我不常写脚本,但朋友用它自动整理会议录音文字,确实跑通了。 - 支持中文文档理解,但界面是英文的。这点要提前说清楚,菜单栏、设置页、模型列表全是英文,比如 Settings → Model Management → Download Models。不过常用操作就那么几个,我用了三天就记住了:左下角齿轮是设置,右上角加号是新建对话,顶部“Assistants”是助理管理。对普通用户不算门槛,只是第一眼有点懵。
- 模型切换非常轻量。同一个对话里,我可以随时点右上角模型名,换一个本地小模型查资料,再换回云端大模型润色文案。不像网页版切账号得登出重进,这里只是下拉选一下的事。
三步上手
- 去官网 jan.ai 下载对应系统的安装包。Windows 用户点 “jan.exe”,Mac 用户点 “jan.dmg”,Linux 用户选 “jan.deb” 或 “jan.AppImage”(推荐 deb,双击就能装)。别去 GitHub Releases 页面翻,那里文件多且杂,容易下错。我第一次就误点了源码压缩包,解压出来一堆 .rs 文件,完全不知道怎么用。
- 下载完双击安装。Windows 上是标准安装向导,勾选“添加到开始菜单”就行;Mac 上拖进 Applications 文件夹,首次打开会提示“无法验证开发者”,点右键→“打开”绕过即可;Linux deb 包用软件中心点开安装,AppImage 则需要右键→属性→勾选“允许作为程序执行”。整个过程我没查任何教程,纯靠系统提示走完,耗时不到 90 秒。
- 启动后,默认加载一个轻量模型(通常是 Phi-3-mini)。如果想换更强的,点左下角齿轮图标→Model Management→Download Models,在列表里找带 “Qwen” 或 “Llama” 字样的中文友好模型,比如 “Qwen2-1.5B-Instruct-Q4_K_M”。点击下载,等进度条走完(我用千兆宽带,大概 2 分钟),再点右边“Set as default”。之后新对话就自动用它了。第一次下载建议选 1.5B 级别的,太大模型(比如 Llama3-8B)在 16GB 内存以下的电脑会卡。
要说清楚的短板
Jan 最大的短板,是它没有中文界面。所有菜单、按钮、错误提示都是英文。这不是“不够友好”,而是实打实的使用障碍,比如你想调高温度参数,得在 Settings → Advanced → Temperature 里找,而不是“设置→高级→随机性”。我让同事试用时,她卡在“找不到模型下载入口”整整五分钟,最后是我截图标出位置才搞定。
第二个问题是,它不支持手机。目前只有桌面端(Windows/macOS/Linux),没有 iOS 或安卓 App。你不能把它装在 iPad 上开会时随手用,也不能在地铁上掏出手机问问题。这点和 ChatGPT App 形成鲜明对比,如果你重度依赖移动场景,Jan 暂时帮不上忙。
第三个短板是模型下载依赖网络,而且首次启动后必须手动下载一个模型才能真正用起来。它不像 ChatGPT 那样点开就能聊,而是先看到一个空对话框,底下写着 “No model selected”。新手容易以为“装坏了”,其实只是还没选模型。这点设计不太符合直觉,我觉得它应该默认带一个最小可用模型,哪怕慢点,至少让用户先聊起来。
项目信息
janhq/jan
GitHub
Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.
用 Rust 写的,GitHub 上 44769 颗星,开源协议是 NOASSERTION(项目方未明确声明,但代码可自由使用、修改、分发)。GitHub 项目地址
你用过类似的免费工具吗?评论区聊聊,我挑几个下期专门写。



