Jan：45,563 星的本地聊天客户端，大模型离线跑在自己电脑上

GitHub 仓库

janhq/jan

总 Stars

★ 45,563

主要语言

Rust

查看 GitHub 项目

结论：Jan 是 45,563 星的本地大模型聊天客户端，Rust，10 月 28 日发了 0.8.8，11 月 5 日仍有提交。这篇是编辑精选。定位是“离线的 ChatGPT”：模型下载到本机再跑，对话不经过云端。

内置模型市场，可从 Hugging Face 拉 GGUF 模型，苹果芯片走 MLX 引擎；还能在 1337 端口提供兼容 OpenAI 格式的 API，别的工具也能接。

Jan 和 Ollama 该怎么选？

Ollama 是命令行加后台服务，别的工具接它最方便，适合当基础设施。Jan 是带界面的桌面应用，打开就聊，适合每天直接用。

适合想在本机跑大模型又不想碰命令行的人。注意：它是单人桌面应用，没有服务器版；智能体功能还在 nightly 构建里，稳定版节奏慢了一点。

站长点评：我最认可“先离线、再谈别的”。先下一个七八 B 的小模型试手，机器吃得消再往上加，别一上来就拉几十 B 的大家伙。