你是否厌倦了每次提问都要联网、担心隐私泄露、被平台限速或突然涨价?Dream Server 是一个真正“开箱即用”的本地AI操作系统——它不是某个单一工具,而是一整套可离线运行的AI能力集合:从聊天对话、语音识别与合成,到知识库问答(RAG)、自动化工作流(类似n8n),再到图像生成(兼容ComfyUI),全部打包进一个轻量级Python服务,支持Windows/macOS/Linux,甚至能在一台16GB内存的旧笔记本上流畅运行。它不依赖云服务,不绑定账户,不上传数据,把AI的控制权彻底交还给你。
核心功能
- 全本地大模型推理:内置 llama.cpp 支持,无需GPU也能跑通Qwen、Phi-3、Llama-3等主流开源模型,NVIDIA/AMD显卡用户还可启用CUDA或ROCm加速
- 一体化AI聊天界面:自带美观响应式Web UI(类似Open WebUI),支持多会话、历史记录、模型切换、上下文长度调节,完全离线使用
- 语音自由交互:集成Whisper(语音转文字)+ Piper/Coqui(文字转语音),让你用说话的方式与本地AI自然对话,支持中英文实时识别与播报
- 智能体与自动化工作流:原生对接n8n低代码引擎,可编排AI调用、文件处理、API触发等复杂任务;也支持Strix Halo等轻量Agent框架,实现自主思考与执行
- RAG知识库即插即用:拖入PDF、Word、网页HTML等文档,自动切片、向量化、构建本地知识库,让大模型精准回答你的专业问题,不瞎编、不幻觉
- 图像生成无缝集成:通过标准API桥接ComfyUI或Stable Diffusion WebUI,可在同一平台内完成“文字提问→AI思考→生成图片”全流程,所有计算均在本地完成
适合哪些人用
如果你是以下任意一类用户,Dream Server 正是为你而生:
• 技术爱好者:想体验前沿AI能力但不想折腾环境配置,一条命令就能启动全套服务;
• 开发者与产品经理:需要快速搭建本地AI原型、测试RAG效果或集成语音交互,避免API调用延迟与合规风险;
• 教育工作者与学生:在校园网或无公网环境下教学演示AI原理,或构建专属学科知识助手;
• 隐私敏感者与中小企业:处理客户资料、合同、内部文档时,绝不允许数据离开内网;
• 硬件极客:手头有闲置台式机、NUC盒子甚至树莓派5,想把它变成一台“私人AI服务器”——Dream Server 提供Docker版与裸机部署双路径,适配性极强。
快速上手
只需三步,5分钟内启动你的本地AI中心:
① 安装 Docker Desktop(Windows/macOS)或 docker-ce(Linux),确保已启用 WSL2(Win)或 systemd(Linux);
② 打开终端,执行:curl -fsSL https://raw.githubusercontent.com/Light-Heart-Labs/DreamServer/main/scripts/install.sh | bash;
③ 等待自动下载模型与依赖后,浏览器访问 http://localhost:8080 即可进入主界面。
首次启动会默认加载一个轻量模型(如Phi-3-mini),你可在后台管理页一键切换更大模型、上传知识库、开启语音模块或连接ComfyUI。所有操作均有中文界面指引,零Python基础也可轻松驾驭。
项目信息
Local AI anywhere, for everyone — LLM inference, chat UI, voice, agents, workflows, RAG, and image generation. No cloud, no subscriptions.
1.2k
今日 +112 stars today
Stars
205
Forks
Python
Apache-2.0
编程语言:Python|GitHub Star 数:1153|开源协议:Apache-2.0|GitHub 项目地址
这不是又一个“玩具级”本地模型前端,而是一个认真设计、持续迭代、真正能替代云AI服务的本地AI操作系统——它让“拥有自己的AI”这件事,第一次变得像安装微信一样简单。





