一款真正开箱即用的国产级开源AI助手平台：支持任意大模型、本地部署、企业级知识库

昆仑 AI

2026-03-29 0 4

Onyx 是一个功能完整、开箱即用的开源AI平台，它不是简单的聊天界面，而是一套融合了RAG（检索增强生成）、向量搜索、多源文档解析与企业级权限管理的智能对话系统。它帮你绕过繁琐的LLM工程搭建，只需几行命令即可拥有一个类似ChatGPT但完全可控、可定制、可私有化部署的AI助手——关键是，它不绑定任何特定大模型，你既可用本地运行的Qwen、Phi-3、Llama 3，也能对接OpenAI、Anthropic、Groq甚至国内千问、混元API。

核心功能

全模型兼容架构：内置统一适配层，支持超过50种主流LLM后端（含OpenAI兼容接口、Ollama、LM Studio、vLLM等），无需修改代码即可切换模型
企业级RAG引擎：自动解析PDF/Word/Excel/PPT/Markdown/网页等20+格式，构建专属知识库；支持分块策略、语义去重、多级元数据标注与细粒度权限控制
生产就绪的UI与协作能力：基于Next.js构建的现代化Web界面，支持多用户登录、会话历史归档、对话分享、引用溯源（每句回复自动标注来源文档段落）
高性能向量搜索：默认集成Qdrant（轻量嵌入式向量数据库），也支持Weaviate、Chroma、PostgreSQL+pgvector，毫秒级响应万级文档检索
零代码工作流编排：通过可视化规则引擎配置“当用户提问含‘报销’时，自动调用财务制度知识库+触发审批模板”，轻松构建业务AI助手
全链路自托管与审计：所有数据默认本地存储，支持LDAP/OAuth2单点登录、操作日志审计、API密钥分级管理，满足信创与等保要求

适合哪些人用

技术团队负责人：想快速落地AI应用但不愿从LangChain+LlamaIndex+FastAPI重新造轮子？Onyx提供完整MVP基座，2小时完成POC验证。
企业IT与知识管理者：需要将散落在Confluence、NAS、邮件中的非结构化知识变成员工随问随答的智能助理？Onyx的爬虫+解析+RAG流水线已预置成熟方案。
开发者与极客：追求技术自由度——想用LoRA微调后的本地模型、想接入自研向量库、想改造前端主题？Python+Next.js双栈开源，MIT协议，无任何闭源模块。
高校与科研组：教学演示大模型应用全流程？Onyx的Docker一键部署+Jupyter插件支持，让RAG原理课变得可触摸、可调试、可复现。

快速上手

推荐新手使用Docker方式（Windows/macOS/Linux通用）：
① 安装Docker Desktop（官网下载）
② 打开终端执行：git clone https://github.com/onyx-dot-app/onyx && cd onyx && docker compose up -d
③ 浏览器访问 http://localhost:3000，注册首个管理员账号
④ 进入「知识库」→「添加连接器」，上传PDF或填写网站URL，点击「立即索引」，30秒后即可开始提问！
进阶用户可参考官方文档配置Ollama本地模型、对接企业微信/飞书机器人、或启用PostgreSQL高可用部署。