AnythingLLM： 你一直在寻找的一站式 AI 应用。
与你的文档聊天，使用 AI 代理，高度可配置，支持多用户，无需繁琐的设置。

AnythingLLM: 您一直在寻找的一站式AI应用。
与您的文档聊天，使用AI智能体，高度可配置，支持多用户，无需繁琐的设置。

| | 文档 | 托管实例

English · 简体中文 · 日本語

👉 AnythingLLM桌面版（Mac、Windows和Linux）！立即下载

与您的文档聊天。通过AI智能体自动化复杂的工作流。高度可配置，支持多用户，经过实战考验——默认情况下可在本地运行，无需任何设置即可轻松上手。

观看演示！

产品概述

AnythingLLM是一款一站式AI应用，让您无需妥协即可构建一个功能齐全的私有ChatGPT。连接您喜爱的本地或云端大模型，导入您的文档，几分钟内即可开始聊天。开箱即用，内置智能体、多用户支持、向量数据库和文档处理管道——无需额外配置。

AnythingLLM还支持多用户模式，您可以为每个用户控制访问权限和使用体验，同时确保实例的安全性以及您的知识产权不受影响。

AnythingLLM的亮点功能

• 智能工具选择 为您的模型启用无限工具，同时将每次查询的token消耗降低多达80%
• 无代码AI智能体构建器
• 完全兼容MCP协议
• 多模态支持（包括闭源和开源大模型！）
• 自定义AI智能体
• 👤 多用户实例支持及权限管理 仅限Docker版本
• 🦾 工作空间内的智能体（如浏览网页等）
• 💬 适用于您网站的自定义嵌入式聊天组件 仅限Docker版本
• 📖 支持多种文档类型（PDF、TXT、DOCX等）
• 直观的聊天界面，支持拖放上传和来源引用。
• 适合任何云环境的生产级部署。
• 兼容所有主流的闭源和开源大模型提供商。
• 针对大型文档集进行了内置优化——成本更低，响应速度更快，优于其他聊天界面。
• 提供完整的开发者API，方便自定义集成！
• …还有更多功能——只需几分钟安装，亲身体验吧。

支持的 LLM、嵌入模型、语音模型和向量数据库

大型语言模型 (LLMs)：

• 任何兼容 llama.cpp 的开源模型
• OpenAI
• OpenAI（通用）
• Azure OpenAI
• AWS Bedrock
• Anthropic
• NVIDIA NIM（聊天模型）
• Google Gemini Pro
• Hugging Face（聊天模型）
• Ollama（聊天模型）
• LM Studio（所有模型）
• LocalAI（所有模型）
• Together AI（聊天模型）
• Fireworks AI（聊天模型）
• Perplexity（聊天模型）
• OpenRouter（聊天模型）
• DeepSeek（聊天模型）
• Mistral
• Groq
• Cohere
• KoboldCPP
• LiteLLM
• Text Generation Web UI
• Apipie
• xAI
• Z.AI（聊天模型）
• Novita AI（聊天模型）
• PPIO
• Gitee AI
• Moonshot AI
• Microsoft Foundry Local
• CometAPI（聊天模型）
• Docker Model Runner
• PrivateModeAI（聊天模型）
• SambaNova Cloud（聊天模型）
• Lemonade by AMD

嵌入模型：

• AnythingLLM 原生嵌入器（默认）
• OpenAI
• Azure OpenAI
• LocalAI（全部）
• Ollama（全部）
• LM Studio（全部）
• Cohere

音频转录模型：

• AnythingLLM 内置（默认）
• OpenAI

TTS（文本到语音）支持：

• 浏览器原生内置（默认）
• PiperTTSLocal — 在浏览器中运行
• OpenAI TTS
• ElevenLabs
• 任何兼容 OpenAI 的 TTS 服务。

STT（语音到文本）支持：

• 浏览器原生内置（默认）

向量数据库：

• LanceDB（默认）
• PGVector
• Astra DB
• Pinecone
• Chroma & ChromaCloud
• Weaviate
• Qdrant
• Milvus
• Zilliz

技术概览

这个单体仓库由六个主要部分组成：

• frontend：一个基于 viteJS 和 React 的前端，您可以运行它来轻松创建和管理 LLM 可以使用的所有内容。
• server：一个 NodeJS express 服务器，用于处理所有交互，并进行向量数据库管理和 LLM 交互。
• collector：一个 NodeJS express 服务器，用于处理和解析来自 UI 的文档。
• docker：Docker 指令和构建流程，以及从源代码构建的信息。
• embed：用于生成和创建 网页嵌入小部件 的子模块。
• browser-extension：用于 Chrome 浏览器扩展 的子模块。

🛳 自托管

Mintplex Labs 和社区维护着多种部署方法、脚本和模板，您可以使用它们在本地运行 AnythingLLM。请参阅下表，了解如何在您首选的环境中部署，或进行自动部署。

Docker	AWS	GCP	Digital Ocean	Render.com

Railway	RepoCloud	Elestio	Northflank

或者无需 Docker 即可搭建生产级 AnythingLLM 实例 →

开发环境设置方法

• yarn setup：用于填充应用程序各部分所需的 .env 文件（从仓库根目录开始）。
  • 请先填写这些文件再继续操作。确保 server/.env.development 已填写，否则系统将无法正常工作。
• yarn dev:server：在本地启动服务器（从仓库根目录开始）。
• yarn dev:frontend：在本地启动前端（从仓库根目录开始）。
• yarn dev:collector：随后运行文档收集器（从仓库根目录开始）。

了解文档相关信息

遥测与隐私

Mintplex Labs Inc. 的 AnythingLLM 包含一项遥测功能，用于收集匿名使用信息。

关于 AnythingLLM 的遥测与隐私更多信息

为什么？

我们使用这些信息来帮助我们了解 AnythingLLM 的使用情况，以便优先处理新功能和错误修复，并提升 AnythingLLM 的性能和稳定性。

退出选项

在您的服务器或 Docker 的 .env 设置中，将 DISABLE_TELEMETRY 设置为“true”，即可退出遥测功能。您也可以在应用内通过侧边栏 > Privacy 并关闭遥测功能来实现退出。

您明确跟踪哪些内容？

我们仅会跟踪有助于我们做出产品和路线图决策的使用详情，具体包括：

• 您的安装类型（Docker 或 Desktop）

• 文档被添加或移除的时间。我们不会收集关于文档本身的任何信息，只记录事件的发生。这能帮助我们了解产品的使用情况。

• 当前使用的向量数据库类型。这有助于我们在该提供商推出更新时确定功能优先级。

• 当前使用的 LLM 提供商及模型标签。这有助于我们在该提供商或特定模型、或两者的组合推出更新时确定功能优先级，例如推理型与常规型、多模态模型等。

• 聊天消息发送的时间。这是最频繁发生的“事件”，能够帮助我们了解该项目在所有安装中的日常活动情况。同样地，我们仅发送事件本身——不会收集聊天内容或性质的相关信息。

您可以通过查找所有调用 Telemetry.sendTelemetry 的位置来验证这些说法。此外，这些事件也会写入输出日志中，因此如果您启用了日志记录功能，还可以查看实际发送的具体数据。我们绝不会收集 IP 地址或其他可识别身份的信息。我们的遥测服务提供商是 PostHog——一个开源的遥测数据收集服务。

我们非常重视隐私保护，并希望您能理解，我们希望通过匿名方式了解工具的使用情况，而无需烦人的弹窗调查，从而打造一款真正值得使用的工具。这些匿名数据将绝不与第三方共享。

在源代码中查看所有遥测事件

👋 参与贡献

• 参与 AnythingLLM 的贡献 —— 如何为 AnythingLLM 做出贡献。

💖 赞助商

高级赞助商

所有赞助者

🌟 贡献者

🔗 More Products

• VectorAdmin: An all-in-one GUI & tool-suite for managing vector databases.
• OpenAI Assistant Swarm: Turn your entire library of OpenAI assistants into one single army commanded from a single agent.

---

Copyright © 2026 Mintplex Labs.
This project is MIT licensed.

AnythingLLM 快速上手指南

AnythingLLM 是一款全能型 AI 应用，支持本地部署。你可以连接本地或云端大模型，导入文档进行对话，构建无代码 AI Agent，并支持多用户管理。默认情况下可本地运行，无需复杂配置。

环境准备

系统要求

• 操作系统：Windows, macOS, Linux
• 内存：建议 8GB 以上（运行本地模型需更多）
• 磁盘空间：至少 10GB 可用空间
• 运行时环境：
  • Node.js (v18+)
  • Yarn 包管理器
  • Docker (可选，用于容器化部署)

前置依赖

确保已安装以下工具：

# 检查 Node.js 版本
node -v

# 检查 Yarn 是否安装
yarn -v

# 若未安装 Yarn，可通过 npm 安装
npm install -g yarn

安装步骤

方式一：桌面客户端（推荐新手）

直接下载预编译的桌面应用程序，零配置启动：

• 访问官网下载页：https://anythingllm.com/download
• 选择对应系统（Mac/Windows/Linux）安装包
• 安装后直接运行即可

方式二：源码部署（开发者模式）

1. 克隆仓库

git clone https://github.com/Mintplex-Labs/anything-llm.git
cd anything-llm

2. 初始化环境变量

yarn setup

执行后请根据提示填写 .env 文件，特别是 server/.env.development 必须配置正确。

3. 启动服务 在根目录下分别启动三个核心组件：

# 启动后端服务
yarn dev:server

# 启动前端界面（新终端窗口）
yarn dev:frontend

# 启动文档收集器（新终端窗口）
yarn dev:collector

方式三：Docker 部署（生产环境/多用户）

使用官方提供的 Docker 镜像快速部署（支持多用户和权限管理）：

docker run -d -p 3000:3000 mintplexlabs/anythingllm

注：具体 Docker 编排文件请参考项目 docker 目录或官方文档。

基本使用

1. 配置模型提供商

   • 打开浏览器访问 http://localhost:3000 (默认端口)。
   • 在设置中选择支持的 LLM 提供商（如 Ollama, OpenAI, LocalAI 等）。
   • 填入对应的 API Key 或本地模型路径。

2. 创建知识库工作区

   • 点击 "New Workspace" 创建一个新的工作空间。
   • 将文档（PDF, TXT, DOCX 等）拖拽上传至工作区。
   • 系统会自动解析文档并向量化存储（默认使用 LanceDB）。

3. 开始对话

   • 在聊天窗口输入问题，AI 将基于你上传的文档内容进行回答。
   • 回复中会附带来源引用，方便追溯原文。

4. 进阶功能

   • AI Agent：在工作区内启用 Agent 功能，让 AI 自主浏览网页或执行复杂任务。
   • 多模态支持：上传包含图片或音频的文件进行交互。
   • 嵌入网站：(Docker 版) 生成 Embed 代码将聊天窗口嵌入你自己的网站。