🚀 DeepSeek RAG 聊天机器人 3.0 – 现已支持 GraphRAG 和聊天历史集成！

(100% 免费、私密（无需联网）且可本地安装于个人电脑）

🔥 DeepSeek + NOMIC + FAISS + 神经重排序 + HyDE + GraphRAG + 聊天记忆 = 终极 RAG 技术栈！

这款聊天机器人利用 DeepSeek-7B、BM25、FAISS、神经重排序（交叉编码器）、GraphRAG 以及 聊天历史集成，能够从 PDF、DOCX 和 TXT 文件中实现 快速、准确且可解释的信息检索。

---

🔹 本版本新增功能

• GraphRAG 集成：根据您的文档构建 知识图谱，以获得更 上下文相关和 关系性的理解。
• 聊天记忆历史感知：通过参考 聊天历史来保持上下文，从而生成更加 连贯且 符合语境的回复。
• 改进的错误处理：解决了与 聊天历史清除 相关的问题及其他小 bug，提供 更流畅的用户体验。

---

即将推出的功能

您可以从 UI 界面选择模型（任何 Ollama 模型）。

例如：用户可以在下拉菜单中选择 Mistral、Gemma 或 Llama3 等模型。

聊天区域会根据文档内容推荐相关问题。

例如：如果文档是关于“机器学习基础”，则可能建议的问题包括： 什么是监督学习？ 梯度下降是如何工作的？ 常用的机器学习模型评估指标有哪些？

提供多种用于不同 RAG（检索增强生成）方法的流程。

例如： 基本 RAG 流程：使用 FAISS 进行检索，并采用简单的提示格式。 高级 RAG 流程：使用 ChromaDB 结合元数据过滤，实现更精准的文档检索。

使用不同的数据存储和相似度搜索技术。

例如： 数据存储：PostgreSQL、Pinecone、Weaviate、ChromaDB。 相似度搜索技术：余弦相似度、欧几里得距离、杰卡德相似度。

安装与设置

有几种方式可以安装并运行 DeepSeek RAG 聊天机器人：

1. 简化安装（推荐使用 install.sh）
2. 传统（手动 Python/venv）安装
3. Docker 安装（非常适合容器化部署）

---

1️⃣ 简化安装（推荐使用 install.sh）

这是最简单的入门方式。install.sh 脚本会自动完成设置过程。

1. 克隆仓库：

   git clone https://github.com/SaiAkhil066/DeepSeek-RAG-Chatbot.git
   cd DeepSeek-RAG-Chatbot
   

2. 运行安装脚本： 确保脚本具有可执行权限，然后运行：

   chmod +x install.sh
   ./install.sh
   

   该脚本将：

   • 检查是否已安装 Ollama，若未找到则进行安装。
   • 根据 requirements.txt 安装 Python 依赖项。
   • 创建或更新 .env 文件，其中包含必要的环境变量，包括模型 huihui-ai/Qwen3-1.7B-abliterated。
   • 拉取指定的 Ollama 模型。

3. 激活环境变量： 脚本完成后，源 .env 文件以将环境变量加载到当前 Shell 会话中：

   source .env
   

4. 运行聊天机器人： 启动 Streamlit 应用程序：

   streamlit run app.py
   

   打开浏览器访问 http://localhost:8501 即可进入聊天机器人界面。

---

2️⃣ 传统（手动 Python/venv）安装

步骤 A：克隆仓库并安装依赖

git clone https://github.com/SaiAkhil066/DeepSeek-RAG-Chatbot.git
cd DeepSeek-RAG-Chatbot

# 创建虚拟环境
python -m venv venv

# 激活环境
# 在 Windows 上：
venv\Scripts\activate
# 在 macOS/Linux 上：
source venv/bin/activate

# 升级 pip（可选，但建议）
pip install --upgrade pip

# 安装项目依赖
pip install -r requirements.txt

步骤 B：下载并设置 Ollama

1. 下载 Ollama → https://ollama.com/
2. 拉取所需模型：

   ollama pull huihui-ai/Qwen3-1.7B-abliterated 
   ollama pull nomic-embed-text
   

   注意：install.sh 脚本会自动处理模型拉取。如果手动安装并希望使用其他模型，请相应地更新环境变量中的 MODEL 或 EMBEDDINGS_MODEL，或创建 .env 文件。

步骤 C：运行聊天机器人

1. 确保 Ollama 已在您的系统上运行：

   ollama serve
   

2. 启动 Streamlit 应用程序：

   streamlit run app.py
   

3. 打开浏览器访问 http://localhost:8501 即可进入聊天机器人界面。

---

2️⃣ Docker 安装

A) 单容器方案（Ollama 在宿主机上）

如果 Ollama 已经 安装在您的宿主机上 并监听 localhost:11434，请按以下步骤操作：

1. 构建并运行：

   docker-compose build
   docker-compose up
   

2. 应用现在将在 http://localhost:8501 提供服务。Ollama 在您的宿主机上运行，容器通过指定的 URL 访问它。

B) 双容器方案（Ollama 在 Docker 中）

如果您希望将 所有内容 都放在 Docker 中：

version: "3.8"

services:
  ollama:
    image: ghcr.io/jmorganca/ollama:latest
    container_name: ollama
    ports:
      - "11434:11434"

  deepgraph-rag-service:
    container_name: deepgraph-rag-service
    build: .
    ports:
      - "8501:8501"
    environment:
      - OLLAMA_API_URL=http://ollama:11434
      - MODEL=huihui-ai/Qwen3-1.7B-abliterated
      - EMBEDDINGS_MODEL=nomic-embed-text:latest
      - CROSS_ENCODER_MODEL=cross-encoder/ms-marco-MiniLM-L-6-v2
    depends_on:
      - ollama

然后：

docker-compose build
docker-compose up

这样，Ollama 和聊天机器人都会在 Docker 中运行。您可以通过 http://localhost:8501 访问聊天机器人。

不过，建议优先考虑方案 A）以获得更好的体验……

---

聊天机器人的工作原理

1. 上传文档：通过侧边栏添加 PDF、DOCX 或 TXT 文件。
2. 混合检索：结合 BM25 和 FAISS 检索出最相关的文本片段。
3. GraphRAG 处理：根据您的文档构建 知识图谱，以理解其中的关系和上下文。
4. 神经重排序：使用 交叉编码器 模型对检索到的片段按相关性重新排序。
5. 查询扩展（HyDE）：生成假设答案以 扩展 您的查询，从而提高召回率。
6. 聊天记忆历史集成：通过参考之前的用户消息来保持上下文。
7. DeepSeek-7B 生成：基于排名靠前的片段生成最终答案。

---

🔹 为什么进行这次升级？

功能	旧版本	新版本
检索方法	混合（BM25 + FAISS）	混合 + GraphRAG
上下文理解能力	有限	借助知识图谱得到增强
用户界面	标准	可自定义 + 主题侧边栏
聊天历史	未被利用	与记忆完全集成
错误处理	基础	通过修复漏洞得到改进

---

📌 如何贡献

• 请 Fork 此仓库，提交 Pull Request，或针对新功能、Bug 修复开启 Issue。
• 我们非常欢迎社区提出关于如何扩展或改进聊天机器人的建议。

---

🔗 欢迎交流并分享您的想法！

您有反馈或建议吗？让我们在 Reddit 上一起讨论吧！🚀💡

---

尽情构建知识图谱、维护对话记忆，并在本地运行强大的 LLM 推理——一切尽在您的设备上。
检索增强型 AI 的未来已到来——无需联网！

DeepSeek-RAG-Chatbot 快速上手指南

DeepSeek-RAG-Chatbot 是一款完全免费、隐私安全（无需联网）的本地 RAG（检索增强生成）聊天机器人。它集成了 GraphRAG（知识图谱）、混合检索（BM25 + FAISS）、神经重排序（Cross-Encoder）以及对话记忆功能，支持从 PDF、DOCX 和 TXT 文件中快速、准确地提取信息并生成可解释的回答。

环境准备

在开始之前，请确保您的系统满足以下要求：

• 操作系统：Linux / macOS / Windows (WSL 推荐)
• Python：版本 3.8 或更高
• Git：用于克隆代码仓库
• Ollama：本地大模型运行引擎（安装脚本会自动检测并安装，也可手动安装）
• 硬件建议：建议拥有至少 8GB 显存（GPU）或 16GB 内存（CPU 模式），以流畅运行 7B 参数量的模型。

国内用户提示：

1. 克隆仓库或下载依赖时若速度较慢，可配置 Git 和 Pip 的国内镜像源。
2. Ollama 模型下载若受阻，可参考社区提供的国内加速代理方案。

安装步骤

推荐使用简化的自动安装脚本，这是最快捷的方式。

方法一：简化安装（推荐）

此方法通过 install.sh 脚本自动完成 Ollama 检查、依赖安装、环境变量配置及模型拉取。

1. 克隆仓库

   git clone https://github.com/SaiAkhil066/DeepSeek-RAG-Chatbot.git
   cd DeepSeek-RAG-Chatbot
   

2. 执行安装脚本 赋予脚本执行权限并运行：

   chmod +x install.sh
   ./install.sh
   

   脚本将自动执行以下操作：

   • 检查并安装 Ollama（如未安装）。
   • 安装 requirements.txt 中的 Python 依赖。
   • 创建 .env 文件并配置默认模型（huihui-ai/Qwen3-1.7B-abliterated）。
   • 自动拉取所需的 Ollama 模型。

3. 加载环境变量 脚本完成后，在当前终端会话中加载环境变量：

   source .env
   

4. 启动应用 运行 Streamlit 服务：

   streamlit run app.py
   

方法二：Docker 安装（可选）

如果您希望容器化部署且宿主机已运行 Ollama：

docker-compose build
docker-compose up

注：若需将 Ollama 也包含在 Docker 中，请参考原文档中的 "Two-Container Approach" 配置。

基本使用

安装完成后，按照以下步骤即可开始体验：

1. 访问界面 打开浏览器，访问 http://localhost:8501。

2. 上传文档 在左侧侧边栏中，上传您需要分析的 PDF、DOCX 或 TXT 文件。系统会自动处理文档，构建知识图谱并向量化存储。

3. 开始对话

   • 在对话框中输入您的问题。
   • 系统将结合 GraphRAG 理解文档间的关联，利用 HyDE 扩展查询，并通过 神经重排序 筛选最相关片段。
   • 得益于 对话记忆 功能，您可以进行多轮连续提问，系统会记住上下文。

4. 查看结果 聊天窗口将显示基于文档内容的准确回答，并支持追溯信息来源。

---

现在，您可以在完全离线的本地环境中，享受具备知识图谱理解和长短期记忆能力的智能问答体验。