访问 Dot 官网

---

🚀 关于 Dot

Dot 是一款独立的开源应用，旨在通过本地大语言模型和检索增强生成（RAG）技术，实现与文档和文件的无缝交互。它受到 Nvidia 的 Chat with RTX 等解决方案的启发，为没有编程背景的用户提供友好的界面。Dot 默认使用 Phi-3.5 大语言模型，开箱即用，确保易用性和简洁性。

https://github.com/alexpinel/Dot/assets/93524949/28b26128-7bdc-4bf7-99f3-d09bd8431875

📜 它能做什么？

Dot 允许用户将多个文档加载到大语言模型中，并在完全本地化的环境中与之交互。支持的文档类型包括 PDF、DOCX、PPTX、XLSX 等！此外，用户还可以通过 Big Dot 进行与文档无关的咨询，类似于与 ChatGPT 互动。

🔧 它是如何工作的？

该应用基于 Electron JS 构建，使用了 FAISS 等库来创建本地向量存储，Langchain、llama.cpp 和 Huggingface 来搭建对话链，以及其他工具用于文档管理和交互。

📥 安装

对于普通用户：

• 请访问 Dot 官网 下载适用于 Apple Silicon 或 Windows 的应用程序。

对于开发者：

• 克隆仓库 $ https://github.com/alexpinel/Dot.git
• 安装 Node.js 后，在项目目录内运行 npm install。如果在此步骤遇到问题，可以尝试运行 npm install --force。完成后，进入 cd aadotllm 再次运行 npm install！

🌟 我希望添加的未来功能

• Linux 支持
• 多种大语言模型选择 - 已完成！
• 图像文件支持
• 在内容之外进一步提升对文档的理解能力
• 简化文件加载方式（可选择单个文件，而不仅仅是整个文件夹）
• 加强使用本地大语言模型时的安全措施
• 支持更多文档类型 - 已完成！
• 高效的文件数据库管理，以便更快地访问文件组

🤝 想要帮忙吗？

非常欢迎各位贡献！作为一位在课余时间维护该项目的学生，任何帮助都将不胜感激。无论是代码编写、文档撰写，还是功能建议，都欢迎积极参与！

星标历史

---

Dot 快速上手指南

Dot 是一款独立的开源应用程序，旨在利用本地大语言模型（LLM）和检索增强生成（RAG）技术，让用户能够无缝地与文档和文件进行交互。它无需编程背景即可使用，默认搭载 Phi-3.5 模型，支持 PDF、DOCX、PPTX、XLSX 等多种格式。

环境准备

系统要求

• 操作系统：Windows 或 macOS (Apple Silicon)
  • 注：Linux 版本正在开发中，暂不支持。
• 硬件建议：运行本地 LLM 需要一定的 GPU 或 CPU 性能（具体取决于模型大小）。

前置依赖（仅针对开发者）

如果你打算从源码构建或贡献代码，需要安装以下工具：

• Node.js：确保已安装最新 LTS 版本。
• Git：用于克隆仓库。

安装步骤

方式一：普通用户（推荐）

直接下载预编译的应用程序，无需配置环境：

1. 访问 Dot 官方网站。
2. 根据你的系统选择 Apple Silicon 或 Windows 版本下载。
3. 安装并运行即可。

方式二：开发者（源码构建）

如果你需要自定义开发或调试，请按照以下步骤操作：

1. 克隆项目仓库：

   git clone https://github.com/alexpinel/Dot.git
   

2. 进入项目根目录并安装主依赖：

   cd Dot
   npm install
   

   如果遇到依赖冲突问题，可尝试强制安装：

   npm install --force
   

3. 进入子模块 aadotllm 并安装其依赖：

   cd aadotllm
   npm install
   

基本使用

1. 启动应用：运行安装好的 Dot 应用程序。
2. 加载文档：
   • 将包含知识的文件夹拖入应用，或通过界面选择文件夹。
   • 支持格式包括：PDF, DOCX, PPTX, XLSX 等。
   • 系统会自动使用 FAISS 创建本地向量存储。
3. 开始对话：
   • 文档问答：在聊天框中输入与文档内容相关的问题，Dot 将基于本地 RAG 技术提供答案。
   • 通用对话 (Big Dot)：提出与文档无关的通用问题，系统将切换至通用聊天模式（类似 ChatGPT）。
4. 切换模型：在设置中可选择不同的本地 LLM（如果已下载其他模型）。

提示：所有数据处理均在本地完成，无需联网上传文件，确保数据隐私安全。