VectorDB-recipes

深入构建生成式AI应用！ 本仓库包含示例、应用、入门代码及教程，助您快速启动生成式AI项目。

• 这些内容基于LanceDB构建，LanceDB是一款免费、开源、无服务器的向量数据库，无需任何设置。
• 它与Python数据生态系统无缝集成，因此您可以直接在现有的pandas、arrow、pydantic等数据管道中使用。
• LanceDB还提供原生的TypeScript SDK，借助它您可以在无服务器函数中执行向量搜索！

加入我们的社区获取支持 - Discord • Twitter

---

本仓库分为两个部分：

• 示例 - 通过极少的介绍即可直接上手代码，旨在让您在几分钟内从想法过渡到概念验证！
• 应用 - 可直接使用的Python和Web应用，结合了应用型LLM、向量数据库和生成式AI工具。

以下示例按不同类别整理，便于您快速找到相似类型的示例。

版块

• 从零开始构建 - 逐步指南，教您从头创建AI应用。
• 多模态 - 构建可同时处理并检索文本与图像的应用。
• RAG - 将文档检索与LLM驱动的回答相结合。
• 向量搜索 - 学习如何利用基于向量的搜索高效地找到相关文档。
• 聊天机器人 - 创建能够获取信息并生成智能回复的AI聊天机器人。
• 评估 - 衡量AI生成答案的质量与准确性。
• AI代理 - 构建由多个代理协作互动的LLM驱动应用。
• 推荐系统 - 开发用于个性化推荐的AI驱动系统。
• 概念 - 关于AI应用中关键技巧的教程与解释。

🌟 新增 🌟

随时了解仓库中新增的最新项目、工具及改进。

• V-JEPA视频搜索 -

从零开始构建

从基础入手！这些示例将引导您使用LanceDB从零开始构建AI应用，实现高效的文档检索与搜索功能。

从零开始构建	交互式笔记本与脚本
从零开始构建RAG
使用Llama3从零开始构建本地RAG
从零开始构建多头RAG
从零开始构建金融科技AI代理

多模态

跨不同类型的数据（文本、图像等）进行搜索。构建能够处理多样化输入的强大搜索应用。

多模态	交互式笔记本与脚本	博客
V-JEPA 视频搜索
多模态 CLIP：DiffusionDB
多模态 CLIP：YouTube 视频
Cambrian-1：以视觉为中心的图像探索
多模态 Jina CLIP-V2：美食搜索
多模态向量搜索：Voyage AI 与 LanceDB

RAG

通过在回答前检索相关文档来生成响应。本节涵盖了在项目中实现 RAG 的不同方法。

RAG	交互式笔记本与脚本	博客
使用 Deepseek R1 对比 OpenAI o1 的 RAG
PDF 上的 RAG
基于上下文检索与混合搜索的 RAG
使用 Matryoshka 嵌入和 LlamaIndex 的 RAG
使用 IBM Watsonx 的 RAG
Cognee RAG
通过重排序提升 RAG
通过 HyDE 提升 RAG
通过 LOTR 提升 RAG
高级 RAG：上下文增强窗口
高级 RAG：延迟分块
使用 Langgraph 的纠正型 RAG
基于上下文压缩的 RAG
通过 FLARE 提升 RAG
代理型 RAG
GraphRAG
使用 CSV 文件的 GraphRAG
结合 cognee 的多媒体 GraphRAG

向量搜索

快速找到相关文档！这些项目展示了如何使用基于向量的搜索技术，使人工智能驱动的搜索更快、更智能。

向量搜索	交互式笔记本与脚本	博客
内置混合搜索
BM25 与 LanceDB 的混合搜索
基于 NER 的语义搜索
LanceDB 中的向量运算
总结并搜索 Reddit 帖子
ImageBind 演示应用
图像内的搜索
CLIP 的零样本目标检测
使用 TransformersJS 进行向量搜索
地理空间推荐系统
使用 OpenVINO 加速向量搜索应用

聊天机器人

利用 LanceDB 的向量搜索功能，创建能够理解用户查询并返回相关回答的聊天机器人。

聊天机器人	交互式笔记本与脚本	博客
Databricks DBRX 网站聊天机器人
基于 CLI 的 SDK 手动聊天机器人（本地运行）
YouTube 字幕搜索聊天机器人
Langchain：代码文档问答聊天机器人
使用 Crawl4AI 构建任意网站的聊天机器人
使用 Llama 2 和 LanceDB 的上下文感知聊天机器人

评估

这些项目提供了比较 AI 生成的回答与参考数据、并优化准确性的工具。

评估	交互式笔记本与脚本	博客
使用 HoneyHive 监控和追踪 RAG
使用 RAGAs 评估 RAG

AI 代理

构建多个 AI 代理相互协作以高效完成任务的应用程序。这些项目展示了代理如何协同工作、交换数据并自动化工作流。

AI 代理	交互式笔记本与脚本	博客
旅行计划 Swarm 风格代理
多源代理
带有 Composio 的 AI 邮件助手
带有 OpenAI Swarm 的助理机器人
使用 CrewAI 的 AI 趋势搜索器
SuperAgent Autogen
使用 Langgraph 构建自主客服代理
AI 代理：减少幻觉
多文档 Agentic RAG
RASA：客服机器人

推荐系统

个性化AI推荐！这些项目可以帮助你构建基于用户偏好的内容推荐引擎。

推荐系统	交互式笔记本与脚本	博客
电影推荐
产品推荐
Arxiv论文推荐
音乐推荐

概念

学习AI应用背后的核心概念——包括文本分块、检索策略和优化技术——以提升你对向量搜索和AI工作流的理解。

概念	交互式笔记本	博客
文本分块及其类型入门
Langchain与LlamaIndex的分块
使用Instructor创建结构化数据集
比较Cohere重排序器与LanceDB
产品量化：压缩高维向量
大模型、RAG与AI缺失的存储层
使用PEFT与QLoRA微调大模型
使用LlamaParse从PDF中提取复杂表格与文本
将任意图像数据集转换为Lance格式

项目与应用

使用LanceDB构建的即用型AI应用！你可以直接使用这些项目，也可以根据需要进行定制，或将其集成到你自己的应用中。

由 LanceDB 驱动的 Node.js 应用程序

项目名称	描述	截图
写作助手	使用 lanchain.js 和 LanceDB 构建的写作助手应用，可根据您撰写的文本实时提供相关建议和事实，帮助您完成写作。
句子自动补全	使用 lanchain.js 和 LanceDB 构建的句子自动补全应用，可根据您撰写的文本实时提供相关的自动补全建议和事实，帮助您完成写作。您还可以上传 PDF 格式的资料来源，并在不同的 GPT 模型之间切换以获得更快的结果。
文章推荐	文章推荐：探索海量文章数据集，享受即时、上下文感知的推荐服务。借助先进的自然语言处理技术、向量搜索以及可定制的数据集，我们的应用能够提供实时、精准的文章推荐。非常适合用于研究、内容策划以及保持信息更新。通过内容检索与发现领域的前沿技术，解锁更智能的洞察！
AI 驱动的求职搜索	通过这款 AI 驱动的应用程序，彻底改变您的求职体验。它基于 LangChain.js、LanceDB 和先进的语义搜索技术，能够根据您的偏好实时提供高度精准的职位列表。该应用支持自定义数据集和高级筛选选项（如技能、地点、职位类型和薪资范围），确保您快速且轻松地找到合适的职位机会。最适合求职者、招聘人员、职业平台及定制化招聘网站使用。
AI 驱动的多模态表情包搜索	一款先进的 AI 驱动的表情包搜索引擎，允许用户通过文本和图像查询来查找表情包。该平台利用 LanceDB 作为高性能向量数据库，并结合 Roboflow 的 CLIP 模型生成嵌入向量，从而实现快速而准确的表情包检索。
AI 驱动的员工反馈搜索与分析	一个 AI 驱动的员工反馈分析平台，旨在收集、存储、分析并检索有价值的员工反馈信息。该系统利用 LanceDB 进行高速的基于向量的语义搜索，采用 React.js 构建交互式用户界面，使用 Node.js 处理后端逻辑，并结合 LangChain.js 和 Ambient Agent 实现智能化分析与可操作的洞察。
层次化多智能体	AI 驱动的法律助手是一个基于 LangGraph、LangChain 和 LanceDB 的 层次化多智能体 系统，用于高效处理法律查询。它配备了一个主管智能体，负责将任务委派给专门处理《印度刑法典》和《麻醉药品及精神药物法》的子智能体，每个子智能体又进一步细分为案件检索和法律摘要生成等模块。借助 LanceDB，该系统可以存储和检索经过向量化处理的法律文档，为法律从业者、研究人员和法学院学生提供快速、结构化且具备上下文感知能力的响应。

项目名称	描述	截图
YOLOExplorer	使用 SQL、向量语义搜索等工具，在几秒钟内迭代处理您的 YOLO/CV 数据集
网站聊天机器人（可部署的 Vercel 模板）	根据任意网站的站点地图或您选择的文档创建聊天机器人。基于向量数据库的无服务器原生 JavaScript 包构建。
带有 Parler TTS 的高级聊天机器人	该聊天机器人应用使用 Lancedb 混合搜索、FTS 和重排序方法，并结合 Parlers TTS 库。
多模态搜索引擎	构建一个多模态搜索引擎应用，支持通过图像或文本进行搜索
评估 RAG	一个可用的 Streamlit RAG 应用，旨在展示端到端的生产级评估，涵盖 50 多种评分和指标，包括安全检查、软件度量、传统指标以及以大模型为评判标准的指标。它结合了专用深度学习模型和大模型作为评判模型来进行评估。
多智能体协作聊天机器人	基于 LangGraph 的多智能体协作聊天机器人，适用于股票市场场景，使用 Lancedb 及 Polygon、Tavily 等工具。
多模态 Myntra 时尚搜索引擎	该应用使用 OpenAI 的 CLIP 构建了一个能够理解并处理文字与图片的搜索引擎。
多语言 RAG	支持 100 多种语言的多语言 RAG，采用 Cohere 嵌入技术。
音乐推荐系统	基于音频特征提取和向量相似性搜索的音乐推荐系统。通过利用 LanceDB、用于音频标签的 PANNs 以及用于音频特征提取的 Librosa，该系统可以根据查询歌曲找到并推荐具有相似音频特征的曲目。
NoOCR	基于 ColPali 和 LanceDB 的复杂 PDF 全流程解决方案。

🌟 新！ 🌟 Udacity 上的应用型生成式 AI 和向量数据库课程 在最近推出的 Udacity 课程 中，使用 LanceDB 学习生成式 AI 和向量数据库。

贡献示例

如果您正在开发一些很酷的应用程序，并希望将其添加到此仓库中，请提交 PR！

vectordb-recipes 快速上手指南

vectordb-recipes 是一个基于 LanceDB 的开源项目集合，旨在帮助开发者快速构建生成式 AI（GenAI）应用。它提供了从基础 RAG、多模态搜索到 AI Agent 的各种示例代码和教程。LanceDB 是一款免费、开源、无服务器（serverless）的向量数据库，无需复杂配置即可嵌入现有的 Python 数据生态（如 pandas, arrow, pydantic）。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：Python 3.9 或更高版本
• 包管理工具：pip 或 conda
• 可选依赖：
  • 若运行 Jupyter Notebook 示例，建议安装 jupyter 或使用 Google Colab。
  • 部分示例需要 LLM API Key（如 OpenAI, Anthropic 等）或本地大模型环境。

国内开发者提示：建议使用国内镜像源加速 Python 包的安装，例如清华源或阿里源。

安装步骤

1. 克隆项目仓库

首先，将 vectordb-recipes 仓库克隆到本地：

git clone https://github.com/lancedb/vectordb-recipes.git
cd vectordb-recipes

加速方案：如果 GitHub 访问较慢，可使用国内镜像（如 Gitee 镜像，若有）或通过代理加速克隆。

2. 创建虚拟环境（推荐）

为了避免依赖冲突，建议创建独立的虚拟环境：

python -m venv venv
source venv/bin/activate  # Windows 用户请使用: venv\Scripts\activate

3. 安装核心依赖

安装 LanceDB 及项目通用的基础依赖。由于不同示例可能需要特定的额外库（如 torch, transformers, openai 等），建议先安装核心包，再根据具体运行的示例安装额外需求。

# 使用国内镜像源加速安装
pip install lancedb -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install pandas pyarrow -i https://pypi.tuna.tsinghua.edu.cn/simple

注意：运行特定示例（如 examples/RAG-On-PDF）时，请进入对应目录查看 requirements.txt 并安装特定依赖。

基本使用

以下是一个最简单的示例，展示如何使用 LanceDB 创建向量表并执行向量搜索。此逻辑与仓库中大多数 "Build from Scratch" 示例的核心流程一致。

示例：快速构建向量搜索

创建一个名为 quick_start.py 的文件，写入以下代码：

import lancedb
import pandas as pd

# 1. 连接数据库 (本地模式，无需服务器)
db = lancedb.connect("./data/lancedb")

# 2. 准备数据
data = pd.DataFrame({
    "vector": [[1.0, 0.0], [0.0, 1.0], [1.0, 1.0]], 
    "text": ["apple", "banana", "fruit"],
    "id": [1, 2, 3]
})

# 3. 创建表并插入数据
table = db.create_table("my_table", data=data)

# 4. 执行向量搜索
# 搜索与 [0.9, 0.1] 最相似的向量
query_vector = [0.9, 0.1]
results = table.search(query_vector).limit(2).to_pandas()

print(results)

运行脚本：

python quick_start.py

运行仓库中的示例

您可以直接运行仓库中提供的成熟示例。例如，运行一个简单的 PDF RAG 示例：

1. 进入示例目录：

   cd examples/RAG-On-PDF
   

2. 安装该示例的特定依赖：

   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

3. 运行 Notebook 或 Python 脚本：

   # 如果在本地运行
   jupyter notebook main.ipynb
   
   # 或者直接运行 python 脚本 (如果存在)
   python main.py
   

通过以上步骤，您即可利用 vectordb-recipes 快速启动您的 GenAI 项目原型。更多高级用法（如多模态搜索、Agent 构建）请参考仓库中对应的 examples 和 tutorials 目录。