JamAI Base

[!TIP] 浏览我们的文档

概述

JamAI Base 是一个开源的 RAG（检索增强生成）后端平台，集成了嵌入式数据库（SQLite）和嵌入式向量数据库（LanceDB），并具备内存管理和 RAG 功能。它内置了大语言模型、向量嵌入以及重排序器的编排与管理，所有功能均可通过便捷直观的电子表格式 UI 和简洁的 REST API 访问。

从 v1 迁移到 v2 的迁移指南

请参阅迁移指南

主要特性

• 嵌入式数据库（SQLite）和向量数据库（LanceDB）
• 内存管理和 RAG 功能
• 内置大语言模型、向量嵌入及重排序器编排
• 直观的电子表格式 UI
• 简单的 REST API

生成表

将静态数据库表转化为动态的、由 AI 增强的实体。

• 动态数据生成：自动用大语言模型生成的相关数据填充列。
• 内置 REST API 端点：简化将 AI 功能集成到应用程序中的流程。

行动表

促进应用程序前端与大语言模型后端之间的实时交互。

• 实时响应性：为应用程序提供响应迅速的 AI 交互层。
• 自动化后端管理：无需手动管理用户输入与输出的后端。
• 复杂工作流编排：支持创建复杂的大语言模型工作流。

知识表

作为结构化数据和文档的存储库，增强大语言模型的上下文理解能力。

• 丰富的上下文背景：为大语言模型的操作提供丰富的上下文背景。
• 增强的数据检索：通过提供详细、结构化的上下文信息，支持其他生成表。
• 高效的文档管理：支持文档和数据的上传与同步。

聊天表

简化智能聊天机器人应用程序的创建与管理。

• 智能聊天机器人开发：简化聊天机器人的开发与运营管理。
• 上下文感知的交互：通过智能且上下文感知的交互提升用户参与度。
• 无缝集成：可与检索增强生成（RAG）集成，以利用任何知识表中的内容。

LanceDB 集成

高效管理和查询大规模多模态数据。

• 优化的数据处理：高效存储、管理、查询和检索大规模多模态数据的嵌入。
• 可扩展性：确保最佳性能与无缝扩展。

声明式范式

专注于定义“想要实现什么”，而非“如何实现”。

• 简化开发：允许用户通过自然语言提示定义关系和期望结果。
• 非过程式方法：无需编写过程。
• 函数式灵活性：通过大语言模型支持函数式编程。

主要优势

易用性

• 界面：简单、直观的电子表格式界面。
• 重点：通过自然语言提示定义数据需求。

可扩展性

• 基础：基于 LanceDB 构建，这是一种专为 AI 工作负载设计的开源向量数据库。
• 性能：无服务器设计确保最佳性能与无缝扩展。

灵活性

• 大语言模型支持：支持任何大语言模型，包括 OpenAI GPT-4、Anthropic Claude 3 和 Meta Llama3。
• 能力：轻松利用最先进的 AI 能力。

声明式范式

• 方法：定义“想要什么”而非“如何实现”。
• 简化：简化复杂的数据操作，使不同技术水平的用户都能轻松使用。

创新的 RAG 技术

• 轻松的 RAG：内置 RAG 功能，无需自行搭建 RAG 流水线。
• 查询重写：提升搜索查询的准确性和相关性。
• 混合搜索与重排序：结合关键词搜索、结构化搜索和向量搜索，以获得最佳结果。
• 结构化 RAG 内容管理：无缝组织和管理您的结构化内容。
• 自适应分块：自动确定最佳的数据分块方式。
• BGE M3 嵌入：免费使用多语言、多功能、多粒度的文本嵌入。

入门指南

方案一：使用 JamAI Base 云服务

注册免费账户！ 我们提到过您可以获得免费的大语言模型令牌吗？

方案二：启动自托管服务

按照我们的分步指南操作。

浏览文档：

• SDK 和平台文档
• API 文档
• 更新日志
• 版本控制

示例

想尝试用 JamAI Base 构建应用吗？我们有一些超棒的示例供您入门！请查看我们的示例文档获取灵感。

这里有几个很酷的前端示例：

1. 仅使用 NLUX 的简易聊天机器人：无需任何后端设置即可构建一个基本聊天机器人。这是个很好的入门方式！
2. 使用 NLUX + Express.js 的简易聊天机器人：更进一步，使用 Express.js 添加一些后端功能。
3. 使用 Streamlit 的简易聊天机器人：您是 Python 开发者吗？快来看看这个 Streamlit 演示吧！

如果您有任何问题，请随时联系我们——我们随时为您提供帮助！祝您编码愉快！😊

社区与支持

加入我们充满活力的开发者社区，获取全面的文档、教程和资源：

• Discord：加入我们的 Discord
• GitHub：给我们的 GitHub 仓库点赞

贡献

我们欢迎贡献！请阅读我们的贡献指南开始参与。

许可证

本项目采用 Apache 2.0 许可证发布。详情请参阅LICENSE文件。

联系方式

关注我们在X和LinkedIn上的账号，获取最新动态与资讯。

JamAIBase 快速上手指南

环境准备

系统要求

• 操作系统：支持 Linux、macOS 或 Windows（推荐使用 Linux 或 macOS）
• Python 版本：3.8 及以上
• 网络连接：需要访问互联网以下载依赖项和模型

前置依赖

确保已安装以下工具：

• Python 3.8+
• pip (Python 包管理器)
• Git (用于克隆代码仓库)

建议使用国内镜像源加速依赖安装，例如使用 清华源：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple <package_name>

---

安装步骤

1. 克隆仓库

git clone https://github.com/EmbeddedLLM/JamAIBase.git
cd JamAIBase

2. 安装依赖

pip install -r requirements.txt

如果你在国内，可以使用以下命令加速安装：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 启动服务

python main.py

默认情况下，服务将在 http://localhost:8000 上运行。

---

基本使用

示例：创建一个简单的知识表并进行查询

1. 通过 UI 创建知识表
   打开浏览器，访问 http://localhost:8000，进入 JamAIBase 的 Web 界面。
   在“知识表”部分，创建一个新的表，并上传一些文档或结构化数据。

2. 使用 REST API 查询知识表
   使用 curl 或 Postman 发送请求：

curl -X GET "http://localhost:8000/api/knowledge_tables/my_table/query?query=人工智能"

这将返回与“人工智能”相关的知识内容。

3. 创建一个简单的聊天机器人（Chat Table）
   在 UI 中创建一个“聊天表”，并配置其使用上面的知识表作为 RAG 数据源。
   你可以通过 REST API 与聊天机器人交互：

curl -X POST "http://localhost:8000/api/chat_tables/my_chatbot/messages" \
     -H "Content-Type: application/json" \
     -d '{"message": "什么是人工智能？"}'

---

如需进一步了解功能细节，请参考官方文档：JamAIBase 文档