🦜️🔗 LangChain.dart

构建由大语言模型驱动的 Dart/Flutter 应用程序。

什么是 LangChain.dart？

LangChain.dart 是由 Harrison Chase 创建的流行 Python 框架 LangChain 的非官方 Dart 移植版。

LangChain 提供了一组开箱即用的组件，用于与语言模型协作，并提供了一个标准接口，可以将这些组件串联起来，以实现更高级的用例（例如聊天机器人、带有 RAG 的问答系统、智能体、摘要生成、翻译、信息抽取、推荐系统等）。

这些组件可以分为几个核心模块：

• 📃 模型输入输出： LangChain 提供了一个统一的 API，用于与各种 LLM 提供商（如 OpenAI、Google、Mistral、Ollama 等）交互，使开发者能够轻松地在不同提供商之间切换。此外，它还提供了管理模型输入（提示模板和示例选择器）以及解析模型输出（输出解析器）的工具。
• 📚 检索： 帮助加载用户数据（通过文档加载器）、对其进行转换（使用文本分割器）、提取其语义（使用嵌入模型）、存储（在向量数据库中）并检索出来（通过检索器），以便将其用于增强模型的回答（即检索增强生成或 RAG）。
• 🤖 智能体： 利用 LLM 来做出明智决策的“机器人”，决定使用哪些可用工具（如网络搜索、计算器、数据库查询等）来完成指定的任务。

不同的组件可以使用 LangChain 表达式语言 (LCEL) 组合在一起。

动机

大型语言模型（LLMs）彻底改变了自然语言处理（NLP），成为问答、摘要生成、翻译和文本生成等各种应用中的关键组件。

LLMs 的普及正在催生一个新的技术栈。然而，新兴的库和工具主要是在 Python 和 JavaScript 生态系统中开发的。因此，在这些生态系统中利用 LLM 的应用程序数量呈指数级增长。

相比之下，Dart/Flutter 生态系统并未经历类似的增长，这很可能归因于缺乏能够简化与 LLM 交互复杂性的 Dart 和 Flutter 库。

LangChain.dart 旨在填补这一空白，通过抽象 Dart 和 Flutter 中与 LLM 交互的复杂性，使开发者能够有效地发挥它们的联合潜力。

软件包

LangChain.dart 采用模块化设计，允许开发者仅导入所需的组件。该生态体系由多个软件包组成：

langchain_core

仅包含核心抽象以及用于组合这些抽象的 LangChain 表达式语言。

若要基于 LangChain.dart 构建框架或与其互操作，请依赖此软件包。

langchain

包含更高层次的、针对特定用例的链、智能体和检索算法，这些是应用程序认知架构的核心。

若要使用 LangChain.dart 构建 LLM 应用程序，请依赖此软件包。

此软件包公开了 langchain_core，因此您无需显式依赖它。

langchain_community

包含不属于 LangChain.dart 核心 API 的第三方集成和社区贡献的组件。

如果您希望使用其中提供的任何集成或组件，请依赖此软件包。

针对接入的专用包

流行的第三方集成（例如 langchain_openai、langchain_google、langchain_ollama 等）已被拆分到各自的专用包中，以便可以独立导入，而无需依赖整个 langchain_community 包。

如果您想使用特定的集成，请依赖相应的专用包。

包	版本	描述
langchain_anthropic		Anthropic 集成（Claude 3.5 Sonnet、Opus、Haiku、Instant 等）
langchain_chroma		Chroma 向量数据库集成
langchain_firebase		Firebase 集成（Firebase 的 VertexAI，包括 Gemini 1.5 Pro、Gemini 1.5 Flash 等）
langchain_google		Google 集成（GoogleAI、VertexAI、Gemini、PaLM 2、嵌入、向量搜索等）
langchain_mistralai		Mistral AI 集成（Mistral-7B、Mixtral 8x7B、Mixtral 8x22B、Mistral Small、Mistral Large、嵌入等）。
langchain_ollama		Ollama 集成（Llama 3.2、Gemma 2、Phi-3.5、Mistral nemo、WizardLM-2、CodeGemma、Command R、LLaVA、DBRX、Qwen、Dolphin、DeepSeek Coder、Vicuna、Orca 等）
langchain_openai		OpenAI 集成（GPT-4o、o1、嵌入、工具、视觉、DALL·E 3 等）以及与 OpenAI 兼容的服务（TogetherAI、Anyscale、OpenRouter、One API、Groq、Llamafile、GPT4All 等）
langchain_pinecone		Pinecone 向量数据库集成
langchain_supabase		Supabase 向量数据库集成

API 客户端包

以下包由 LangChain.dart 维护（并在内部使用），但也可以独立使用：

如果您只想直接调用特定提供商的 API，而无需使用 LangChain.dart 的抽象层，可以依赖相应的 API 客户端包。

包	版本	描述
anthropic_sdk_dart		Anthropic API 客户端
chromadb		Chroma DB API 客户端
googleai_dart		Google AI for Developers API 客户端
mistralai_dart		Mistral AI API 客户端
ollama_dart		Ollama API 客户端
openai_dart		OpenAI API 客户端
openai_realtime_dart		OpenAI Realtime API 客户端
tavily_dart		Tavily API 客户端
vertex_ai		GCP Vertex AI API 客户端

集成

LangChain.dart 提供了以下集成：

聊天模型

聊天模型	软件包	流式传输	多模态	工具调用	描述
ChatAnthropic	langchain_anthropic	✔	✔	✔	Anthropic Messages API（又称 Claude API）
ChatFirebaseVertexAI	langchain_firebase	✔	✔	✔	Vertex AI for Firebase API（又称 Gemini API）
ChatGoogleGenerativeAI	langchain_google	✔	✔	✔	Google AI for Developers API（又称 Gemini API）
ChatMistralAI	langchain_mistralai	✔			Mistral Chat API
ChatOllama	langchain_ollama	✔	✔	✔	Ollama Chat API
ChatOpenAI	langchain_openai	✔	✔	✔	OpenAI Chat API 以及与 OpenAI Chat API 兼容的服务（GitHub Models、TogetherAI、Anyscale、OpenRouter、One API、Groq、Llamafile、GPT4All、FastChat 等）
ChatVertexAI	langchain_google				GCP Vertex AI Chat API

大语言模型

注意：建议优先使用聊天模型，而非大语言模型，因为许多提供商已弃用后者。

大语言模型	软件包	流式传输	描述
Ollama	langchain_ollama	✔	Ollama 补全 API
OpenAI	langchain_openai	✔	OpenAI 补全 API
VertexAI	langchain_google		GCP Vertex AI 文本 API

嵌入模型

嵌入模型	软件包	描述
GoogleGenerativeAIEmbeddings	langchain_google	Google AI 嵌入 API
MistralAIEmbeddings	langchain_mistralai	Mistral 嵌入 API
OllamaEmbeddings	langchain_ollama	Ollama 嵌入 API
OpenAIEmbeddings	langchain_openai	OpenAI 嵌入 API
VertexAIEmbeddings	langchain_google	GCP Vertex AI 嵌入 API

向量存储

向量存储	软件包	描述
Chroma	langchain_chroma	与 Chroma 的集成
MemoryVectorStore	langchain	用于原型设计和测试的内存中向量存储
ObjectBoxVectorStore	langchain_community	与 ObjectBox 的集成
Pinecone	langchain_pinecone	与 Pinecone 的集成
Supabase	langchain_supabase	与 Supabase Vector 的集成
VertexAIMatchingEngine	langchain_google	与 Vertex AI 向量搜索（原匹配引擎）的集成

工具

工具	包	描述
CalculatorTool	langchain_community	用于计算数学表达式
OpenAIDallETool	langchain_openai	OpenAI的DALL-E图像生成器
TavilyAnswerTool	langchain_community	使用Tavily搜索引擎为查询返回答案
TavilySearchResultsTool	langchain_community	使用Tavily搜索引擎为查询返回结果列表

快速入门

要开始使用LangChain.dart，需在pubspec.yaml文件中添加langchain作为依赖项。同时，还需包含您希望使用的特定集成的依赖项（例如langchain_community、langchain_openai、langchain_google等）：

dependencies:
  langchain: {version}
  langchain_community: {version}
  langchain_openai: {version}
  langchain_google: {version}
  ...

LangChain.dart中最基本的构建块是基于某个提示调用LLM。LangChain.dart提供了一个统一的接口来调用不同的LLM。例如，我们可以使用ChatGoogleGenerativeAI来调用Google的Gemini模型：

final model = ChatGoogleGenerativeAI(apiKey: googleApiKey);
final prompt = PromptValue.string('Hello world!');
final result = await model.invoke(prompt);
// 大家好！我是新来的，很高兴能成为这个社区的一员。

然而，LangChain.dart的强大之处在于可以将多个组件串联起来，以实现复杂的用例。例如，一个RAG（检索增强生成）管道，它可以接收用户查询，从向量存储中检索相关文档，使用提示模板对其进行格式化，调用模型，并解析输出：

// 1. 创建向量存储并添加文档
final vectorStore = MemoryVectorStore(
  embeddings: OpenAIEmbeddings(apiKey: openaiApiKey),
);
await vectorStore.addDocuments(
  documents: [
    Document(pageContent: 'LangChain是由Harrison创建的'),
    Document(pageContent: 'David在LangChain.dart中将LangChain移植到了Dart语言上'),
  ],
);

// 2. 定义检索链
final retriever = vectorStore.asRetriever();
final setupAndRetrieval = Runnable.fromMap<String>({
  'context': retriever.pipe(
    Runnable.mapInput((docs) => docs.map((d) => d.pageContent).join('\n')),
  ),
  'question': Runnable.passthrough(),
});

// 3. 构建RAG提示模板
final promptTemplate = ChatPromptTemplate.fromTemplates([
  (ChatMessageType.system, '请仅根据以下内容回答问题：\n{context}'),
  (ChatMessageType.human, '{question}'),
]);

// 4. 定义最终链
final model = ChatOpenAI(apiKey: openaiApiKey);
const outputParser = StringOutputParser<ChatResult>();
final chain = setupAndRetrieval
    .pipe(promptTemplate)
    .pipe(model)
    .pipe(outputParser);

// 5. 运行管道
final res = await chain.invoke('谁创建了LangChain.dart？');
print(res);
// David创建了LangChain.dart

文档

• LangChain.dart文档
• 示例应用
• LangChain.dart博客
• 项目看板

社区

随时了解该领域的最新消息和更新，参与精彩讨论，并在官方的LangChain.dart Discord服务器中获得帮助。

贡献

📢 招募合作者 📢
我们正在寻找合作者加入核心维护团队。

欢迎新贡献者！请查看我们的贡献指南，以帮助您快速入门。 加入我们的Discord，与其他维护者交流。我们将帮助您尽快完成您的首次贡献！

相关项目

• LangChain: 原始的Python LangChain项目。
• LangChain.js: LangChain的JavaScript移植版。
• LangChain.go: LangChain的Go语言移植版。
• LangChain.rb: LangChain的Ruby语言移植版。

赞助商

许可证

LangChain.dart采用MIT许可证授权。

LangChain.dart 快速上手指南

LangChain.dart 是流行 Python 框架 LangChain 的非官方 Dart 移植版本，旨在帮助开发者轻松构建基于大语言模型（LLM）的 Dart/Flutter 应用。它提供了统一的接口来连接各种 LLM 提供商、管理提示词、处理检索增强生成（RAG）以及构建智能代理。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Windows, macOS, 或 Linux
• Dart SDK: 版本 >= 3.0.0 (推荐最新稳定版)
• Flutter SDK: 如果您计划开发 Flutter 应用，请安装最新稳定版 Flutter
• API Key: 您需要拥有所选 LLM 提供商（如 OpenAI, Google, Ollama 等）的有效 API Key

前置检查： 在终端运行以下命令确认环境已就绪：

dart --version
# 或者如果是 Flutter 项目
flutter doctor

安装步骤

LangChain.dart 采用模块化设计，您只需安装所需的包。通常建议直接依赖主包 langchain，它会自动包含核心功能 langchain_core。如果您需要使用特定的模型提供商（如 OpenAI），还需安装对应的集成包。

1. 初始化项目

如果您还没有项目，先创建一个：

dart create my_llm_app
cd my_llm_app
# 或者创建 Flutter 项目
flutter create my_llm_app
cd my_llm_app

2. 添加依赖

编辑 pubspec.yaml 文件，添加核心库和您需要的集成包。以下以 OpenAI 为例：

dependencies:
  langchain: ^0.3.0 # 请替换为 pub.dev 上的最新版本
  langchain_openai: ^0.3.0 # OpenAI 集成包

提示：如果您使用国内网络环境访问 pub.dev 较慢，可以配置国内镜像源。 在项目根目录创建或编辑 .dart-tool/pub-env 或在命令行临时指定：

export PUB_HOSTED_URL=https://pub.flutter-io.cn
export STORAGE_BASE_URL=https://storage.flutter-io.cn

(Windows PowerShell: $env:PUB_HOSTED_URL="https://pub.flutter-io.cn"; $env:STORAGE_BASE_URL="https://storage.flutter-io.cn")

3. 获取依赖

运行以下命令安装包：

dart pub get
# 或者
flutter pub get

基本使用

以下是一个最简单的示例，展示如何使用 langchain 和 langchain_openai 调用大模型进行对话。

代码示例 (main.dart)

import 'package:langchain/langchain.dart';
import 'package:langchain_openai/langchain_openai.dart';

void main() async {
  // 1. 初始化 LLM (以 OpenAI 为例)
  // 请确保在环境变量中设置了 OPENAI_API_KEY，或者直接在此处传入
  final llm = ChatOpenAI(
    apiKey: const String.fromEnvironment('OPENAI_API_KEY'), 
    model: 'gpt-4o',
  );

  // 2. 定义提示词模板
  final promptTemplate = PromptTemplate.fromTemplate(
    '请用简短的一句话解释什么是 {topic}？',
  );

  // 3. 构建链 (Chain): 将提示词模板与 LLM 连接
  final chain = promptTemplate | llm;

  // 4. 执行调用
  final response = await chain.invoke({
    'topic': 'LangChain.dart',
  });

  // 5. 输出结果
  print(response.content);
}

运行说明

1. 将上述代码保存为 bin/main.dart (对于 Dart 项目) 或 lib/main.dart (对于 Flutter 项目，需适当调整入口)。
2. 设置您的 API Key。在终端中运行：

   export OPENAI_API_KEY="sk-your-actual-api-key-here"
   

   (Windows PowerShell: $env:OPENAI_API_KEY="sk-your-actual-api-key-here")
3. 运行程序：

   dart run bin/main.dart
   # 或者
   flutter run
   

您将看到模型返回的关于 "LangChain.dart" 的简短解释。

---

下一步探索：

• 尝试更换 langchain_ollama 或 langchain_google 包来使用本地模型或其他云服务。
• 查阅官方文档了解如何构建 RAG（检索增强生成）应用或智能 Agent。