llm-chain 🚀

llm-chain 是一系列 Rust crates（Rust 库），旨在帮助您创建高级 LLM（大型语言模型）应用程序，例如聊天机器人、智能体（agents）等。作为一个全面的 LLM-Ops（大型语言模型运维）平台，我们对云端和本地托管的 LLM 都提供了强有力的支持。我们还提供对 prompt templates（提示模板）的强大支持，并支持将提示链接成多步 chains（链），从而实现 LLM 无法单步完成的复杂任务。我们还提供 vector store（向量存储）集成，使您可以轻松地为模型赋予长期记忆和主题知识。这使您能够构建复杂的应用程序。

示例 💡

为了帮助您入门，这里有一个演示如何使用 llm-chain 的示例。您可以在仓库中的 examples 文件夹 找到更多示例。

let exec = executor!()?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

➡️ 教程：开始使用 llm-chain ➡️ 快速开始：基于我们的模板创建项目

特性 🌟

• Prompt templates（提示模板）：创建可重用且易于定制的提示模板，以便与 LLM 进行一致且结构化的交互。
• Chains（链）：构建强大的提示链，使您能够逐步执行更复杂的任务，充分利用 LLM 的潜力。
• ChatGPT 支持：支持 ChatGPT 模型，并计划在未来添加 OpenAI 的其他模型。
• LLaMa 支持：提供与 LLaMa 模型的无缝集成，利用 Facebook 的研究模型实现自然语言理解和生成任务。
• Alpaca 支持：纳入对斯坦福 Alpaca 模型的支持，扩展了可用于高级 AI 应用的语言模型范围。
• llm.rs 支持：通过我们对 llm.rs 的支持，无需依赖 C++ 代码即可在 Rust 中使用 LLM。
• Tools（工具）：通过让 AI agents（智能体）访问各种工具来增强其能力，例如运行 Bash 命令、执行 Python 脚本或执行 Web 搜索，从而实现更复杂和强大的交互。
• Extensibility（可扩展性）：设计时考虑了可扩展性，随着生态系统的发展，可以轻松集成额外的 LLM。
• Community-driven（社区驱动）：我们欢迎并鼓励社区贡献，以帮助改进和扩展 llm-chain 的功能。

快速入门 🚀

要开始使用 llm-chain，请将其添加为 Cargo.toml 中的依赖项（您需要 Rust 1.65.0 或更高版本）：

[dependencies]
llm-chain = "0.12.0"
llm-chain-openai = "0.12.0"

llm-chain-openai 的示例要求您设置 OPENAI_API_KEY 环境变量，您可以这样做：

export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"

然后，请参阅 文档 和 示例 以了解如何创建提示模板、链等。

贡献 🤝

我们热烈欢迎每个人的贡献！ 如果您有兴趣帮助改进 llm-chain，请查看我们的 CONTRIBUTING.md 文件以了解指南和最佳实践。

许可证 📄

llm-chain 采用 MIT 许可证 进行许可。

联系我们 🌐

如果您有任何问题、建议或反馈，请随时提出问题或加入我们的 社区 Discord。我们总是很高兴听到用户的声音，并了解您使用 llm-chain 的体验。

我们希望您喜欢使用 llm-chain 在项目中释放大型语言模型的全部潜力。快乐编码！🎉

llm-chain 快速上手指南

llm-chain 是一套 Rust crates 集合，旨在帮助你创建高级 LLM 应用（如聊天机器人、Agent 等）。它支持云端和本地托管的 LLM，提供提示模板、链式调用及向量存储集成，支持 ChatGPT、LLaMa、Alpaca 等模型。

环境准备

• 操作系统：支持 Rust 的任何主流操作系统（Linux, macOS, Windows）
• Rust 版本：1.65.0 或更高版本
• 前置依赖：确保已安装 Rust 和 Cargo 包管理器

安装步骤

1. 添加依赖

   在项目的 Cargo.toml 文件中添加以下依赖项：

   [dependencies]
   llm-chain = "0.12.0"
   llm-chain-openai = "0.12.0"
   

2. 配置 API 密钥

   使用 llm-chain-openai 示例需要设置 OPENAI_API_KEY 环境变量。在终端中执行：

   export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"
   

   (Windows PowerShell 用户请使用 $env:OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE")

基本使用

以下是一个最简单的示例，展示如何创建执行器、定义提示模板并运行：

let exec = executor!()?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

• executor!()：初始化执行器。
• prompt!()：定义系统指令和用户输入。
• run()：执行提示链并获取结果。

更多高级用法（如链式调用、向量存储集成）请参考 官方文档 和 示例文件夹。