LLM 代理

一个用于构建由大型语言模型（LLMs）控制的代理的小型库，其设计深受 langchain 的启发。

我的目标是更好地理解这类代理的工作原理，并用极少量的代码将其完整实现。

Langchain 非常优秀，但它已经包含了许多文件和抽象层。因此，我想从头开始构建一个简单代理的核心部分，以更清晰地掌握其实现细节。

更多信息请参阅 2023年4月5日的 Hacker News 讨论以及相关的 博客文章。

工作原理

该代理的工作流程如下：

• 它通过一个提示词接收指令，指示如何使用工具来解决任务。
• 工具是代理可以调用的自定义组件。
  • 目前已实现的功能包括：在 REPL 中执行 Python 代码、使用 Google 搜索以及在 Hacker News 上搜索。
• 代理在一个“思考—行动—观察—思考—…”的循环中运行：
  • “思考”和“行动”（以及传递给动作的输入）由 LLM 生成。
  • “观察”则是通过调用工具得到的结果（例如，Python 输出或 Google 搜索的文本结果）。
• 在每次循环中，LLM 会将新信息追加到提示词中，从而基于这些信息采取行动。
• 当代理获得足够的信息后，它会给出最终答案。

有关详细工作原理，请参阅 这篇博客文章。

使用方法

克隆本仓库后，在其目录下运行以下命令即可本地安装该库：

pip install -r requirements.txt
pip install -e .

此外，您还需要设置以下环境变量：

• OPENAI_API_KEY：用于调用 OpenAI API（可在 https://platform.openai.com/account/api-keys 获取）。
• SERPAPI_API_KEY：如果您打算使用 Google 搜索工具，则需要此密钥（可在 https://serpapi.com/ 获取）。

您可以在 Bash 中直接导出这些变量，例如：export OPENAI_API_KEY='sh-lsdf....'。

然后，您可以运行脚本 python run_agent.py 并提出您的问题。

要构建您自己的代理，可以按照以下方式操作：

from llm_agents import Agent, ChatLLM, PythonREPLTool, HackerNewsSearchTool, SerpAPITool

agent = Agent(llm=ChatLLM(), tools=[PythonREPLTool(), SerpAPITool(), HackerNewsSearchTool()])
result = agent.run("您想问代理的问题")

print(f"最终答案是 {result}")

当然，您也可以创建自定义工具，或者根据需求省略某些工具，比如不需要创建 SERPAPI 密钥时。

llm_agents 快速上手指南

llm_agents 是一个受 LangChain 启发但更加轻量的 Python 库，旨在通过极简的代码构建由大语言模型（LLM）控制的智能体。它支持“思考 - 行动 - 观察”循环，允许代理使用工具（如执行 Python 代码、Google 搜索、Hacker News 搜索）来完成任务。

环境准备

在开始之前，请确保满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：建议 Python 3.8 及以上
• 前置依赖：
  • pip 包管理工具
  • Git（用于克隆仓库）
• API 密钥：
  • OPENAI_API_KEY：必须提供，用于调用 OpenAI 模型。
  • SERPAPI_API_KEY：可选，仅在使用 Google 搜索工具时需要。

安装步骤

1. 克隆项目代码

   git clone <repository_url>
   cd <repository_directory>
   

   (注：请将 <repository_url> 替换为实际的项目仓库地址)

2. 安装依赖并配置本地开发环境

   pip install -r requirements.txt
   pip install -e .
   

   提示：国内用户若下载依赖较慢，可添加清华源加速： pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple pip install -e . -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 配置环境变量 在终端中导出所需的 API 密钥：

   export OPENAI_API_KEY='sk-...'
   export SERPAPI_API_KEY='your_serpapi_key' # 如需使用 Google 搜索工具
   

   (Windows PowerShell 用户请使用 $env:OPENAI_API_KEY="sk-...")

基本使用

方式一：运行示例脚本

安装完成后，直接运行项目自带的测试脚本进行提问：

python run_agent.py

方式二：编写自定义 Agent

你可以在自己的 Python 脚本中快速构建一个包含特定工具的 Agent。以下示例展示了如何组合聊天模型、Python 执行器、Google 搜索和 Hacker News 搜索工具：

from llm_agents import Agent, ChatLLM, PythonREPLTool, HackerNewsSearchTool, SerpAPITool

# 初始化 Agent，加载所需工具
agent = Agent(llm=ChatLLM(), tools=[PythonREPLTool(), SerpAPITool(), HackerNewsSearchTool()])

# 运行任务
result = agent.run("Your question to the agent")

print(f"Final answer is {result}")

你可以根据需求自由增减 tools 列表中的组件，或者编写自定义工具类来实现特定功能。