代理记忆——大语言模型真的能“思考”吗？

面向语言代理的认知架构，2024

大语言模型被认为是“无状态”的：每次调用时，它都仿佛第一次遇到传入的输入。正是由于这一特性，多轮对话的大语言模型代理在充分理解并驾驭我们人类天生就能自如应对的庞大世界模型方面，面临着独特的挑战。

在执行任务时，人类相比语言模型具有诸多优势。我们拥有对世界的通识性知识与生活经验，能够理解以往类似任务的经历及其收获；我们还掌握了特定技能或接受了相关训练，并且在实际操作过程中，可以即时地将当前情境纳入考量，灵活调整自己的应对方式。归根结底，我们具备强大的记忆能力，以及从经验中学习并将其应用于新情境的能力。

大语言模型确实具备一定的“记忆”，主要体现在其通过训练及后续微调所习得的通用知识与特征上，但它们缺乏上述提到的其他关键特性。为了弥补这一不足，我们可以在代理系统的设计中引入不同形式的记忆、回忆与学习机制。具体而言，我们将构建一个简单的RAG代理，以模拟四种类型的记忆：

• 工作记忆——当前对话及直接上下文
• 情景记忆——过往经历及其总结
• 语义记忆——知识背景与事实依据
• 程序性记忆——交互的“规则”与“技能”

这四种记忆系统提供了一种整体性的方法，用于理解和构建认知设计的一部分，并将其融入到代理应用之中。在本笔记本中，我们将逐一剖析每种记忆类型，并给出将其整合到完整代理体验中的示例实现方案。

agentic-memory 快速上手指南

本指南基于《Cognitive Architectures for Language Agents (2024)》论文理念，帮助开发者快速构建具备四种记忆机制（工作记忆、情景记忆、语义记忆、程序记忆）的 LLM Agent。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows (WSL2 推荐)
• Python 版本：3.9 或更高版本
• 前置依赖：
  • pip 包管理工具
  • 有效的 LLM API Key (如 OpenAI, Anthropic 等，具体取决于实现后端)
  • 向量数据库支持 (如 Chroma, FAISS 等，用于语义和情景记忆存储)

国内加速建议： 建议使用国内镜像源安装 Python 依赖，以提升下载速度：

export PIP_INDEX_URL=https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

1. 克隆项目仓库

   git clone https://github.com/your-repo/agentic-memory.git
   cd agentic-memory
   

2. 创建虚拟环境并激活

   python -m venv venv
   source venv/bin/activate  # Windows 用户请使用: venv\Scripts\activate
   

3. 安装依赖包

   pip install -r requirements.txt
   

   注：若项目中包含特定的 Jupyter Notebook 示例，建议额外安装 jupyter 相关组件：

   pip install notebook jupyterlab
   

基本使用

本项目核心通过一个 RAG (检索增强生成) Agent 来模拟四种记忆系统。最简单的使用方式是运行提供的示例 Notebook 或脚本。

1. 配置环境变量

在项目根目录下创建 .env 文件，填入您的 LLM API 密钥：

echo "OPENAI_API_KEY=sk-your-key-here" > .env
# 如果使用其他模型提供商，请参考 .env.example 进行相应配置

2. 运行示例 Notebook

项目包含一个完整的演示流程，展示了如何初始化和交互四种记忆类型：

jupyter notebook notebooks/agentic_memory_demo.ipynb

在浏览器打开后，按顺序执行单元格即可体验：

• Working Memory: 自动维护当前对话上下文。
• Episodic Memory: 自动记录历史交互经验并检索相似案例。
• Semantic Memory: 基于外部知识库进行事实性问答。
• Procedural Memory: 加载预定义的交互规则和技能模板。

3. 代码调用示例 (Python)

若需在代码中直接集成，可参考以下最小化调用逻辑：

from agentic_memory import AgentWithMemory

# 初始化具备四种记忆的 Agent
agent = AgentWithMemory(
    model_name="gpt-4",
    enable_episodic=True,
    enable_semantic=True,
    enable_procedural=True
)

# 添加一条程序性记忆（规则）
agent.procedural_memory.add_rule("Always summarize the user's intent before answering.")

# 进行对话（自动触发工作记忆更新与长时记忆检索）
response = agent.chat("How do I optimize a SQL query based on my last experience?")

print(response)

通过以上步骤，您即可构建一个具备“思考”能力、能从过往经验中学习并遵循特定规则的智能体应用。