潜在协作多智能体系统

---

💡 简介

LatentMAS 是一种多智能体推理框架，它将智能体协作从标记空间转移到模型的潜在空间。
与生成冗长的文本推理轨迹不同，智能体通过在各自的 工作记忆 中传递 潜在思想 来进行通信。LatentMAS 具有以下关键特性：

• 多步推理高效，所需标记数大幅减少
• 无需训练即可实现潜在空间对齐，从而保证生成的稳定性
• 这是一种通用技术，兼容 任何 Hugging Face 模型，并可选地支持 vLLM 后端。

总体而言，LatentMAS 在多智能体系统中实现了 更优性能、更低的标记使用量 以及 显著的实时加速。

🔔 最新消息

• [2026-02-26] 🦞 请查看我们 Gen-Verse 团队的 OpenClaw-RL！OpenClaw-RL 是一个完全异步的强化学习框架，可以直接从自然对话反馈中训练个性化 AI 智能体——无需人工标注，无需 API 密钥。它引入了两种学习范式（基于 GRPO 的二元强化学习和策略蒸馏），并且整个流程都可以在您自己的基础设施上运行。它是 LatentMAS 高效多智能体推理的绝佳补充！

• [2025-12-20] 请查看 Science-LatentMAS，这是由麻省理工学院的 Markus J. Buehler 教授和 LAMM 实验室 开发的 LatentMAS 的优秀扩展版本。Science-LatentMAS 专门针对科学发现下游应用而设计！有关更多详细信息和说明，请参阅下方的“Science-LatentMAS”README 部分以及新的 Science-LatentMAS 分支。

• [2025-12-15] 请查看这些由社区驱动的 LatentMAS 扩展！

  • KNN-LatentMAS — 能够更高效地利用 KV 缓存，优化潜在内存管理。
  • Hybrid-LatentMAS — 将 LatentMAS 扩展到混合、异构多智能体系统中。

• [2025-11-25] 我们已经发布了 LatentMAS 的论文和代码实现！敬请期待更多模型后端支持和高级功能！

• [2025-11-25] 我们被 🤗 选为 HuggingFace 当日首篇论文！

🌐 基于 LatentMAS 构建的优秀作品

探索由社区驱动的扩展项目，它们将 LatentMAS 推广到新的领域、架构和协作模式中：

🔬 1. Science-LatentMAS

由 Markus J. Buehler 教授及 MIT LAMM 小组开发

• 新分支: https://github.com/Gen-Verse/LatentMAS/tree/Science-LatentMAS
• 原始代码: https://github.com/lamm-mit/LatentMAS/tree/flexible_agents
  新增功能: 将 LatentMAS 扩展用于科学建模和材料系统协作，支持灵活的智能体类型和面向科学领域的专用潜在通信方式。

🧠 2. KNN-LatentMAS

由 Bookmaster9 开发

• 博客（概述）: https://bookmaster9.github.io/kNN-latentMAS/
• 代码: https://github.com/Bookmaster9/kNN-latentMAS
• 新增功能: 引入基于 kNN 的潜在检索技术，以改善 KV 缓存的使用效率，从而提升跨智能体的内存效率和多步推理的稳定性。

🤖 3. Hybrid-LatentMAS

由 nhminle 开发

• 代码: https://github.com/nhminle/LatentMAS-Hybrid
• 新增功能: 支持异构/混合智能体协作（LLM + 非 LLM 智能体），能够构建混合模型、工具和推理策略的模块化多智能体流水线。

🌍 4. Awareness Network

由 Everest-AN 开发

• 网站: https://awareness.market/
• 代码: https://github.com/everest-an/Awareness-Market
• 新增功能: 基于 LatentMAS 研究构建的去中心化 AI 意识市场产品，支持自主智能体协作和记忆共享。

🧩 5. LatentMAS-SLoRA

由 Arifuzzaman Joy 开发

• 演示: https://www.youtube.com/watch?v=g7sxYjwgRRk
• 代码: https://github.com/Arifuzzamanjoy/latent_mas_slora
• 新增功能: 通过角色专业化、可动态切换的 LoRA 适配器增强 LatentMAS，使其具备更好的专业化能力和适应性。

🛰️ 6. AVP（Agent Vector Protocol）

由 VectorArc 开发

• 博客: https://blog.avprotocol.ai/avp-binary-protocol-latent-agent-communication/
• 代码: https://github.com/VectorArc/avp-python
• 新增功能: 使智能体能够共享 KV 缓存和隐藏状态，而非文本，从而支持零训练的潜在交接、跨模型迁移以及更快的多智能体协作。

如果您也有基于 LatentMAS 的扩展工作，欢迎提交 PR，我们将在此处展示您的成果！🚀

📊 实验概览

⭐ 主要结果

来自我们论文的三张主要表格，涵盖了数学与科学推理、常识推理和代码生成等领域的 9 项任务：

• 表 1 — LatentMAS 在顺序多智能体设置下的表现

  

• 表 2 — LatentMAS 在层次化多智能体设置下的表现

  

• 表 3 — 针对推理密集型任务的主要结果

  

⚡ 时间和标记数 方面的卓越效率

总体而言，与标准的文本多智能体或思维链基线相比，LatentMAS 可以减少：

• 约 50–80% 的标记数
• 约 3–7 倍的实时用时

🛠️ 快速入门

本仓库提供了所有代码，用于复现 LatentMAS、TextMAS 以及 GSM8K、AIME24/25、GPQA、ARC-Easy/Challenge、MBPP+、HumanEval+ 和 MedQA 等任务中的单智能体基线实验。

⚙️ 设置环境变量

我们建议设置 Hugging Face 缓存目录，以避免重复下载：

export HF_HOME=/path/to/huggingface
export TRANSFORMERS_CACHE=$HF_HOME
export HF_DATASETS_CACHE=$HF_HOME

模型和数据集将自动下载到 $HF_HOME 目录中。

📦 安装依赖包

conda create -n latentmas python=3.10 -y
conda activate latentmas

pip install -r requirements.txt

如果您需要 vLLM 支持，还需要安装：

pip install vllm

🚀 快速入门

1. 克隆仓库

git clone https://github.com/Gen-Verse/LatentMAS.git
cd LatentMAS

2. 仓库结构

LatentMAS/
│── run.py                 # 实验主入口
│── models.py              # 封装了 Hugging Face + vLLM + 隐空间对齐的工具
│── methods/
│   ├── baseline.py        # 单智能体基线
│   ├── text_mas.py        # 基于文本空间的多智能体方法
│   └── latent_mas.py      # 隐空间多智能体（我们的方法）
│── prompts.py             # 提示词构造器
│── data.py                # 数据集加载器
│── data/                  # 提供的数据及图表（这里以 medqa.json 为例）
│── utils.py               # 答案解析 / 超时处理 / 工具函数
│── example_logs/          # LatentMAS 的示例日志
│── requirements.txt

🧪 运行实验（标准 Hugging Face 后端）

🔹 基线（单模型）

python run.py --method baseline --model_name Qwen/Qwen3-14B --task gsm8k --max_samples -1 --max_new_tokens 2048

🔹 TextMAS（基于文本的多智能体系统）

python run.py --method text_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --max_new_tokens 2048

🔹 LatentMAS（我们的隐空间多智能体方法）

python run.py --method latent_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --max_new_tokens 2048

注意事项：

• --latent_steps ∈ [0, 80] 可根据性能调整。
• --latent_space_realign 启用隐空间到嵌入空间的对齐功能。 我们将其视为一个 超参数 — 根据任务和模型选择是否启用：

python run.py --method latent_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --latent_space_realign --max_new_tokens 2048

📘 示例日志

提供了两个 LatentMAS 示例日志供参考：

• example_logs/qwen3_14b_mbppplus_sequential.txt
• example_logs/qwen3_14b_humanevalplus_hierarchical.txt

更多实验日志请参阅 这里。您可以打开这些文件查看完整的智能体交互轨迹和输出。

⚡ vLLM 集成

LatentMAS 支持 vLLM，以实现更快的推理速度。

🔹 基线（使用 vLLM）

python run.py --method baseline --model_name Qwen/Qwen3-14B --task gsm8k --max_samples -1 --use_vllm --max_new_tokens 2048

🔹 TextMAS（使用 vLLM）

python run.py --method text_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --use_vllm --max_new_tokens 2048

🔹 LatentMAS（使用 vLLM）

LatentMAS 支持 混合 Hugging Face + vLLM 流程，以实现快速推理：

• vLLM 负责 最终文本生成（通过前缀缓存、张量并行等技术）
• Hugging Face 模型负责 隐空间展开 和隐藏状态对齐

对于这种配置，我们建议使用两块 GPU：

• 一块 GPU 用于 vLLM（--device，例如 cuda:0）
• 一块 GPU 用于辅助 Hugging Face 模型（--device2，例如 cuda:1）

CUDA_VISIBLE_DEVICES=0,1 python run.py --method latent_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --max_new_tokens 2048 \
  --use_vllm \
  --use_second_HF_model \
  --enable_prefix_caching \
  --device2 cuda:1

📍重要提示：

vLLM 官方并不支持修改 KV 缓存或通过隐式嵌入进行提示。 我们为了实现该方法，对 vLLM 后端的部分内部代码进行了修改。 由于解码（生成）策略的不同，与官方 Hugging Face 后端相比可能会出现轻微的数值差异。请使用 Hugging Face 后端来复现官方已发表的结果。

📚 引用

💫 如果您觉得 LatentMAS 对您有帮助，请为我们点亮一颗星 ⭐️ 并引用以下内容。谢谢！

@article{zou2025latentmas,
  title={多智能体系统中的隐空间协作},
  author={Zou, Jiaru and Yang, Xiyuan and Qiu, Ruizhong and Li, Gaotang and Tieu, Katherine and Lu, Pan and Shen, Ke and Tong, Hanghang and Choi, Yejin and He, Jingrui and Zou, James and Wang, Mengdi and Yang, Ling},
  journal={arXiv preprint arXiv:2511.20639},
  year={2025}
}

🤝 致谢

本代码部分基于 vLLM 的优秀工作。

LatentMAS 快速上手指南

LatentMAS 是一个多智能体推理框架，它将智能体协作从传统的“令牌空间（Token Space）”转移到了模型的“潜在空间（Latent Space）”。通过在工作记忆中传递潜在思维而非长文本，该框架能显著减少 Token 消耗，提升推理速度，并兼容任意 HuggingFace 模型及 vLLM 后端。

环境准备

• 操作系统: Linux (推荐)
• Python 版本: 3.10
• 硬件要求:
  • 基础运行：至少一张支持 CUDA 的 GPU。
  • vLLM 加速模式（推荐）：建议配置双 GPU，分别用于 vLLM 推理和辅助 HF 模型的潜在空间对齐。
• 前置依赖: Conda (用于环境管理)

💡 国内开发者提示：为避免模型和数据集下载缓慢或失败，建议预先设置 HuggingFace 国内镜像环境变量。

export HF_HOME=/path/to/huggingface_cache
export TRANSFORMERS_CACHE=$HF_HOME
export HF_DATASETS_CACHE=$HF_HOME
# 可选：设置国内镜像源加速下载
export HF_ENDPOINT=https://hf-mirror.com

安装步骤

1. 创建并激活 Conda 环境

   conda create -n latentmas python=3.10 -y
   conda activate latentmas
   

2. 安装核心依赖

   pip install -r requirements.txt
   # 国内用户建议使用清华或阿里镜像加速安装
   # pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

3. 安装 vLLM（可选，用于加速推理）

   如果需要启用 vLLM 后端以获得更快的推理速度，请额外安装：

   pip install vllm
   

4. 克隆项目代码

   git clone https://github.com/Gen-Verse/LatentMAS.git
   cd LatentMAS
   

基本使用

以下示例展示如何使用 Qwen/Qwen3-14B 模型在 GSM8K 数学推理任务上运行 LatentMAS。

1. 运行 LatentMAS（标准 HuggingFace 后端）

这是最基础的运行方式，适用于单卡环境复现论文结果。

python run.py --method latent_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --max_new_tokens 2048

关键参数说明：

• --latent_steps: 潜在空间推理步数，范围 [0, 80]，可根据任务效果调整。
• --latent_space_realign: 启用潜在空间到嵌入空间的对齐（视为超参数，视模型表现开启或关闭）。

启用对齐优化的示例：

python run.py --method latent_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --latent_space_realign --max_new_tokens 2048

2. 运行 LatentMAS（vLLM 加速模式）

若拥有双 GPU 环境，可使用混合架构（vLLM 负责文本生成，HF 负责潜在空间计算）以获得极致速度。

CUDA_VISIBLE_DEVICES=0,1 python run.py --method latent_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --max_new_tokens 2048 \
  --use_vllm \
  --use_second_HF_model \
  --enable_prefix_caching \
  --device2 cuda:1

注意：由于 vLLM 解码策略与原生 HF 存在细微差异，若需严格复现论文官方数据，建议使用标准 HF 后端运行。

3. 对比实验（可选）

您可以轻松切换至基线方法进行效果对比：

• 单智能体基线:

  python run.py --method baseline --model_name Qwen/Qwen3-14B --task gsm8k --max_samples -1 --max_new_tokens 2048
  

• 传统文本多智能体 (TextMAS):

  python run.py --method text_mas --model_name Qwen/Qwen3-14B --task gsm8k --prompt sequential --max_samples -1 --max_new_tokens 2048
  

运行完成后，可在 example_logs/ 目录或通过指定路径查看详细的智能体交互日志。