新闻

• [2025/03/21]：主动智能体和奖励智能体的模型已发布！请在此处查看我们的模型：这里！
• [2025/01/22]：我们的论文已被ICLR 2025接收。

本项目（主动智能体）旨在构建一个完全主动的智能体，该智能体能够预测用户需求并主动提供帮助、提出行动建议，而无需用户明确请求。我们通过开发数据收集与生成流水线、构建自动评估器，并在生成的数据上训练智能体来实现这一目标。目前，我们提供了完整的数据收集与生成流水线、数据集及其对应的评估脚本，以及用于微调大型语言模型以实现主动智能体功能的提示词。

阅读中文版：README_zh.md 阅读日文版：README_ja.md

概述

✨以下是主动智能体整个流程的概览。

✨✨特点：

• 环境感知：我们提供脚本，通过Activity Watcher收集环境场景和用户活动，并基于模型自动推荐任务。
• 协助标注：我们提供一个平台，用于标注主动智能体生成的响应，这是一种使结果与人工标注者保持一致的好方法。
• 动态生成：我们提供一条动态的数据生成流水线，用户的反馈会影响后续事件。
• 构建流水线：我们提供由环境Gym、主动智能体和奖励模型组成的生成流水线，其中我们的奖励模型在测试集上的F1分数达到0.918。

此外，还提供了一个演示，以展示我们智能体的性能。

https://github.com/user-attachments/assets/81e56660-727f-4ba8-b26c-d28b580a8b0a

未来，我们将不断改进数据质量，并扩大真实场景的覆盖范围。

数据

👐目前，主动智能体仅适用于编码、写作和日常生活场景，不应被视为反映本数据集创建者、所有者或贡献者的观点或立场。本数据集采用Apache License 2.0协议发布。以下是数据统计：

场景	编码	写作	日常生活	总计
实例数	46	46	44	136
事件数	2275	2354	2161	6790

主动智能体的所有训练实例均来自我们的GYM。我们利用Activity Watcher收集跨场景的人类行为轨迹，并标注了一个测试集以验证主动智能体的有效性。有关数据收集和标注的更多详细信息，请参阅dataset/README.md。

📦 安装

克隆此仓库并进入主动需求感知智能体文件夹

git clone git@github.com:thunlp/ProactiveAgent
cd ProactiveAgent

安装软件包

conda create -n activeagent python=3.10
conda activate activeagent
pip install -r requirements.txt

安装Activity Watcher

• 您可以前往官方网站，根据您的操作系统下载主应用程序。
• 针对Chrome浏览器的扩展程序位于./agent/resource/aw-watcher-web.zip。要下载此扩展程序，您需要先下载文件并解压缩。
  • 对于Edge用户，请访问edge://extensions/页面，开启开发者模式，并点击“加载已解压的扩展程序”来加载扩展。
  • 对于Google Chrome用户，请访问chrome://extensions/页面，开启开发者模式，选择“加载已解压的扩展程序”来加载解压后的扩展。
  • 此扩展尚未在Safari浏览器上进行测试。
• 对于VS Code用户，有一个官方扩展程序，您可以从市场下载，或者在VS Code的扩展中搜索“aw-watcher-vscode”并安装。

为检查安装是否完成，请打开浏览器并访问http://localhost:5600/#/timeline，查看窗口中是否显示四条轨迹（afk、vscode、window、web）。

🚀 使用方法

配置

您首先需要配置private.toml文件。示例文件位于example_config.toml：

cp example_config.toml private.toml

您应将default_completions_model、api_key和base_url更改为您的个人设置。

运行主动智能体

要体验我们的主动智能体，您需要首先进入./agent文件夹，然后按照此处的说明操作。

连接奖励模型

为了提升主动智能体的使用体验，您可以使用我们内置的奖励模型来过滤主动智能体的消息。 以下是将奖励模型与主动智能体连接的步骤。 待更新

与主动智能体互动

我们的智能体会尝试通过在屏幕上弹出通知的方式提出建议。与主动智能体互动时，您可以选择：

• 接受建议：您可点击通知正文（Windows）或按钮（macOS），告知智能体您接受其建议，智能体会相应执行相关操作。
• 拒绝建议：您可点击关闭按钮（通知右上角的“x”），告知智能体您拒绝该建议，智能体会尝试以其他方式提出下一次建议。
• 忽略建议：您什么都不做，智能体会根据时间间隔移除通知。不采取任何行动会让智能体知道您正忙且忽略了该建议，智能体将在接下来的轮次中减少建议次数。

📊 模型结果

为自动评估主动智能体的性能，我们基于标注数据构建了一个奖励模型，用以判断主动智能体的表现。 我们的奖励模型在测试集上的F1分数达到0.918，这是衡量主动智能体性能的一个良好指标。

奖励模型实验结果

我们在测试集上测试了奖励模型与人类标注者之间的一致性：

• 遗漏需求(MN)：用户需要帮助但智能体未提供帮助的情况。
• 无响应(NR)：用户不需要帮助且智能体未主动提供任何帮助的情况。
• 正确检测(CD)：用户需要帮助且智能体提供了帮助的情况。
• 误报(FA)：用户不需要帮助但智能体主动提供了帮助的情况。

我们将奖励模型的判断与人类标注者的判断进行了对比。 我们还比较了不同大语言模型以及我们的模型在测试集上的表现。结果如下：

	GPT-4o	GPT-4o-mini	LLaMa 3.1 8b	LLaMa 3.1 70b	ours
遗漏需求 (MN)	0.0333	0.5667	0.8000	0.3333	0.8000
无响应 (NR)	1.0000	0.5667	0.3000	0.8333	0.8667
正确检测 (CD)	1.0000	0.8667	0.9667	1.0000	1.0000
误报 (FA)	0.0000	0.3333	0.1333	0.0667	1.0000
准确率	0.5083	0.5833	0.5500	0.5583	0.9167
精确率	0.5042	0.5658	0.5429	0.5340	0.9032
召回率	1.0000	0.7167	0.6333	0.9167	0.9333
F1分数	0.6704	0.6324	0.5846	0.6748	0.9180

主动智能体实验结果

在当前实验中，我们使用我们的奖励模型评估了主动智能体的性能。 我们定义了以下指标：

• 真正例(TP)：主动智能体正确预测了一项任务，而奖励模型随后接受了该任务的实例。
• 假正例(FP)：主动智能体预测了一项任务，但奖励模型并未接受。
• 真负例(TN)：主动智能体正确地没有预测任何任务，而奖励模型也未接受任何任务的实例。
• 假负例(FN)：主动智能体未能预测一项任务，而如果提出该任务，奖励模型本会接受。

我们在ProactiveBench的测试集上报告了主动智能体的性能。

模型	召回率	精确率	准确率	误报率	F1分数
GPT-4o-mini	100.00%	35.28%	36.12%	64.73%	52.15%
GPT-4o	98.11%	48.15%	49.78%	51.85%	64.60%
Claude-3.5-Sonnet	97.89%	45.37%	49.78%	54.63%	62.00%
LLaMA-3.1-8B	98.86%	38.16%	39.06%	61.84%	55.06%
LLaMA-3.1-8B-Proactive	99.06%	49.76%	52.86%	50.24%	66.25%
Qwen2-7B	98.02%	44.00%	43.61%	56.00%	60.74%
Qwen2-7B-Proactive	100.00%	49.78%	50.66%	50.22%	66.47%

引用

如果您在研究中使用了本项目，请考虑引用：

@misc{2024,
  author = {THUNLP},
  title = {ProactiveAgent},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub Repository},
  howpublished = {\url{https://github.com/thunlp/ProactiveAgent}}
}

友情链接

• ChatDev
• Activity Watcher

git clone git@github.com:thunlp/ProactiveAgent
cd ProactiveAgent

# 创建并激活 Python 3.10 虚拟环境
conda create -n activeagent python=3.10
conda activate activeagent

# 安装项目依赖
pip install -r requirements.txt

cp example_config.toml private.toml

cd ./agent
# 此处执行具体的启动脚本，通常为 python main.py 或类似命令，具体依 agent/README.md 指引