🌐 WebThinker：赋能大型推理模型具备深度研究能力

🤗 WebThinker-QwQ-32B ｜ 🤗 WebThinker-R1-7B ｜ 🤗 WebThinker-R1-14B ｜ 🤗 WebThinker-R1-32B

如果您喜欢我们的项目，请在 GitHub 上给我们一个星标 ⭐ 以获取最新更新。

📣 最新动态

• [2025 年 9 月 18 日]: 🎉 我们的论文 WebThinker: Empowering Large Reasoning Models with Deep Research Capability 已被 NeurIPS 2025 接收！
• [2025 年 5 月 30 日]: 🔍 WebThinker 现在支持使用 Google Serper API 进行网络搜索！重要提示：Bing Search API 将于 2025 年 8 月停用。
• [2025 年 5 月 9 日]: WebThinker 的简要介绍可在 X、知乎 和 微信公众号 等平台找到。
• [2025 年 5 月 1 日]: 🤗 WebThinker 模型集合 现已在 Hugging Face 上线。您可以部署我们优化的模型用于深度研究任务。
• [2025 年 5 月 1 日]: 📄 我们的论文现已发布在 arXiv 和 Hugging Face 上。
• [2025 年 3 月 31 日]: 🎉 WebThinker Notion 页面 上线，包含详细的项目信息。
• [2025 年 3 月 31 日]: 🚀 完整代码库已发布。WebThinker 现支持与 QwQ-32B 等开源推理模型配合进行深度研究。

🔥 深度研究智能体家族

欢迎尝试我们的深度研究智能体系列：

DeepAgent: A General Reasoning Agent with Scalable Toolsets (New!)
Authors: Xiaoxi Li, Wenxiang Jiao, Jiarui Jin, Guanting Dong, Jiajie Jin, Yinuo Wang, Hao Wang, Yutao Zhu, Ji-Rong Wen, Yuan Lu, Zhicheng Dou
TLDR: 一个端到端的深度推理智能体，通过受大脑启发的记忆折叠机制（brain-inspired memory folding mechanism），执行自主思考、工具发现和动作执行。

WebThinker: Empowering Large Reasoning Models with Deep Research Capability (NeurIPS 2025)
Authors: Xiaoxi Li*, Jiajie Jin*, Guanting Dong*, Hongjin Qian, Yutao Zhu, Yongkang Wu, Ji-Rong Wen, Zhicheng Dou
TLDR: 一个深度研究智能体，赋予大型推理模型自主搜索、网页浏览和研究报告撰写的能力。

Search-o1: Agentic Search-Enhanced Large Reasoning Models (EMNLP 2025)
Authors: Xiaoxi Li, Guanting Dong, Jiajie Jin, Yuyao Zhang, Yujia Zhou, Yutao Zhu, Peitian Zhang, Zhicheng Dou
TLDR: 一个智能体搜索增强框架，通过智能体检索增强生成（Agentic RAG）和文档内推理（reasoning-in-documents）模块，将自主知识检索与大型推理模型相结合。

🎬 演示

💡 概述

WebThinker 是一个完全由大型推理模型（Large Reasoning Models, LRMs）驱动的深度研究框架。WebThinker 使 LRMs 能够在其思考过程中自主搜索、深入探索网页并起草研究报告。

与现有的开源深度搜索智能体不同，后者通常采用带有预定义工作流的检索增强生成（Retrieval-Augmented Generation, RAG），WebThinker 允许推理模型本身在思考期间执行操作，从而在单次生成中实现端到端任务执行。

📊 整体性能

如上所示，WebThinker 在知识密集型复杂推理基准测试（GPQA, GAIA, WebWalkerQA, HLE）和用于报告生成的开放式推理任务中，始终优于竞争方法。我们的 WebThinker-32B 以 QwQ-32B 作为骨干推理模型，在所有任务上均实现了卓越的性能。

✨ WebThinker 框架

WebThinker 使推理模型能够在推理过程中自主进行网络搜索和网页导航，以获取外部知识。这种方法显著减少了知识密集型领域研究人员收集信息所需的时间和成本。此外，WebThinker 允许大型推理模型（LRM）在思考和搜索的同时起草章节内容，生成全面、定制化的报告，直接回应用户的研究问题。

主要特性：

• 我们引入了一个 深度网络探索器（Deep Web Explorer），赋能 LRM 进行搜索、通过点击交互元素（如链接或按钮）导航页面，并提取相关信息。基于初始搜索结果，LRM 可以发起后续搜索并遍历更深层的链接，直到收集到所有相关信息。
• 对于科学报告，我们的 自主思考 - 搜索 - 起草（Autonomous Think-Search-and-Draft） 策略将实时知识寻求与报告创建相结合。我们为 LRM 配备了三个专用工具：(1) 起草特定章节的内容，(2) 检查当前报告，以及 (3) 编辑报告——确保报告保持全面、连贯，并能适应新的见解。
• 我们正在开发 基于强化学习（RL）的训练策略，通过利用来自复杂任务的大规模推理轨迹来优化端到端任务性能。使用推理准确性、工具使用和最终输出的准确度，我们构建偏好对用于在线 DPO（直接偏好优化）训练，使模型能够逐步提高其研究能力。

🔧 安装

环境设置

# Create conda environment
conda create -n webthinker python=3.9
conda activate webthinker

# Install requirements
cd WebThinker-main
pip install -r requirements.txt

🏃 快速开始

准备工作

模型服务部署

在运行 WebThinker 之前，请确保您的推理模型和辅助模型已使用 vLLM 进行服务部署。在我们的实验中，我们使用 QwQ-32B 作为推理模型，使用 Qwen-32B-Instruct 作为辅助模型。您也可以探索其他指令微调模型作为您的辅助模型，这将用于网页阅读、报告撰写/编辑、评估等。关于模型服务的详细说明，请参阅 此处。

网页解析客户端

为了获得更好的网络爬取性能，我们建议在 scripts/search/bing_search.py 中使用 Crawl4AI 设置一个网页解析客户端。这将有助于处理 JavaScript 渲染的内容，并提供更可靠的网页提取。

现在您可以使用提供的脚本运行不同的推理模式。以下是执行每种模式的示例：

问题解决模式

1. 如果您想询问单个问题，请运行以下命令：

python scripts/run_web_thinker.py \
    --single_question "What is OpenAI Deep Research?" \
    --search_engine "serper" \
    --serper_api_key "YOUR_GOOGLE_SERPER_API" \
    --api_base_url "YOUR_API_BASE_URL" \
    --model_name "QwQ-32B" \
    --aux_api_base_url "YOUR_AUX_API_BASE_URL" \
    --aux_model_name "Qwen2.5-32B-Instruct" \
    --tokenizer_path "PATH_TO_YOUR_TOKENIZER" \
    --aux_tokenizer_path "PATH_TO_YOUR_AUX_TOKENIZER"

2. 如果您想在基准测试上运行结果，请运行以下命令：

python scripts/run_web_thinker.py \
    --dataset_name gaia \
    --split dev \
    --concurrent_limit 32 \
    --max_search_limit 15 \
    --search_engine "serper" \
    --serper_api_key "YOUR_GOOGLE_SERPER_API" \
    --api_base_url "YOUR_API_BASE_URL" \
    --model_name "QwQ-32B" \
    --aux_api_base_url "YOUR_AUX_API_BASE_URL" \
    --aux_model_name "Qwen2.5-32B-Instruct" \
    --tokenizer_path "PATH_TO_YOUR_TOKENIZER" \
    --aux_tokenizer_path "PATH_TO_YOUR_AUX_TOKENIZER"

报告生成模式

1. 如果您想询问单个问题，请运行以下命令：

python scripts/run_web_thinker_report.py \
    --single_question "What are the models of OpenAI and what are the differences?" \
    --search_engine "serper" \
    --serper_api_key "YOUR_GOOGLE_SERPER_API" \
    --api_base_url "YOUR_API_BASE_URL" \
    --model_name "QwQ-32B" \
    --aux_api_base_url "YOUR_AUX_API_BASE_URL" \
    --aux_model_name "Qwen2.5-32B-Instruct" \
    --tokenizer_path "PATH_TO_YOUR_TOKENIZER" \
    --aux_tokenizer_path "PATH_TO_YOUR_AUX_TOKENIZER"

2. 如果您想在基准测试上运行结果，请运行以下命令：

python scripts/run_web_thinker_report.py \
    --dataset_name glaive \
    --split test \
    --concurrent_limit 32 \
    --search_engine "serper" \
    --serper_api_key "YOUR_GOOGLE_SERPER_API" \
    --api_base_url "YOUR_API_BASE_URL" \
    --model_name "QwQ-32B" \
    --aux_api_base_url "YOUR_AUX_API_BASE_URL" \
    --aux_model_name "Qwen2.5-32B-Instruct" \
    --tokenizer_path "PATH_TO_YOUR_TOKENIZER" \
    --aux_tokenizer_path "PATH_TO_YOUR_AUX_TOKENIZER"

参数说明：

• --dataset_name: 要使用的数据集名称 (glaive)。
• --split: 要运行的数据划分 (test)。
• --single_question: 在单问题模式下您想要提出的问题。
• --concurrent_limit: 最大并发请求数。
• --max_search_limit: 每个推理会话的最大搜索查询次数。
• --search_engine: 要使用的搜索引擎 (bing 或 serper)。默认值：bing。
• --serper_api_key: 您的 Google Serper API 密钥（使用 Bing 时不需要）。
• --bing_subscription_key: 您的 Bing 搜索 API 订阅密钥（使用 Serper 时不需要）。
• --api_base_url: 主模型 API 的基础 URL。
• --model_name: 要使用的主模型名称。
• --aux_api_base_url: 辅助模型 API 的基础 URL。
• --aux_model_name: 要使用的辅助模型名称。

运行演示

您可以使用以下命令运行我们创建的演示，我们将根据您输入的问题进行深入探索和思考。

cd demo
streamlit run_demo.py

注意： 在运行之前，需要在 demo/settings.py 中配置相关参数。

基准测试 (Benchmarks)

我们使用的基准测试分为两类：

• 复杂推理基准测试 (Complex Reasoning Benchmarks):
  • 博士级科学问答 (QA): GPQA (198 个问题)
  • 通用 AI 助手: GAIA (103 个问题)
  • 网络探索: WebWalkerQA (680 个问题)
  • 极高难度推理问题: 人类终极考试 (HLE) (500 个问题)
• 科学报告评估:
  • 通用开放域推理问题: Reasoning-v1-20m (30 个问题)

所有预处理的数据均可在 ./data/ 目录中找到。对于 GAIA、HLE 和 Reasoning-v1-20m，我们采样了一部分仅包含文本的问题子集，以便更高效地进行评估。

评估 (Evaluation)

我们的模型推理脚本会自动保存模型的输入和输出文本以供评估。

问题解决评估 (Problem Solving Evaluation)

您可以使用以下命令来评估模型的问题解决性能：

python scripts/evaluate/evaluate.py \
    --output_path "YOUR_OUTPUT_PATH" \
    --task math \
    --use_llm \
    --api_base_url "YOUR_AUX_API_BASE_URL" \
    --model_name "Qwen2.5-72B-Instruct" \
    --extract_answer

参数说明:

• --output_path: 用于评估的模型输出路径。
• --task: 任务名称。除非是代码任务（此时设为 code），否则通常可以将其设置为 math（适用于任何问答 (QA) 任务）。
• --use_llm: 是否使用大语言模型 (LLM) 来评估模型的性能。
• --api_base_url: 大语言模型 (LLM) 应用程序接口 (API) 的基础统一资源定位符 (URL)。
• --model_name: 用于 LLM 评估的模型名称。
• --extract_answer: 是否从模型输出中提取答案，否则它将使用模型输出的最后几行作为最终答案。仅在 --use_llm 设置为 True 时使用。

报告生成评估 (Report Generation Evaluation)

我们采用 DeepSeek-R1 和 GPT-4o 执行 列表级评估 (listwise evaluation)，以比较不同模型生成的报告。您可以使用以下命令评估报告：

python scripts/evaluate/evaluate_report.py \
    --api-base-url "YOUR_API_BASE_URL" \
    --api-key "YOUR_API_KEY" \
    --models "YOUR_MODEL_NAME" \
    --model-to-test-dir "YOUR_MODEL_OUTPUT_DIRECTORY"

参数说明:

• --api-base-url: 大语言模型 (LLM) 应用程序接口 (API) 的基础统一资源定位符 (URL)（例如："https://openrouter.ai/api/v1" 或 "https://api.openai.com/v1"）。
• --api-key: 您用于 LLM 服务的 API 密钥。
• --models: 用于评估报告的模型名称列表（例如："deepseek/deepseek-r1", "openai/gpt-4o"）。脚本将遍历这些模型以获取评估结果。
• --model-to-test-dir: 存储您的模型生成的报告（markdown 文件）的目录路径。

📊 提供报告对比:

我们在 ./outputs/ 目录中包含了由 WebThinker、Grok3 DeeperSearch 和 Gemini2.0 Deep Research 生成的全部 30 份测试报告，供您参考和对比。

📄 引用 (Citation)

如果您发现这项工作有帮助，请引用我们的论文：

@article{Li2025WebThinker,
  author       = {Xiaoxi Li and
                  Jiajie Jin and
                  Guanting Dong and
                  Hongjin Qian and
                  Yutao Zhu and
                  Yongkang Wu and
                  Ji{-}Rong Wen and
                  Zhicheng Dou},
  title        = {WebThinker: Empowering Large Reasoning Models with Deep Research Capability},
  journal      = {CoRR},
  volume       = {abs/2504.21776},
  year         = {2025},
  url          = {https://doi.org/10.48550/arXiv.2504.21776},
  doi          = {10.48550/ARXIV.2504.21776},
  eprinttype    = {arXiv},
  eprint       = {2504.21776},
  timestamp    = {Sun, 25 May 2025 20:50:43 +0200},
  biburl       = {https://dblp.org/rec/journals/corr/abs-2504-21776.bib},
  bibsource    = {dblp computer science bibliography, https://dblp.org}
}

📄 许可证 (License)

本项目采用 MIT 许可证 发布。

📞 联系方式 (Contact)

如有任何问题或反馈，请通过 xiaoxi_li@ruc.edu.cn 与我们联系。

星标历史 (Star History)

WebThinker 快速上手指南

📋 环境准备

在开始之前，请确保满足以下系统要求和前置条件：

1. Python 版本: 需要 Python 3.9 或更高版本。
2. API 密钥:
   • 推荐使用 Google Serper API（注意：Bing Search API 将于 2025 年 8 月停用）。
   • 获取密钥：https://serper.dev/
3. 模型服务 (vLLM):
   • WebThinker 依赖 vLLM 服务来运行推理模型和辅助模型。
   • 推理模型: 例如 QwQ-32B。
   • 辅助模型: 例如 Qwen-32B-Instruct (用于网页阅读、报告撰写等)。
   • 请参考 vLLM 文档 部署模型服务。
4. Web 解析器 (可选但推荐):
   • 为了处理 JavaScript 渲染内容，建议在 scripts/search/bing_search.py 中配置 Crawl4AI。

🛠️ 安装步骤

1. 创建并激活 Conda 环境:

   conda create -n webthinker python=3.9
   conda activate webthinker
   

2. 安装依赖:

   cd WebThinker-main
   pip install -r requirements.txt
   

🚀 基本使用

完成安装并配置好模型服务后，您可以运行以下命令体验问题解决模式。请确保替换命令中的 YOUR_... 占位符为您的实际配置信息。

单问题解答示例

python scripts/run_web_thinker.py \
    --single_question "What is OpenAI Deep Research?" \
    --search_engine "serper" \
    --serper_api_key "YOUR_GOOGLE_SERPER_API" \
    --api_base_url "YOUR_API_BASE_URL" \
    --model_name "QwQ-32B" \
    --aux_api_base_url "YOUR_AUX_API_BASE_URL" \
    --aux_model_name "Qwen2.5-32B-Instruct" \
    --tokenizer_path "PATH_TO_YOUR_TOKENIZER" \
    --aux_tokenizer_path "PATH_TO_YOUR_AUX_TOKENIZER"
    ```

> **注意**: 
> - `--api_base_url` 需指向您启动的 vLLM 推理模型服务地址。
> - `--aux_api_base_url` 需指向辅助模型服务地址。
> - 如需生成完整研究报告，可使用 `scripts/run_web_thinker_report.py` 脚本。