GLM-5

👋 加入我们的 微信 或 Discord 社区。
📖 查看 GLM-5 的 技术报告。
📍 在 Z.ai API 平台 上使用 GLM-5 API 服务。
👉 一键访问 GLM-5。

简介

我们推出 GLM-5，旨在应对复杂系统工程和长周期代理任务。规模扩展仍然是提升通用人工智能（AGI）智能效率的最重要途径之一。与 GLM-4.5 相比，GLM-5 的参数量从 355B（32B 活性参数）增加到 744B（40B 活性参数），预训练数据也从 23T 增加至 28.5T 个标记。此外，GLM-5 集成了 DeepSeek 稀疏注意力机制（DSA），在保持长上下文能力的同时大幅降低了部署成本。

强化学习旨在弥合预训练模型的能力与卓越表现之间的差距。然而，由于 RL 训练效率低下，将其大规模应用于大语言模型仍面临挑战。为此，我们开发了 slime，一种新颖的 异步 RL 基础设施，可显著提升训练吞吐量和效率，从而实现更精细的后训练迭代。凭借预训练和后训练两方面的进步，GLM-5 在广泛的学术基准测试中相比 GLM-4.7 取得了显著提升，并在推理、编码和代理任务方面达到了全球开源模型中的顶尖水平，进一步缩小了与前沿模型的差距。

GLM-5 专为复杂系统工程和长周期代理任务而设计。在我们的内部评估套件 CC-Bench-V2 上，GLM-5 在前端、后端以及长周期任务中均显著优于 GLM-4.7，与 Claude Opus 4.5 的差距也进一步缩小。

在衡量长期运营能力的 Vending Bench 2 基准测试中，GLM-5 在开源模型中位居第一。该测试要求模型模拟运行一家自动售货机业务一年；GLM-5 最终账户余额达到 4,432 美元，接近 Claude Opus 4.5 的水平，展现出强大的长期规划和资源管理能力。

模型下载

模型	下载链接	模型大小	精度
GLM-5	🤗 Hugging Face 🤖 ModelScope	744B-A40B	BF16
GLM-5-FP8	🤗 Hugging Face 🤖 ModelScope	744B-A40B	FP8

在本地部署 GLM-5

准备环境

vLLM、SGLang 和 xLLM 均支持 GLM-5 的本地部署。以下提供一个简单的部署指南。

• vLLM

  使用 Docker（版本 0.18.0 或更高）：

  docker pull vllm/vllm-openai:v0.18.0
  

  然后升级 transformers 库（版本 5.4.0 或更高）：

  pip install -U transformers
  

• SGLang

  使用 Docker：

    docker pull lmsysorg/sglang:glm5-hopper # 适用于 Hopper GPU
    docker pull lmsysorg/sglang:glm5-blackwell # 适用于 Blackwell GPU
  

部署

• vLLM

  vllm serve zai-org/GLM-5-FP8 \
       --tensor-parallel-size 8 \
       --gpu-memory-utilization 0.85 \
       --speculative-config.method mtp \
       --speculative-config.num_speculative_tokens 1 \
       --tool-call-parser glm47 \
       --reasoning-parser glm45 \
       --enable-auto-tool-choice \
       --served-model-name glm-5-fp8
  

  更多详情请参阅 recipes。

• SGLang

  sglang serve \
    --model-path zai-org/GLM-5-FP8 \
    --tp-size 8 \
    --tool-call-parser glm47  \
    --reasoning-parser glm45 \
    --speculative-algorithm EAGLE \
    --speculative-num-steps 3 \
    --speculative-eagle-topk 1 \
    --speculative-num-draft-tokens 4 \
    --mem-fraction-static 0.85 \
    --served-model-name glm-5-fp8
  

  更多详情请参阅 sglang 烹饪书。

• xLLM 和其他 Ascend NPU

  请参阅此处的部署指南 here.

引用

如果您在研究中使用了 GLM-5，请引用我们的技术报告：

@misc{glm5team2026glm5vibecodingagentic,
      title={GLM-5：从氛围编码到智能体工程},
      author={GLM-5团队和：以及曾傲寒、吕欣、侯振宇、杜正啸、郑钦凯、陈斌、殷达、葛晨迪、黄成华、谢承兴、朱晨正、尹聪峰、王存祥、潘耿政、曾浩、张浩科、王浩然、陈辉龙、张佳杰、焦健、郭嘉琪、王京森、杜景钊、吴金柱、王克东、李磊、范林、钟露辰、刘明道、赵明明、杜鹏帆、董倩、陆锐、双莉、曹淑琳、刘松、蒋婷、陈晓东、张晓涵、黄宣诚、董雪珍、徐亚博、魏瑶、安一凡、牛怡琳、朱一彤、文元昊、岑玉阔、白宇诗、乔仲培、王子涵、王梓康、朱子林、刘子强、李子轩、王博杰、温博思、黄灿、蔡昌鹏、于超、李晨、胡承伟、张晨辉、张丹、林道言、杨大勇、王迪、艾丁、朱尔乐、易方舟、陈飞宇、文国洪、孙海龙、赵海莎、胡海怡、张瀚辰、刘汉睿、张涵宇、彭浩、泰浩、张浩波、刘鹤、王洪伟、闫洪喜、葛洪宇、刘欢、楚欢鹏、赵佳妮、王家琛、赵佳静、任佳敏、王佳鹏、张佳鑫、桂佳艺、赵佳悦、李继杰、安晶、李静、袁景威、杜金花、刘金鑫、支俊凯、段俊文、周凯越、魏康健、王可、罗克云、张来强、沙雷刚、许亮、吴林东、丁林涛、陈璐、李明浩、林念义、塔潘、邹强、宋荣军、杨瑞奇、涂尚青、杨尚通、吴绍祥、张圣炎、李世杰、李双、范淑仪、秦伟、田伟、张卫宁、于文博、梁文杰、匡翔、程向梦、李向阳、严小泉、胡晓伟、凌晓英、范兴、夏兴业、张新源、张鑫泽、潘西瑞、邹旭、张勋凯、刘雅迪、吴燕东、李延福、王一东、朱一凡、谭一君、周怡琳、潘一鸣、张颖、苏银佩、耿一鹏、颜永、谭永林、毕月安、沈宇涵、杨宇豪、李宇江、刘宇楠、王云清、李云涛、吴雨蓉、张宇涛、段宇曦、张宇轩、刘泽震、姜正涛、严振河、张哲宇、魏志祥、陈卓、冯卓尔、姚子俊、柴子威、王子源、张祖洲、徐彬、黄敏列、王洪宁、李娟子、董宇霄、唐杰},
      year={2026},
      eprint={2602.15763},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/2602.15763},
}

GLM-5 快速上手指南

GLM-5 是专为复杂系统工程和长周期智能体任务设计的开源大模型。相比前代，其参数量扩展至 744B（激活 40B），预训练数据达 28.5T tokens，并集成了 DeepSeek 稀疏注意力机制（DSA），在保持长上下文能力的同时显著降低了部署成本。

环境准备

系统要求

• GPU: 推荐使用 NVIDIA Hopper (H100/H800) 或 Blackwell 架构显卡。
• 显存: 运行 FP8 量化版本建议至少 8 张高性能 GPU（总显存需满足模型加载需求）。
• Docker: 已安装 Docker 引擎（用于容器化部署）。

前置依赖

确保本地已安装以下基础软件：

• Docker (版本不限，需能拉取最新镜像)
• Python & pip (用于升级特定库)

安装步骤

GLM-5 支持通过 vLLM 或 SGLang 进行本地部署。国内开发者可优先从 ModelScope (魔搭) 下载模型以获得更快的下载速度。

1. 获取模型

推荐从 ModelScope 下载（需安装 modelscope 库）：

pip install modelscope
# 示例：下载 FP8 量化版本以节省显存
git lfs install
git clone https://www.modelscope.cn/ZhipuAI/GLM-5-FP8.git

注：也可从 Hugging Face 下载：zai-org/GLM-5-FP8

2. 部署框架安装

方案 A：使用 vLLM (推荐)

拉取官方 Docker 镜像并升级 transformers 库：

docker pull vllm/vllm-openai:v0.18.0
pip install -U transformers

方案 B：使用 SGLang

根据 GPU 架构拉取对应的 Docker 镜像：

# 适用于 Hopper 架构 GPU (如 H100)
docker pull lmsysorg/sglang:glm5-hopper 

# 适用于 Blackwell 架构 GPU
docker pull lmsysorg/sglang:glm5-blackwell 

基本使用

以下命令将启动本地 API 服务，默认监听端口可通过 --served-model-name 指定模型别名。

启动服务 (vLLM)

使用 FP8 版本启动，开启 8 卡张量并行，并启用针对 GLM 系列优化的工具调用与推理解析器：

vllm serve zai-org/GLM-5-FP8 \
     --tensor-parallel-size 8 \
     --gpu-memory-utilization 0.85 \
     --speculative-config.method mtp \
     --speculative-config.num_speculative_tokens 1 \
     --tool-call-parser glm47 \
     --reasoning-parser glm45 \
     --enable-auto-tool-choice \
     --served-model-name glm-5-fp8

启动服务 (SGLang)

使用 EAGLE 投机采样算法加速推理：

sglang serve \
  --model-path zai-org/GLM-5-FP8 \
  --tp-size 8 \
  --tool-call-parser glm47  \
  --reasoning-parser glm45 \
  --speculative-algorithm EAGLE \
  --speculative-num-steps 3 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 4 \
  --mem-fraction-static 0.85 \
  --served-model-name glm-5-fp8

调用示例

服务启动后，可通过标准的 OpenAI API 格式进行调用。例如使用 curl 测试：

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "glm-5-fp8",
    "messages": [{"role": "user", "content": "请规划一个为期一年的自动售货机运营策略。"}]
  }'

提示：更多高级配置（如 Ascend NPU 部署）请参考官方仓库中的 Ascend 部署指南。