GLM-4.7、GLM-4.6 和 GLM-4.5

中文阅读 | 日本語版

👋 欢迎加入我们的 微信 或 Discord 社区。
📖 请查看 GLM-4.7 的 技术博客、技术报告（GLM-4.5） 以及 智谱AI技术文档。
📍 您可以在 Z.ai API 平台 上使用 GLM-4.7 API 服务。
👉 一键体验 GLM-4.7。

模型介绍

GLM-4.7

GLM-4.7，您的全新编码伙伴，具备以下特性：

• 核心编码能力：与前代模型 GLM-4.6 相比，GLM-4.7 在多语言代理式编码及终端任务上取得了显著提升，包括在 SWE-bench 上提升至 73.8%（+5.8%），在 SWE-bench 多语言版本上提升至 66.7%（+12.9%），以及在 Terminal Bench 2.0 上提升至 41%（+16.5%）。此外，GLM-4.7 支持“先思考再行动”，在 Claude Code、Kilo Code、Cline 和 Roo Code 等主流代理框架中的复杂任务表现也大幅改善。
• 界面设计能力：GLM-4.7 在提升 UI 质量方面迈出了重要一步。它能够生成更简洁、更现代的网页，并在布局和尺寸控制上更加精准，从而产出更具吸引力的演示文稿。
• 工具使用能力：GLM-4.7 在工具使用方面实现了显著提升，在 τ^2-Bench 等基准测试以及通过 BrowseComp 进行的网页浏览任务中均表现出色。
• 复杂推理能力：GLM-4.7 在数学和推理能力上有了大幅提升，其在 HLE（人类终极考试）基准测试中的得分达到 42.8%，相比 GLM-4.6 提升了 12.4%。

总体而言，用户还会在聊天、创意写作和角色扮演等场景中感受到显著的改进。

交错式思维与保留式思维

GLM-4.7 进一步增强了自 GLM-4.5 引入的 交错式思维 功能，并新增了 保留式思维 和 回合级思维。通过在每次行动之间进行思考，并在多个回合中保持一致性，该模型使复杂任务更加稳定可控：

• 交错式思维：模型会在每次响应和调用工具之前进行思考，从而提升指令遵循能力和生成质量。
• 保留式思维：在编码代理场景中，模型会自动保留多轮对话中的所有思考内容，复用已有的推理过程而非从头开始推导。这减少了信息丢失和不一致性，非常适合长期且复杂的任务。
• 回合级思维：模型支持在单个会话中对每一轮的推理进行控制——对于轻量级请求可关闭思考以降低延迟和成本；而对于复杂任务则开启思考，以提高准确性和稳定性。

更多详情：https://docs.z.ai/guides/capabilities/thinking-mode

我们还推出了轻量级的 30B-A3B 模型 GLM-4.7-Flash，为性能与效率兼备的轻量化部署提供了新选择。

GLM-4.6

与 GLM-4.5 相比，GLM-4.6 带来了多项关键改进：

• 更长的上下文窗口：上下文窗口由 128K 扩展至 200K 个标记，使模型能够处理更复杂的代理式任务。
• 卓越的编码性能：该模型在代码基准测试中取得了更高的分数，并在 Claude Code、Cline、Roo Code 和 Kilo Code 等实际应用中表现出色，尤其在生成视觉效果精美的前端页面方面有显著提升。
• 高级推理能力：GLM-4.6 的推理性能明显增强，并支持推理过程中的工具使用，从而整体能力更强。
• 更强的代理能力：GLM-4.6 在工具使用和基于搜索的代理任务中表现更为出色，能够更高效地融入各类代理框架。
• 优化的写作能力：在风格和可读性上更符合人类偏好，在角色扮演场景中表现也更加自然。

我们在涵盖代理、推理和编码的八项公开基准测试中对 GLM-4.6 进行了评估。结果显示，GLM-4.6 相较于 GLM-4.5 取得了明显进步，并且在与国内及国际领先模型（如 DeepSeek-V3.1-Terminus 和 Claude Sonnet 4）的竞争中也具有优势。

GLM-4.5

GLM-4.5 系列模型是专为智能代理设计的基础模型。GLM-4.5 总参数量为 3550 亿，其中活跃参数量为 320 亿；而 GLM-4.5-Air 则采用了更为紧凑的设计，总参数量为 1060 亿，活跃参数量为 120 亿。GLM-4.5 模型将推理、编码和智能代理能力融为一体，以满足智能代理应用的复杂需求。

GLM-4.5 和 GLM-4.5-Air 均为混合推理模型，提供两种模式：用于复杂推理和工具使用的思考模式，以及用于快速响应的非思考模式。

我们已开源了 GLM-4.5 和 GLM-4.5-Air 的基础模型、混合推理模型以及混合推理模型的 FP8 版本。这些模型采用 MIT 开源许可证发布，可用于商业用途及二次开发。

正如我们在 12 项行业标准基准测试中的全面评估所示，GLM-4.5 以 63.2 分的成绩取得了卓越表现，在所有专有及开源模型中位列第 3。值得注意的是，GLM-4.5-Air 以 59.8 分的成绩同样表现出色，同时保持了更高的效率。

更多评估结果、案例展示和技术细节，请访问我们的 技术报告。

模型下载

模型	下载链接	模型大小	精度
GLM-4.7	🤗 Hugging Face 🤖 ModelScope	355B-A32B	BF16
GLM-4.7-FP8	🤗 Hugging Face 🤖 ModelScope	355B-A32B	FP8
GLM-4.7-Flash	🤗 Hugging Face 🤖 ModelScope	30B-A3B	BF16
GLM-4.6	🤗 Hugging Face 🤖 ModelScope	355B-A32B	BF16
GLM-4.6-FP8	🤗 Hugging Face 🤖 ModelScope	355B-A32B	FP8
GLM-4.5	🤗 Hugging Face 🤖 ModelScope	355B-A32B	BF16
GLM-4.5-Air	🤗 Hugging Face 🤖 ModelScope	106B-A12B	BF16
GLM-4.5-FP8	🤗 Hugging Face 🤖 ModelScope	355B-A32B	FP8
GLM-4.5-Air-FP8	🤗 Hugging Face 🤖 ModelScope	106B-A12B	FP8
GLM-4.5-Base	🤗 Hugging Face 🤖 ModelScope	355B-A32B	BF16
GLM-4.5-Air-Base	🤗 Hugging Face 🤖 ModelScope	106B-A12B	BF16

• GLM-4.5、GLM-4.6 和 GLM-4.7 的模型代码、工具解析器和推理解析器可以在 transformers、vLLM 和 SGLang 的实现中找到。
• GLM-4.7-Flash 的模型代码可以在 transformers、vLLM 和 SGLang 的实现中找到。

系统要求

使用 Nvidia GPU 进行推理

我们提供了“全功能”模型推理的最低配置和推荐配置。下表中的数据基于以下条件：

1. 所有模型均使用 MTP 层，并指定 --speculative-num-steps 3 --speculative-eagle-topk 1 --speculative-num-draft-tokens 4，以确保具有竞争力的推理速度。
2. 未使用 cpu-offload 参数。
3. 推理批次大小不超过 8。
4. 均在原生支持 FP8 推理的设备上执行，确保权重和缓存均为 FP8 格式。
5. 服务器内存必须超过 1T，以确保模型正常加载和运行。

以下配置下的模型可以正常运行：

模型	精度	GPU 类型及数量
GLM-4.5	BF16	H100 x 16
GLM-4.5	FP8	H100 x 8
GLM-4.5-Air	BF16	H100 x 4
GLM-4.5-Air	FP8	H100 x 2
GLM-4.7-Flash	BF16	H100 x 1

在下表所示的配置下，模型可以充分利用其 128K 上下文长度：

模型	精度	GPU 类型及数量
GLM-4.5	BF16	H100 x 32
GLM-4.5	FP8	H100 x 16
GLM-4.5-Air	BF16	H100 x 8
GLM-4.5-Air	FP8	H100 x 4
GLM-4.7-Flash	BF16	H100 x 2

其他设备

• 若要在 Ascend A3 设备上使用 xLLM 进行快速推理，请参阅 Ascend NPU 部署指南。
• 若要在 AMD GPU 上运行推理，请参阅 AMD GPU 部署指南。

微调

使用 Llama Factory 时，代码可在下表所示的配置下运行：

模型	GPU 类型及数量	策略	每 GPU 的批次大小
GLM-4.5	H100 x 16	Lora	1
GLM-4.5-Air	H100 x 4	Lora	1

使用 Swift 时，代码可在下表所示的配置下运行：

模型	GPU 类型及数量	策略	每 GPU 的批次大小
GLM-4.5	H20 (96GiB) x 16	Lora	1
GLM-4.5-Air	H20 (96GiB) x 4	Lora	1
GLM-4.5	H20 (96GiB) x 128	SFT	1
GLM-4.5-Air	H20 (96GiB) x 32	SFT	1
GLM-4.5	H20 (96GiB) x 128	RL	1
GLM-4.5-Air	H20 (96GiB) x 32	RL	1

快速入门

根据 requirements.txt 中的配置要求安装依赖项（sglang、vllm 等）。

transformers

请参考 inference 文件夹中的 trans_infer_cli.py 代码。

vLLM

vllm serve zai-org/GLM-4.7-FP8 \
     --tensor-parallel-size 4 \
     --speculative-config.method mtp \
     --speculative-config.num_speculative_tokens 1 \
     --tool-call-parser glm47 \
     --reasoning-parser glm45 \
     --enable-auto-tool-choice \
     --served-model-name glm-4.7-fp8

SGLang

python3 -m sglang.launch_server \
  --model-path zai-org/GLM-4.7-FP8 \
  --tp-size 8 \
  --tool-call-parser glm47  \
  --reasoning-parser glm45 \
  --speculative-algorithm EAGLE \
  --speculative-num-steps 3 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 4 \
  --mem-fraction-static 0.8 \
  --served-model-name glm-4.7-fp8 \
  --host 0.0.0.0 \
  --port 8000

• PD-分解

以下是使用单台多GPU机器实现PD-分解的简单方法，其中P和D分别使用4张GPU来运行GLM-4.5：

python -m sglang.launch_server --model-path zai-org/GLM-4.5-Air  --disaggregation-mode prefill --disaggregation-ib-device mlx5_0 --tp-size 4
python -m sglang.launch_server --model-path zai-org/GLM-4.5-Air  --disaggregation-mode decode --port 30001 --disaggregation-ib-device mlx5_0 --tp-size 4 --base-gpu-id 4                                                                                                                                                        
python -m sglang_router.launch_router --pd-disaggregation --prefill http://127.0.0.1:30000 --decode http://127.0.0.1:30001 --host 0.0.0.0 --port 8000

参数说明

• 对于GLM-4.7，在vLLM和SGLang方法中，--tool-call-parser应设置为glm47。

• 对于GLM-4.7的代理任务，请通过添加以下配置开启保留思考模式（仅SGLang支持）：

  "chat_template_kwargs": {
      "enable_thinking": true,
      "clear_thinking": false
  }
  

• 使用vLLM和SGLang时，默认情况下发送请求时会启用思考模式。如果需要关闭思考模式开关，则需添加extra_body={"chat_template_kwargs": {"enable_thinking": False}}参数。

• 两者均支持工具调用。请使用OpenAI风格的工具描述格式进行调用。

• 具体代码请参考inference文件夹中的api_request.py。

评估

• 关于集成工具的推理，请参阅这篇文档。
• 对于搜索基准测试，我们设计了一种特定的格式，用于在思考模式下进行搜索工具调用，以支持搜索代理。详细模板请参阅这里。

引用

如果您在研究中发现我们的工作有所帮助，请考虑引用以下论文：

@misc{5team2025glm45agenticreasoningcoding,
      title={GLM-4.5：代理、推理与编码（ARC）基础模型}, 
      author={GLM团队及Aohan Zeng、Xin Lv、Qinkai Zheng、Zhenyu Hou、Bin Chen、Chengxing Xie、Cunxiang Wang、Da Yin、Hao Zeng、Jiajie Zhang、Kedong Wang、Lucen Zhong、Mingdao Liu、Rui Lu、Shulin Cao、Xiaohan Zhang、Xuancheng Huang、Yao Wei、Yean Cheng、Yifan An、Yilin Niu、Yuanhao Wen、Yushi Bai、Zhengxiao Du、Zihan Wang、Zilin Zhu、Bohan Zhang、Bosi Wen、Bowen Wu、Bowen Xu、Can Huang、Casey Zhao、Changpeng Cai、Chao Yu、Chen Li、Chendi Ge、Chenghua Huang、Chenhui Zhang、Chenxi Xu、Chenzheng Zhu、Chuang Li、Congfeng Yin、Daoyan Lin、Dayong Yang、Dazhi Jiang、Ding Ai、Erle Zhu、Fei Wang、Gengzheng Pan、Guo Wang、Hailong Sun、Haitao Li、Haiyang Li、Haiyi Hu、Hanyu Zhang、Hao Peng、Hao Tai、Haoke Zhang、Haoran Wang、Haoyu Yang、He Liu、He Zhao、Hongwei Liu、Hongxi Yan、Huan Liu、Huilong Chen、Ji Li、Jiajing Zhao、Jiamin Ren、Jian Jiao、Jiani Zhao、Jianyang Yan、Jiaqi Wang、Jiayi Gui、Jiayue Zhao、Jie Liu、Jijie Li、Jing Li、Jing Lu、Jingsen Wang、Jingwei Yuan、Jingxuan Li、Jingzhao Du、Jinhua Du、Jinxin Liu、Junkai Zhi、Junli Gao、Ke Wang、Lekang Yang、Liang Xu、Lin Fan、Lindong Wu、Lintao Ding、Lu Wang、Man Zhang、Minghao Li、Minghuan Xu、Mingming Zhao、Mingshu Zhai、Pengfan Du、Qian Dong、Shangde Lei、Shangqing Tu、Shangtong Yang、Shaoyou Lu、Shijie Li、Shuang Li、Shuang-Li、Shuxun Yang、Sibo Yi、Tianshu Yu、Wei Tian、Weihan Wang、Wenbo Yu、Weng Lam Tam、Wenjie Liang、Wentao Liu、Xiao Wang、Xiaohan Jia、Xiaotao Gu、Xiaoying Ling、Xin Wang、Xing Fan、Xingru Pan、Xinyuan Zhang、Xinze Zhang、Xiuqing Fu、Xunkai Zhang、Yabo Xu、Yandong Wu、Yida Lu、Yidong Wang、Yilin Zhou、Yiming Pan、Ying Zhang、Yingli Wang、Yingru Li、Yinpei Su、Yipeng Geng、Yitong Zhu、Yongkun Yang、Yuhang Li、Yuhao Wu、Yujiang Li、Yunan Liu、Yunqing Wang、Yuntao Li、Yuxuan Zhang、Zezhen Liu、Zhen Yang、Zhengda Zhou、Zhongpei Qiao、Zhuoer Feng、Zhuorui Liu、Zichen Zhang、Zihan Wang、Zijun Yao、Zikang Wang、Ziqiang Liu、Ziwei Chai、Zixuan Li、Zuodong Zhao、Wenguang Chen、Jidong Zhai、Bin Xu、Minlie Huang、Hongning Wang、Juanzi Li、Yuxiao Dong、Jie Tang},
      year={2025},
      eprint={2508.06471},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2508.06471}, 
}

GLM-4.5 快速上手指南

本指南旨在帮助开发者快速部署和使用智谱 AI 开源的 GLM-4.5 系列模型（含 GLM-4.5-Air）。该系列模型专为智能体设计，支持混合推理模式（思考/非思考），适用于复杂编码、逻辑推理及多轮对话场景。

1. 环境准备

系统要求

• 操作系统: Linux (推荐 Ubuntu 20.04+)
• GPU: NVIDIA GPU (支持 FP8 加速的 H100/A100 等效果最佳)
  • GLM-4.5 (355B-A32B):
    • BF16 精度最低需求：16x H100
    • FP8 精度最低需求：8x H100
  • GLM-4.5-Air (106B-A12B):
    • BF16 精度最低需求：4x H100
    • FP8 精度最低需求：2x H100
  • 注：若需跑满 128K 上下文，显存需求需翻倍。
• 内存: 服务器内存建议 > 1TB 以确保模型正常加载。
• 磁盘空间: 根据模型精度不同，需预留 70GB - 700GB+ 存储空间。

前置依赖

确保已安装以下基础环境：

• Python >= 3.10
• CUDA >= 12.1 (如需 FP8 支持)
• Git
• vLLM 或 Hugging Face Transformers (推荐 vLLM 以获得最佳推理性能)

2. 安装步骤

方案 A：使用 vLLM 部署（推荐，高性能）

1. 安装 vLLM

   pip install vllm
   

   国内用户建议使用镜像源加速：

   pip install vllm -i https://pypi.tuna.tsinghua.edu.cn/simple
   

2. 下载模型 (推荐使用 ModelScope 魔搭社区加速) 安装 ModelScope 客户端：

   pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple
   

   下载 GLM-4.5-Air (轻量版示例)：

   modelscope download ZhipuAI/GLM-4.5-Air --local_dir ./glm-4.5-air
   

   或下载完整版 GLM-4.5 (FP8 版本以节省显存)：

   modelscope download ZhipuAI/GLM-4.5-FP8 --local_dir ./glm-4.5-fp8
   

方案 B：使用 Hugging Face Transformers

pip install transformers torch accelerate -i https://pypi.tuna.tsinghua.edu.cn/simple

(模型下载同上，可替换为 huggingface-cli download)

3. 基本使用

启动推理服务 (vLLM)

以下命令以启动 GLM-4.5-Air 为例。若使用完整版，请更改 --model 路径及 --tensor-parallel-size (TP) 参数。

单卡/多卡启动示例 (GLM-4.5-Air FP8):

python -m vllm.entrypoints.openai.api_server \
    --model ./glm-4.5-air \
    --trust-remote-code \
    --tensor-parallel-size 2 \
    --dtype auto \
    --max-model-len 131072 \
    --port 8000

多卡启动示例 (GLM-4.5 FP8, 需 8 卡):

python -m vllm.entrypoints.openai.api_server \
    --model ./glm-4.5-fp8 \
    --trust-remote-code \
    --tensor-parallel-size 8 \
    --dtype auto \
    --max-model-len 131072 \
    --port 8000

注意:

• --trust-remote-code: GLM 系列模型必须添加此参数。
• --tensor-parallel-size: 根据实际显卡数量调整。
• GLM-4.5 支持混合推理，默认开启思考模式。

调用 API 示例

服务启动后，可通过 OpenAI 兼容接口进行调用。

Python 调用示例:

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:8000/v1",
    api_key="EMPTY" # 本地部署无需密钥
)

response = client.chat.completions.create(
    model="ZhipuAI/GLM-4.5-Air",
    messages=[
        {"role": "system", "content": "你是一个智能助手。"},
        {"role": "user", "content": "请用 Python 写一个快速排序算法，并解释其原理。"}
    ],
    temperature=0.7,
    max_tokens=2048
)

print(response.choices[0].message.content)

Curl 命令行示例:

curl http://localhost:8000/v1/chat/completions \
    -H "Content-Type: application/json" \
    -d '{
        "model": "ZhipuAI/GLM-4.5-Air",
        "messages": [
            {"role": "user", "content": "你好，请介绍一下你自己。"}
        ]
    }'

进阶：控制思考模式

GLM-4.5 支持在请求中控制是否启用“思考”过程（Interleaved Thinking）。

• 复杂任务：保持默认设置，模型会自动进行深度推理。
• 简单/低延迟任务：可在生成参数中尝试限制思考步数或通过特定 prompt 指示直接回答（具体参数依推理框架版本更新而定，目前主要依靠模型自动判断或 Prompt 工程优化）。