mindformers/configs/glm4_moe/README.md

GLM-4.5

模型描述

GLM-4.5 系列模型是专为智能代理设计的基础模型，基于GLM4采用了MoE结构的变体，也标记为GLM4-MoE。GLM-4.5 总参数 3550 亿，激活参数 320 亿，而 GLM-4.5-Air 采用更紧凑的设计，总参数 1060 亿，激活参数 120 亿。GLM-4.5模型统一了推理、编码和智能体能力，满足智能体应用的复杂需求。
具体模型能力查看以下技术报告：GLM-4.5: Reasoning, Coding, and Agentic Abililties

支持规格

模型名称	规格	支持任务	模型架构	支持设备	模型级别
GLM-4.5	355B-A32B	推理	Mcore	Atlas 800T A2/Atlas 800I A2/Atlas 900 A3 SuperPoD	Validated
GLM-4.5-Air	106B-A12B	推理	Mcore	Atlas 800T A2/Atlas 800I A2/Atlas 900 A3 SuperPoD	Validated

说明：

• 模型架构：Mcore 表示新模型架构。
• 模型级别：训练和推理各分为5个级别，分别代表该模型遵循不同的标准上线。每个级别的介绍详见模型级别介绍。

版本配套

GLM-4.5 当前支持的版本配套如下。

	Mindspore Transformers	MindSpore	CANN	HDK
当前支持的版本	在研版本	在研版本	在研版本	在研版本

使用样例

MindSpore Transformers 支持使用 GLM-4.5 进行推理。各任务的整体使用流程如下：

任务	前期准备	使用流程
推理	环境安装 -> 模型下载	修改任务配置 -> 启动推理任务

前期准备

环境安装

按照上述版本配套，参考环境安装指南安装运行环境。

模型下载

用户可以从Hugging Face等开源社区下载所需的模型文件，包括模型权重、Tokenizer、配置等。链接如下：

模型名称	下载链接	说明
GLM-4.5	HuggingFace / ModelScope
GLM-4.5-Air	HuggingFace / ModelScope

推理样例

GLM-4.5模型分为106B和355B两个规格，其中106B最少需要一台Atlas 800T A2，355B最少需要两台Atlas 800T A2，可根据需求选择对应的模型版本。mindformer可以通过统一脚本实现单卡多卡以及多机的推理。

1. 修改任务配置

MindSpore Transformers 提供了推理任务的配置文件predict_glm4_moe.yaml，用户可以根据实际情况修改此配置文件中的权重路径和其他参数。

当前推理可以直接复用Hugging Face的配置文件和tokenizer，并且在线加载Hugging Face的safetensors格式的权重，使用时配置修改如下：

pretrained_model_dir: '/path/hf_dir'
parallel_config:
  data_parallel: 1
  model_parallel: 8

参数说明：

• pretrained_model_dir：Hugging Face模型目录路径，放置模型配置、Tokenizer等文件。/path/hf_dir中的内容如下：

📂Glm4.5
├── 📄config.json
├── 📄generation_config.json
├── 📄merges.txt
├── 📄model-xxx.safetensors
├── 📄model-xxx.safetensors
├── 📄model.safetensors.index.json
├── 📄tokenizer.json
├── 📄tokenizer_config.json
└── 📄vocab.json

• data_parallel：数据并行，当前推理并不支持此并行策略，默认为1；
• model_parallel：模型并行，默认值为 8。需根据实际模型规模及硬件资源情况，调整该参数为相应的device_num（即实际使用的卡数）。

不同规格和序列长度的并行配置可参考并行配置建议。

2. 启动推理任务

使用 run_mindformer 统一脚本执行推理任务。

GLM-4.5因为参数量只能用多卡推理，多卡推理需要借助scripts/msrun_launcher.sh来启动。

run_mindformer.py的参数说明如下：

参数	参数说明
config	yaml配置文件的路径
run_mode	运行的模式，推理设置为predict
use_parallel	是否使用多卡推理
predict_data	推理的输入数据，多batch推理时需要传入输入数据的txt文件路径，包含多行输入
predict_batch_size	多batch推理的batch_size大小
pretrained_model_dir	Hugging Face模型目录路径，放置模型配置、Tokenizer等文件
parallel_config.data_parallel	数据并行，当前推理模式下设置为1
parallel_config.model_parallel	模型并行，默认值为 1。需根据实际模型规模及硬件资源情况，调整该参数为相应的device_num（即实际使用的卡数）

msrun_launcher.sh包括run_mindformer.py命令和推理卡数两个参数。

多卡推理：

Glm4.5分别有355B和106B两种规模，只能进行多卡推理，多卡推理的配置需参考下面修改配置：

1. 模型并行model_parallel的配置和使用的卡数需保持一致，下文用例为8卡推理，需将model_parallel设置成8；
2. 当前版本的多卡推理不支持数据并行，需将data_parallel设置为1。

当使用完整权重推理时，需要开启在线切分方式加载权重，参考以下命令：

bash scripts/msrun_launcher.sh "run_mindformer.py \
 --config configs/glm4_moe/predict_glm4_moe.yaml \
 --run_mode predict \
 --use_parallel True \
 --pretrained_model_dir '/path/hf_dir' \
 --parallel_config.data_parallel 1 \
 --parallel_config.model_parallel 8 \
 --predict_data '请介绍一下北京'" 8

出现如下结果，证明推理成功。推理结果也会保存到当前目录下的 text_generation_result.txt 文件中。详细日志可通过./output/msrun_log目录查看。

'text_generation_text': [请介绍一下北京城市副中心的规划蓝本\n<think>用户询问北京城市副中心的规划蓝本。这是一个关于城市发展的建设性问题...]

多卡多batch推理：

多卡多batch推理的启动方式可参考上述多卡推理，但是需要增加predict_batch_size的入参，并修改predict_data的入参。

input_predict_data.txt文件的内容和格式是每一行都是一个输入，问题的个数与predict_batch_size一致，可以参考以下格式：

请介绍一下北京
请介绍一下北京
请介绍一下北京
请介绍一下北京

以完整权重推理为例，可以参考以下命令启动推理任务：

bash scripts/msrun_launcher.sh "run_mindformer.py \
 --config configs/glm4_moe/predict_glm4_moe.yaml \
 --run_mode predict \
 --predict_batch_size 4 \
 --use_parallel True \
 --pretrained_model_dir '/path/hf_dir' \
 --parallel_config.data_parallel 1 \
 --parallel_config.model_parallel 8 \
 --predict_data path/to/input_predict_data.txt" 8

推理结果查看方式，与多卡推理相同。

多机多卡推理：

在每台服务器上执行如下命令。设置master_ip为主节点IP地址，即Rank 0服务器的IP；node_rank为每个节点的序号；port为当前进程的端口号（可在50000~65536中选择）。

master_ip=192.168.1.1
node_rank=0
port=50001

bash scripts/msrun_launcher.sh "run_mindformer.py \
 --config configs/glm4_moe/predict_glm4_moe.yaml \
 --run_mode predict \
 --use_parallel True \
 --pretrained_model_dir '/path/hf_dir' \
 --parallel_config.data_parallel 1 \
 --parallel_config.model_parallel 8 \
 --predict_data 请介绍一下北京" $worker_num $local_worker $master_ip $port $node_rank output/msrun_log False 300

此处样例代码假设主节点为192.168.1.1、当前Rank序号为0。实际执行时请将master_ip设置为实际的主节点IP地址；将node_rank设置为当前节点的Rank序号；将$local_worker设置为当前节点上拉起的进程数(当前机器使用的卡数)；将$worker_num设置为参与任务的进程总数(使用的总卡数)；将$port设置为启动任务的端口号；$parallel_config.model_parallel需要设置成实际卡数。

推理结果查看方式，与多卡推理相同。

附录

模型文件说明

glm4_moe的模型文件包括以下内容：

📦glm4_moe
├── 📄__init__.py                   # glm4_moe模块初始化文件
├── 📄configuration_glm4_moe.py     # glm4_moe模型配置类定义
├── 📄modeling_glm4_moe.py          # glm4_moe模型主体实现
├── 📄modeling_glm4_moe_infer.py    # glm4_moe推理模型实现
└── 📄utils.py                      # glm4_moe工具函数和基础类

并行配置建议

以下配置为推理场景下，不同模型规格的推荐配置。

注意：max_device_memory 在 Atlas 800T A2 和 Atlas 900 A3 SuperPoD 等机器上一般设置≤60GB，在 Atlas 800I A2 上一般设置≤30GB。

• 推理：

模型	规格	设备	卡数	并行配置	内存配置	模型级别
GLM-4.5	355B-A32B	2 × Atlas 800T A2 (8P)	16	parallel_config: data_parallel: 1 model_parallel: 16	context: ... max_device_memory: "59GB"	Validated
GLM-4.5-Air	106B-A12B	1 × Atlas 800T A2 (8P)	8	parallel_config: data_parallel: 1 model_parallel: 8	context: ... max_device_memory: "59GB"	Validated

FAQ

Q1：如果修改了配置中的参数，使用run_mindformer.py拉起任务时，还需要重新传参吗？

A1：根据指导修改配置后，参数值已被修改，无需重复传参，run_mindformer.py会自动读取解析配置中的参数；如果没有修改配置中的参数，则需要在命令中添加参数。

Q2：用户使用同一个服务器拉起多个推理任务时，端口号冲突怎么办？

A2：用户使用同一个服务器拉起多个推理任务时，要注意不能使用相同的端口号，建议将端口号从50000~65536中选取，避免端口号冲突的情况发生。