岗位描述
【团队介绍】 GLM 团队是国内最早从事大模型预训练的团队之一,在 2022 年就完成了千亿模型 GLM-130B 的预训练;GLM-4 在文本上的通用能力已经达到了国际第一梯队的水准;25年7月发布的GLM-4.5 首次在单个模型中实现将推理、编码和智能体能力原生融合,以满足智能体应用的复杂需求,取得了全球模型第三、国产模型第一,开源模型第一的成绩。团队具有充沛的计算资源,可以支持预 训练方面的探索。 【职位描述】 1. 负责预训练数据的构建,包括领域分类、质量筛选、配比调整等; 2. 负责语言模型结构探索,包括高效的attention结构、降低部署成本的moe架构等; 3. 负责新的预训练scaling范式探索,包括预训练与RL的结合、可扩展的预训练数据合成方法等。