岗位描述
1、参与大模型训练平台、任务调度系统与 GPU 集群资源管理的设计与建设,支撑大规模预训练与后训练; 2、优化数据并行、张量并行、流水线并行、序列并行等分布式训练方案,设计高可用容错与弹性训练机制; 3、深度分析计算、通信(NCCL/RDMA)、存储与数据加载瓶颈,优化集群利用率、训练吞吐与端到端训练稳定性; 4、开发高性能训 练算子、通信原语与混合精度训练方案,与算法团队协作设计硬件友好的模型结构; 5、建设训练全链路监控、故障自动诊断与研发效率工具,持续提升大模型训练效率与研发体验。