岗位描述
大规模分布式训练系统架构与优化：负责设计、搭建和维护千卡级别的高性能分布式训练集群。深入优化分布式训练框架（如DeepSpeed、Megatron-LM、PyTorch DDP/FSDP），解决大规模训练中的计算、通信、存储瓶颈问题，提升训练效率与稳定性。 模型训练全流程管理：主导从数据预处理、模型加载、训练启动、监控告警到Checkpoint保存与恢复的全流程。针对训练过程中出现 的Loss异常、梯度爆炸/消失、模型不收敛等问题进行快速定位与修复。 硬件与算力适配：针对GPU计算芯片进行底层算子优化、通信库调优（如NCCL），最大化硬件利用率。 训练框架与工具链开发：开发或改进内部训练框架、任务调度系统、资源管理系统和自动化运维工具，提升团队研发效率。参与开源社区（如PyTorch、TensorFlow）的贡献，保持技术领先性。 前沿技术探索与落地：跟踪并研究MoE（混合专家模型）、序列并行、张量并行、流水线并行、重计算、ZeRO优化等前沿技术，并将其工程化落地到实际训练任务中，持续降低训练成本、缩短训练周期。