岗位描述
工作职责：1.参与分布式大模型训练任务的通信优化，包括NCCL\HCCL等集合通信库的研发和测试；2.参与分布式训练任务中的通信性能分析，识别性能瓶颈，解决高并发、高可靠和高可扩展等需求；3.参与分布式大模型推理任务的通信优化，包括RPC通信库的研发和测试；4.参与大模型训练和推理系统的通信相关前瞻技术分析和导入，如超节点与光互联技术，并与算法框架联合优化。工作要求：1.高 性能计算、计算机体系结构、分布式系统或人工智能相关专业本科或研究生在读；2.良好的技术沟通及协作能力；3.优秀的代码功底，编程能力和数据结构基础扎实，熟练掌握Python、C/C++，RDMA，具备系统开发落地能力;4.熟悉NVIDAI NCCL库、PyTorch Distributed相关通信原语以及MPI通信原语等。