岗位描述
岗位职责： 1.分析AI模型性能特征：聚焦主流AI模型（如LLMs、多模态大模型、OCR、ASR等），从计算、通信、仿存、I/O四大维度进行模型分析，并结合硬件架构实现软硬协同，定位性能瓶颈，构建依托自研芯片的模型特征图谱。 2.调研大模型上下游生态技术，包括训练框架、推理框架、评测工具等，筛选和建议适配自身业务优化方向的技术栈； 3.收集不同客户针对不同模型的SLA/SLO要求，比对分析自身产品与主流产品的差异和优劣势，为性能优化提供建设性建议； 4.优化方案设计：结合特征分析结果和硬件架构，提出针对模型训练/推理的计算加速、通信优化、I/O效率提升等优化方案，并推动落地验证； 5.工具链开发与应用：构建自动化性能分析框架，集成PyTorch Profiler等性能分析测试工具，实现端到端的AI模型性能测试与根因定位； 6.协助和推动研发解决训练不稳定、loss spike、幻觉、灾难性遗忘等核心工程难题； 7.制定大模型推理性能、效果、稳定性监控标准，搭建可观测、可迭代的推理优化体系； 8.技术输出：撰写性能分析报告与优化建议，为AI集群设计和优化提供关键数据支持； 1.学历要求：博士学历，人工智能/计算机科学与技术/电子工程/微电子等相关专业； 2.技术能力：深入理解Transformer系列模型计算原理，了解Megatron、DeepSpeed、vLLM、SGLang等AI框架源码级特性； 3.熟悉通用大语言模型、多模态大模型的整体算法架构、技术体系； 4.全面理解AI全链条技术栈，如AI编译，算子，框架，模型应用等； 5.熟练使用AI模型/芯片/集群相关的性能分析工具链，掌握MPI/NCCL通信协议性能调优方法； 6.熟悉大模型混合并行策略（TP/PP/EP）及通信优化技术（如AllReduce算法改进）； 7.具备软件与硬件结合的分析能力，可根据模型特性拆解对硬件系统的需求，通过软硬协同优化性能； 8.具备脚本开发（Python/Bash）或自动化分析工具设计能力，分析模型性能瓶颈，提供优化方向； 职位类别: 校园招聘