岗位描述
1、平台稳定与保障。全面负责大模型推理服务及AI算力平台的稳定性、安全性与连续性,对AI服务SLA负责。2、服务全生命周期管理。主导AI推理服务全生命周期的运维管理,包括GPU容量规划、推理架构演进评审、模型版本变更发布管控、应急预案制定与演练。3、监控应急与改进。建立并持续完善AI推理链路监控体系、故障快速响应机制与问题复盘流程,推动系统性改进。4、协同与故障攻关。作为运维端核心接口,深度协同算法、研发、测试及云厂商,主导大模型推理重大故障排查与性能瓶颈攻关。5、成本优化与智能运维。负责AI推理服务的算力成本分析与优化,推动自动化与智能化运维手段落地,提升运维效率与质量。主动沉淀并完善AI运维知识库,主导制定AI服务运维规范与标准,积极分享经验并赋能团队。 1、教育背景:全日制本科及以上学历,人工智能及计算机科学相关专业。2、工作经历:3年以上开发或运维工作经验,1年以上大模型运维管理经验。3、技能要求:对AI大模型有基础认知,具备大模型实际部署落地经验,具备部署适配、容量规划、整体性能优化能力。熟练运维vLLM、SGLang推理框架,熟悉大模型推理底层运行逻辑,可独立完成调优与问题排查。实操过多种型号GPU,熟悉GPU算力、显存特性,具备GPU集群运维、资源调度与故障排查经验。熟悉阿里云AI相关组件及使用,具备云上AI算力、模型服务运维经验。擅长大模型推理服务稳定性保障、故障定位、容量评估与性能优化,能独立处理显存泄漏、推理超时等线上问题。熟悉主流运维技术栈,包括监控体系、容器化、日志分析,具备AI推理链路监控告警体系建设能力。具备ITIL等IT服务管理体系实践能力,有事件、问题、变更及容量管理的实战经验;具备架构视角与业务感知,能从运维侧驱动AI服务性能优化。4、素质要求:具备优秀的跨团队协作、沟通与文档编写能力,有高度责任感、团队协作精神与服务意识。 交通补贴 通讯补贴 有餐补 年终奖金 员工旅游 带薪病假 带薪年假 五险一金 补充公积金