训推平台开发工程师

职责: 1.训推平台建设：负责大模型训推一体化平台的架构设计与核心开发，实现任务全生命周期管理，保障系统高性能、高可用及高扩展性。 2.GPU集群调度：基于 Kubernetes 构建大规模 GPU 集群调度系统，优化资源分配、任务排队与优先级策略，最大化集群资源利用率。 3.推理服务治理：建设模型服务化体系，实现负载均衡、流量调度、模型热加载及多级缓存，确保高并发场景下的服务 SLA。