岗位描述
1、作为团队核心工程师，主导运动健康垂类大模型推理服务平台的从0到1建设，独立负责从架构设计、性能优化到线上稳定性的完整技术链路； 2、设计并开发多模型统一接入网关，实现基于业务场景的智能路由、负载均衡与降级熔断策略； 3、负责 Context / KV Cache 管理与 Prefix 复用优化，支撑上层 Agent 场景的高效、低成本落地； 4、构建完整的推理服务可观测性体系，覆盖延迟监控、请求全链路 trace、成本归因与告警； 5、基于 vLLM / SGLang 等推理框架持续优化服务性能，探索 Prefix Caching、Speculative Decoding、量化部署等加速方案； 6、支撑 SLM / LLM / VLM 等多种模型形态的部署，管理 GPU 资源利用率与服务成本； 7、与算法研究员紧密协作，打通模型从训练产出到线上服务的完整链路； 8、跟进推理服务与大模型部署领域前沿进展，推动架构持续迭代。 1、计算机相关专业本科及以上，3年以上后端或AI工程开发经验，熟练Python，熟悉Linux环境； 2、有大模型推理服务或AI平台实际落地经验，做过多模型接入、稳定性保障、成本管控等工程工作； 3、熟悉分布式系统与微服务架构，有Docker/K8s实战经验； 4、熟悉主流推理框架（vLLM/SGLang/TensorRT等）及核心机制（KV Cache、PagedAttention等），了解PyTorch、主流模型架构； 5、有推理加速深度实践经验（Prefix Caching、Speculative Decoding、量化），或Agent/RAG工程落地经验者优先； 6、对健身、跑步、运动健康领域有理解或兴趣者优先。