如约见 · 技术研发 · 算法/AI

服务器运维工程师(大模型部署与运维方向)(J15153)

转转 · 北京 · 薪资面议 · 更新于 2026/11/12

任职要求

经验:3年以上学历:本科及以上

岗位描述

一.岗位概述 公司即将采购服务器并建设本地大模型运行环境,重点部署国产开源/可私有化大模型(如 DeepSeek、Qwen、Kimi 系列等)。现招聘若干名服务器运维工程师,作为大模型基础设施运维核心成员,负责服务器到货后的环境搭建、模型部署、外部技术对接、日常运维与内部使用支持,保障 2~3 个大模型稳定上线并服务公司内部业务。 二、岗位职责 1. 参与服务器采购后的技术评估、到货验收、上架规划、系统安装、网络配置、存储挂载及基础环境初始化。 2. 负责 GPU/CPU 服务器基础环境建设,包括 GPU 驱动、CUDA、cuDNN、NCCL、容器运行时、Docker、Kubernetes 等安装与维护。 3. 牵头对接外部技术团队、供应商、开源社区或合作方,完成 2~3 个国产开源大模型(如 DeepSeek、Qwen、Kimi 等)的本地化部署、推理服务上线、API 封装与内部接入。 4. 负责大模型推理服务的日常运维,包括服务启停、版本更新、模型切换、日志管理、监控告警、故障排查与恢复。 5. 监控 GPU 利用率、显存、温度、推理延迟、吞吐量、并发能力等关键指标,持续优化推理性能与资源利用率。 6. 负责模型量化、推理加速、批处理、并行策略等优化工作,熟悉 vLLM、SGLang、Ollama、llama.cpp、Xinference、TGI 等至少一种推理框架。 7. 为公司内部用户提供账号权限、访问控制、使用文档、操作培训及日常问题响应,推动大模型在内部落地使用。 8. 负责数据安全、网络隔离、访问审计、备份恢复、漏洞修复等运维安全工作,确保模型与数据合规可控。 9. 编写和维护运维文档、部署手册、故障处理 SOP,推动自动化运维与标准化流程建设。 10. 与算法、业务、采购、网络、安全等团队协作,保障大模型平台稳定、高效、可持续运行。 三、 1. 本科及以上学历,计算机、网络、电子、通信等相关专业,3 年以上运维经验,有 AI/GPU 集群或大模型部署经验者优先。 2. 熟悉 Linux 系统(Ubuntu、CentOS、openEuler、麒麟、统信 UOS 等),具备 Shell/Python 脚本能力。 3. 熟悉服务器硬件、RAID、网络、存储(NFS、Ceph、分布式存储等)及常见故障排查。 4. 熟悉 NVIDIA GPU 环境,掌握驱动、CUDA、cuDNN、NCCL 等配置;了解昇腾、海光、寒武纪、摩尔线程等国产 AI 芯片者优先。 5. 熟悉 Docker、Kubernetes、Helm、GPU Operator 等容器化与编排技术,具备 GPU 调度经验者优先。 6. 熟悉至少一种大模型推理/部署框架,如 vLLM、SGLang、TensorRT-LLM、TGI、Ollama、llama.cpp、Xinference、FastChat 等。 7. 了解国产开源模型生态,熟悉 DeepSeek、Qwen、Kimi、GLM、InternLM 等模型的下载、转换、量化、部署与 API 接入。 8. 熟悉 Prometheus、Grafana、DCGM、ELK/Loki、Zabbix 等监控日志工具。 9. 具备较强的问题排查能力,能处理 GPU 掉卡、驱动异常、OOM、NCCL 通信失败、推理服务崩溃等常见问题。 10. 具备良好的沟通协调能力、文档沉淀能力和主动推进意识,能牵头外部技术对接并推动项目交付。 四、加分项 1. 有从 0 到 1 搭建 GPU 集群或大模型私有化平台的经验。 2. 熟悉 One-API、Open WebUI、Dify、LangChain、RAG、向量数据库等大模型应用生态。 3. 有模型微调、蒸馏、量化、推理优化经验。 4. 有信创环境适配经验,如麒麟、统信、openEuler、鲲鹏、昇腾等。 5. 有 K8s GPU 调度、Volcano、Ray、KubeSphere、Rancher 等经验。 6. 有开源社区贡献或技术博客输出者优先。 职位类别: 社会招聘

转转其他在招岗位

同类在招岗位(技术研发)

岗位信息来自企业官方招聘渠道(b3-zhuanzhuan),由如约见每日自动同步; 如已下架可前往职位雷达用 AI 匹配相似岗位,或浏览招聘岗位大全。