岗位描述
1. 模型推理服务优化: * 负责大语言模型(LLM)推理性能的优化,包括延迟降低、吞吐量提升和资源效率优化 * 开发和应用模型压缩技术(包括但不限于量化、稀疏化等) * 优化推理框架,支持多种硬件平台(GPU、专用AI芯片) * 设计并实现高效、稳定、可扩展的推理服务架构 2. 性能分析与调优: * 建立性能基准测试框架,持续监控和评估推理性能 * 分析性能瓶颈,提出并实施优化方案 * 针对不同应用场景(实时对话、批量处理等)定制优化策略 3. 技术创新与落地: * 跟踪最新研究成果,将前沿优化技术应用到生产环境 * 与算法团队合作,参与模型架构的推理友好设计 * 编写高质量的技术文档和最佳实践指南 1.必备条件:; 2.计算机、软件工程、人工智能等相关专业本科及以上学历; 3.扎实的 C++/Python 基础; 4.熟悉 PyTorch 或 JAX 等深度学习框架,了解模型训练与推理流程; 5.有 CUDA 编程或 GPU 性能调优经验,能使用 Nsight 等工具做 profiling; 6.了解常见 LLM 架构(如 Transformer、Attention、KV Cache)及推理优化思路; 7.具备良好的沟通与文档能力,能独立负责模块设计与实现。 加分项 1.有SGlang、vLLM、TensorRT-LLM 等推理框架二次开发优化经验; 2.熟悉 AWQ/GPTQ/Speculative Decoding/Sparse Attention等推理优化方案,并有实际落地案例; 3.有大规模分布式推理、多机多卡部署与调度经验; 4.熟悉 Triton、cuBLAS、CUTLASS 等 GPU 编程与算子优化; 5.在 LLM 推理、编译器(如 TVM、XLA)、或高性能计算方向有论文或开源贡献。 申请岗位 申请岗位 相关推荐岗位 微信搜索-AI Infra 工程师-大模型推理方向 (深圳)(广州) 北京 WXG 技术 一年以上工作经验 更新于2026年11月16日 1.工作职责:; 2.负责开发和优化LLM,VLM等大模型的推理引擎,构建适合AI Search,智能 Agent相关领域大规落地应用中的推理基础架构; 3.紧跟 LLM Infra 领域的前沿技术演进突破,将合适成果落地于实际应用; 4.与搜索算法同学深度合作,联合优化,设计实现能够给大型搜索系统带来代际更迭的大模型。 分享 分享岗位 方式1:复制岗位链接 点击复制 方式2:分享岗位海报 手机扫描二维码分享 收藏 微信-AI Infra工程师-大模型推理方向 北京 WXG 技术 不限 更新于2026年11月13日 1.配合算法工程师,推动深度学习相关算法的落地,打造高吞吐、低延时的推理系统; 2.优化大模型推理性能,提升吞吐并控制成本; 3.优化大模型推理框架,提升框架易用性和可调试性。 分享 分享岗位 方式1:复制岗位链接 点击复制 方式2:分享岗位海报 手机扫描二维码分享 收藏 微信WeLM-大模型研发基础设施工程师-研发效能方向(深圳、上海、广州) 北京 WXG 技术 两年以上工作经验 更新于2026年11月02日 1.面向研发迭代过程中的典型负载优化调度、路由、部署策略,优化系统吞吐和稳定性; 2.建设并运营面向模型研发的沙箱 CPU 集群与工具执行环境,负责环境隔离、任务编排、资源调度与运行治理,保障评估和实验任务稳定执行; 3.建设并运营 GPU 集群、Kubernetes 和数据系统,提升资源利用率、任务吞吐和端到端研发效率; 4.负责研发生产系统的 SLA、可观测性与故障恢复,定位性能瓶颈和异常波动,保障关键任务与评估结果稳定、可复现、可诊断; 5.与算法、评估和推理基础设施团队共同定义真实研发负载,持续演进面向前沿模型迭代的系统能力。 分享 分享岗位 方式1:复制岗位链接 点击复制 方式2:分享岗位海报 手机扫描二维码分享 收藏 微信基础-大模型应用开发工程师 北京 WXG 技术 不限 更新于2026年10月22日 1.负责微信生态内大模型智能应用的后端架构设计与核心系统开发; 2.设计和实现高性能、高可用的Agent系统、长上下文对话引擎及多模态交互管道,支撑亿级用户的高并发、低延迟访问; 3.探索和落地大模型领域的先进工程实践,包括但不限于智能体(Agent)工作流、模型微调、推理优化与成本管控,持续提升产品智能化水平与用户体验。 分享 分享岗位 方式1:复制岗位链接 点击复制 方式2:分享岗位海报 手机扫描二维码分享 收藏 微信-WeLM 大模型 RL 环境构建研发工程师(深圳、上海) 北京 WXG 技术 两年以上工作经验 更新于2026年10月20日 1.环境沙箱构建:设计并实现支持 RL环境 执行代码、操作 API 或进行多步推理的隔离沙箱环境(基于 Docker, WebAssembly 或 VM); 2.交互协议定义:优化 RL 训练与环境之间的 Observation/Action 循环,提升工具调用的准确率; 3.自动化评价体系:构建针对特定场景(如数据分析、自动化办公、软件工程)的评测基座(Benchmark),客观衡量执行成功率; 4.前沿技术探索:研究如何通过环境反馈(Environment Feedback)进行强化学习(RLHF/RLAIF),加速模型的迭代进化。 分享 分享岗位 方式1:复制岗位链接 点击复制 方式2:分享岗位海报 手机扫描二维码分享 收藏 微信搜索-AI Infra 工程师-大模型推理方向(深圳)(广州) 北京 WXG 技术 一年以上工作经验 更新于2026年10月13日 1.负责开发和优化LLM,VLM等大模型的推理引擎,构建适合AI Search,智能 Agent相关领域大规落地应用中的推理基础架构; 2.紧跟 LLM Infra 领域的前沿技术演进突破,将合适成果落地于实际应用; 3.与搜索算法同学深度合作,联合优化,设计实现能够给大型搜索系统带来代际更迭的大模型。 分享 分享岗位 方式1:复制岗位链接 点击复制 方式2:分享岗位海报 手机扫描二维码分享 收藏 微信-后台开发工程师-AI语音/模型服务方向 北京 WXG 技术 不限 更新于2026年11月16日 1.负责 ASR、实时语音对话等 AI 语音能力的服务端研发与工程落地; 2.负责语音模型的部署、服务接入、上线发布、压测调优和稳定性保障; 3.优化语音服务核心链路,包括请求编排、资源调度、推理性能、异常恢复和链路监控; 4.配合算法团队推进模型工程化,承接模型从离线实验到在线服务的落地工作; 5.负责语音系统相关平台能力建设,包括评测、日志、数据回流、质量监控与问题闭环; 6.支撑线上复杂问题排查,持续提升系统的吞吐、时延、可用性和迭代效率。 分享 分享岗位 方式1:复制岗位链接 点击复制 方式2:分享岗位海报 手机扫描二维码分享 收藏 查看更多 事业群介绍 微信事业群 微信事业群负责搭建和运营微信生态体系,为全球超过13亿用户提供便捷的社交生活方式,也为各行各业的智慧化升级提供解决方案和连接能力。事业群所负责的业务包含而不限于:微信基础通讯、公众号、小程序、视频号、微信支付、企业微信、微信搜索、微信游戏、QQ邮箱、微信读书、微信键盘、秒剪等产品或功能。 关注腾讯招聘 复制链接 点击跳转 公司 关于腾讯 腾讯公益 客服中心 法律信息 服务协议