岗位描述
参与分布式推理系统建设，提供行业领先的LLM/多模态模型解决方案； 针对大语言模型（LLM）等场景，开展端到端推理性能优化，重点降低推理延迟、提升吞吐量； 针对大语言模型（LLM）等场景，开展端到端推理精度分析，提升模型精度； 开发和维护大语言模型（LLM）量化工具等。 本科及以上学历，计算机、电子工程、自动化、数学等相关专业优先； 精通Python/C++； 深入理解LLM或者视觉生成模型框架和原理； 深入理解量化、kvcache、多机多卡并行等加速技术。 加分项： 有GPU/加速卡调优实践经验； 有开源仓库的贡献经验； 参与过LLM或者视觉生成端到端推理优化项目，并实际落地； 有集群部署经验。 注：本岗位设置笔试环节，请留意邮件或短信通知。 岗位职责： 参与分布式推理系统建设，提供行业领先的LLM/多模态模型解决方案； 针对大语言模型（LLM）等场景，开展端到端推理性能优化，重点降低推理延迟、提升吞吐量； 针对大语言模型（LLM）等场景，开展端到端推理精度分析，提升模型精度； 开发和维护大语言模型（LLM）量化工具等。 任职要求： 本科及以上学历，计算机、电子工程、自动化、数学等相关专业优先； 精通Python/C++； 深入理解LLM或者视觉生成模型框架和原理； 深入理解量化、kvcache、多机多卡并行等加速技术。 加分项： 有GPU/加速卡调优实践经验； 有开源仓库的贡献经验； 参与过LLM或者视觉生成端到端推理优化项目，并实际落地； 有集群部署经验。 注：本岗位设置笔试环节，请留意邮件或短信通知。 职位信息 职位名称 职位名称 大模型优化工程师-27届 大模型优化工程师-27届 职位性质 职位性质 全职 全职 职能类型 职能类型 软件类-校招 软件类-校招 工作地点 工作地点 安徽·合肥市 上海市 北京市 安徽·合肥市 上海市 北京市 申请职位 2027届校园招聘允许投递3次，请选择适合的职位进行投递 © 2021-2026 寒武纪 京公网安备 11010802024479号 京ICP备15060035号-3 寒武纪招聘公众号 欢迎关注 欢迎关注 校招内推