岗位描述
1. 负责将客户常见智能辅助驾驶算法模型(CNN,Transformer,LLM/VLM/VLA模型)部署到公司大算力芯片平台,解决部署过程中涉及的算子不支持、精度不正确, 规格不匹配等问题。 2. 运用性能分析工具对模型进行全栈性能剖析,识别计算、内存、调度瓶颈,通过图融合、算子替换、内存优化以及其他软硬件优化技术,提升推理速度和吞吐量。 3. 配合客户实施PTQ量化方案,定位并解决量 化或其他过程引入的精度损失问题。 4. 系统性地诊断并解决单模型部署和多模型并发场景下的稳定性问题。深入定位Core Dump / Crash的根本原因(内存越界、资源竞争等)并推动解决。 5. 理解客户需求,提供部署、性能调优方案和建议。建设并维护车载/机器人场景 Model Zoo,输出最佳实践案例文档,降低客户使用门槛。