岗位描述
大模型算法适配与优化:参与主流大模型(如Llama、GPT等)在国产芯片上的算法适配和性能调优,包括模型结构优化、算子优化等; 推理与训练工程优化:对大模型的推理和训练过程进行工程化优化,提升性能、降低资源消耗,包括但不限于模型量化、剪枝、蒸馏等技术的应用; 国产芯片适配:大模型推理、训练框架(如Megatron、DeepSpeed等)在国产芯片上的适配与优化,解决兼容性问题,充分发挥硬件 性能; 微调工具链开发:根据不同行业场景需求,设计并实现高效的大模型微调工具链,包括数据预处理、参数配置、效果评估等功能模块; 技术方案设计与评估:参与大模型相关技术方案的制定,进行技术可行性评估和性能测试,撰写技术文档。