岗位描述
1. 根据真实业务和研究问题搭建评测场景,还原任务链路、执行条件、输入输出和完成标准。 2. 实现和维护场景所需的环境、数据、工具、MCP 接口、harness、评估器和模型适配,并管理其版本与依赖。 3. 建设评测运行能力,支持任务编排、沙盒隔离、资源调度、超时控制、失败重试和批量运行。 4. 统一记录模型请求、运行参数、执行轨迹、工具调用、日志、指标、reward 和评测产物,支持回放与复现。 5. 建设统一的模型对照和榜单管理能力,保证不同模型、版本和工作流能够在明确的控制条件下比较。 6. 建立评测工程的稳定性和维护机制,支持回归检测、场景变更影响 追踪和运行问题定位。