岗位描述
我们正在建设企业级 AI Agent Infra（Agent 基础设施平台），目标是将 Agent 的运行、编排、工具、记忆、安全等通用能力平台化，降低业务构建 Agent 的成本。 作为 Agent Infra 平台工程师，您将参与大模型接入、能力编排、性能优化、Agent 通用能力、评估体系建设以及成本管理等全链路工作，与 AI 应用、平台和基础设施团队协作，推动 Agent 能力从实验走向可复用、可治 理的 Agent 工程体系。 主要职责 1. 负责 AIGW（AI Gateway）的大模型接入、路由、限流、监控、运维体系建设与优化。 2. 实现并维护与主流大模型服务（OpenAI、Anthropic、Gemini、DeepSeek 等）的 API 集成体系。 2. 参与大模型能力评估：效果评测、推理性能优化、模型选型对比、成本分析与优化。 3. 构建并维护 LLM 应用相关的工具链，包括 Prompt 模板管理、RAG 访问层、评测框架。 4. 优化模型调用策略（缓存、多模型路由、降级策略、并发调度）。 5. 支持业务团队落地 AI 应用，协助完成模型选型、评估、接入、调试与规范化接入。 6. 编写并维护平台技术文档、接入文档、最佳实践与标准。 7. 持续跟进生成式 AI、Agent、MCP、模型加速等领域的最新进展并应用于平台。