岗位描述
岗位职责 1. MaaS 平台建设 ● 负责 MaaS 平台整体架构设计与核心模块开发; ● 建设统一模型 API Gateway,支持不同模型供应商和不同模型的统一接入; ● 支持 LLM、ASR、翻译、多模态等模型能力的统一服务化。 2. 模型供给与调度 ● 接入国内外主流模型及第三方模型服务; ● 建设模型路由、负载均衡、故障切换、限流和熔断能力; ● 根据价格、性能、稳定性动态选择模型供给。 3. 稳定性与高并发 ● 保障平台高并发、高可用和低延迟; ● 建设模型调用监控、告警、日志和 SLA 体系; ● 解决模型调用中的超时、限流、账号异常、供应商故障等问题。 4. 成本优化 ● 建立模型调用成本分析和核算体系; ● 持续优化 Token、GPU、API 调用等成本; ● 通过多供应商调度、缓存、模型分级等方式降低整体模型成本。 5. 平台产品化 ● 建设计费、配额、API Key、用户权限等平台能力; ● 支持内部业务和外部客户快速接入; ● 推动 MaaS 平台从内部基础设施逐步演进为可商业化的平台产品。