【校招】大模型训推系统产品经理-系统平台中心

系统平台中心|正式|系统/工程类|上海

2026-09-22

岗位职责
1.平台核心功能设计与迭代:负责 MaaS 推理服务平台的产品规划与全生命周期管理,涵盖模型接入、高并发在线推理、API 网关治理、批处理推理、自动化部署运维及计费计量等核心模块。
2.性能、成本与体验打磨:深度理解大模型推理关键性能指标(TTFT、TPS、吞吐量、并发度、长上下文延时等),配合底层系统与算法团队,围绕推理加速、显存/算力利用率提升与成本优化,设计面向开发者与企业的高可用、低延时服务体系。
3.开发者体验与开放生态建设:负责模型 API 标准化接口设计(如兼容主流规范)、SDK 及开发者控制台(Web UI)的产品规划;完善开发者文档、快速上手指南及错误码体系,打造极致顺畅的开发者调用与接入体验。
4.技术需求挖掘与协同推进:深入实验室内部科研团队及外部典型企业应用场景,挖掘模型落地推理过程中的工程痛点(如超长上下文推理、多模态部署等),撰写严谨规范的产品需求文档(PRD),协同系统研发与测试团队确保功能高质量上线。
5.前沿技术与竞品洞察:持续追踪全球主流 MaaS 平台(如 Together AI、Groq、Fireworks、Azure OpenAI 等)及开源推理引擎与调度框架的演进动态,输出竞品分析与产品演进建议。
岗位要求
1.教育背景:计算机、人工智能、软件工程、电子通信等理工科相关专业。
2.专业认知:
-对大模型技术栈及产业现状有清晰认知,了解常见大语言模型(LLM)的推理与部署基本原理;
-熟悉大模型 API 的常见调用方式与核心指标(如 Prompt/Completion Tokens、首字延迟、吞吐等),有实际调用或搭建大模型应用的经验。
3.技术型产品素养:
-具备出色的抽象思维与逻辑梳理能力,能将复杂的系统架构、性能优化逻辑转化为结构化的产品能力与标准化 API;
-熟练掌握产品需求拆解方法,能高质量输出清晰的技术向 PRD 与原型设计。
4.动手能力与工程经验:
-具备基础的编程/脚本能力(如 Python、Shell),能使用 Postman/curl 进行 API 调试;
-了解主流推理加速框架(如 vLLM、TensorRT-LLM、TGI、SGLang 等)或熟悉云原生基础设施(Docker、K8s)者优先;
-有知名云计算、AI Lab 或大模型 Infra 平台相关产品/研发实习经历者优先。
5.软性素质:自驱力强,具备敏锐的技术好奇心;优秀的跨团队沟通与推动能力;具备良好的英文技术文献与产品文档阅读能力。

上海市徐汇区龙文路129号
国际传媒港L1楼

联系我们
comm@pjlab.org.cn