【星火X计划】面向超大尺寸MoE的大EP推理工程优化(J14505)

地点

合肥、北京

团队

词元星火

雇佣形式

全职

招聘类型

校招

尚未披露：薪资、雇主申请截止时间

投递在官方渠道完成，完整外部回执留在本人工作区；已登录时，通过 CLI 明确记录的选择、本人自报投递和渠道观察三类最小事件默认上报平台。浏览或保存岗位不会触发上报，外部投递不会出现在“我的申请”里。

• 本课题聚焦超大规模 MoE 大模型超大专家并行（EP128 以上） 场景下的核心瓶颈，围绕跨节点高带宽通信优化、动态专家负载均衡、多并行维度协同调度三大主线，构建低通信开销、高资源利用率、低尾部延迟的 MoE 分布式推理体系。
• 支撑百专家乃至上千专家规模 MoE 大模型在大规模 GPU 集群高效部署，建立面向线上业务 MoE 分布式推理性能评测体系。

任职要求与期待

• 24-27届硕士及以上学历，人工智能、计算机科学、高性能计算、数学、电子信息等相关专业，其他专业但具备突出工程能力者同样欢迎
• 扎实深度学习、并行计算、分布式系统基础，精通 Transformer 与 MoE 混合专家模型原理，熟悉大模型训练 / 推理分布式并行范式
• 熟练 C/C++ 或 Python
• 熟悉 MoE 路由机制、专家并行 EP、All-to-All 通信、分布式通信原语（NCCL 等）
• 具备分布式系统、高性能网络、调度算法相关背景
• 拥有独立问题建模、理论推导、仿真与大规模实验验证能力，能够搭建分布式评测基线，对标业界前沿并行方案并提出创新解法
• 良好跨团队协作能力，能够协同模型、推理框架、硬件、业务团队推进技术落地；具备较强抗压能力，擅长解决工业大规模集群场景下复杂技术瓶颈

优先条件（非硬门槛）

• 熟悉 PyTorch、vLLM、TensorRT-LLM 等推理框架优先
• 有 MoE 分布式优化、负载均衡、高性能通信相关研究经历优先
• 有大规模 GPU 集群调试经验者优先
• 在 ICLR/NeurIPS/ICML 等顶会发表 MoE、分布式推理、并行优化相关论文优先
• 拥有 MoE 开源项目贡献、分布式推理框架二次开发经验优先