【星火X计划】面向超大尺寸MoE的大EP推理工程优化(J14505)

Locations

合肥, 北京

Team

词元星火

Employment

Full-time

Track

Campus

Not disclosed: Salary, Employer application deadline

Apply through the official channel. The full external receipt stays in your workspace. When signed in, three minimal event types explicitly recorded through the CLI are reported by default: selection, self-reported application and channel observation. Browsing or saving a role does not report an event; external applications do not appear under My applications.

• 本课题聚焦超大规模 MoE 大模型超大专家并行（EP128 以上） 场景下的核心瓶颈，围绕跨节点高带宽通信优化、动态专家负载均衡、多并行维度协同调度三大主线，构建低通信开销、高资源利用率、低尾部延迟的 MoE 分布式推理体系。
• 支撑百专家乃至上千专家规模 MoE 大模型在大规模 GPU 集群高效部署，建立面向线上业务 MoE 分布式推理性能评测体系。

Qualifications and expectations

• 24-27届硕士及以上学历，人工智能、计算机科学、高性能计算、数学、电子信息等相关专业，其他专业但具备突出工程能力者同样欢迎
• 扎实深度学习、并行计算、分布式系统基础，精通 Transformer 与 MoE 混合专家模型原理，熟悉大模型训练 / 推理分布式并行范式
• 熟练 C/C++ 或 Python
• 熟悉 MoE 路由机制、专家并行 EP、All-to-All 通信、分布式通信原语（NCCL 等）
• 具备分布式系统、高性能网络、调度算法相关背景
• 拥有独立问题建模、理论推导、仿真与大规模实验验证能力，能够搭建分布式评测基线，对标业界前沿并行方案并提出创新解法
• 良好跨团队协作能力，能够协同模型、推理框架、硬件、业务团队推进技术落地；具备较强抗压能力，擅长解决工业大规模集群场景下复杂技术瓶颈

Preferred qualifications (not mandatory)

• 熟悉 PyTorch、vLLM、TensorRT-LLM 等推理框架优先
• 有 MoE 分布式优化、负载均衡、高性能通信相关研究经历优先
• 有大规模 GPU 集群调试经验者优先
• 在 ICLR/NeurIPS/ICML 等顶会发表 MoE、分布式推理、并行优化相关论文优先
• 拥有 MoE 开源项目贡献、分布式推理框架二次开发经验优先