【星火X计划-实习】大规模集群下超大尺寸模型推理性能极致优化(J14615)

Locations

合肥, 北京

Team

词元星火

Employment

Internship

Track

Internship

Not disclosed: Salary, Employer application deadline

Apply through the official channel. The full external receipt stays in your workspace. When signed in, three minimal event types explicitly recorded through the CLI are reported by default: selection, self-reported application and channel observation. Browsing or saving a role does not report an event; external applications do not appear under My applications.

• 基于国产异构算力芯片构建大规模、高性能的分布式推理集群
• 围绕多级 KVCache、实时动态计算调度、弹性异构基础设施等核心任务
• 打造行业领先的国产推理算力集群
• 支撑下一代高吞吐、低成本、普惠化的大模型服务基础设施建设

Qualifications and expectations

• 28届及以后毕业的硕士及以上学历；具备扎实系统基础、优秀学习能力或突出工程实践能力者同样欢迎
• 熟练掌握C++、Python、Go等至少一种语言，具备大型工程项目开发能力，能够完成良好实现与性能优化
• 对KVCache系统有深入理解，具备KV存储、压缩、传输、缓存复用等性能优化实践；熟悉RDMA、SSD/HDD存储体系，熟悉Mooncake或同类型项目
• 熟悉云原生及分布式系统架构，掌握容器编排、服务治理、负载均衡、分布式故障定位及系统性能优化方法
• 具备优秀的工程意识和系统设计能力，能够针对复杂技术问题从第一性原理出发进行分析，建立体系化解决方案，并推动端到端闭环

Preferred qualifications (not mandatory)

• 计算机、软件工程、数学及相关专业优先
• 对分布式推理集群的设计、研发有比较深入的理解，具有大规模高性能系统设计或研发经验
• 在大型开源软件中有深度贡献，或有优秀个人开源项目