Skip to content

AI Engineering

【星火X计划】大规模集群下超大尺寸模型推理性能极致优化(J14503)

工程职责直接针对大模型推理服务基础设施与性能/成本/可靠性指标,适合区分模型Infra方向。

Key conditions

Locations
合肥, 北京
Employment
Full-time
Track
Campus

Not disclosed: Team, Salary, Employer application deadline

Application path and records

Apply through the official channel. The full external receipt stays in your workspace. When signed in, three minimal event types explicitly recorded through the CLI are reported by default: selection, self-reported application and channel observation. Browsing or saving a role does not report an event; external applications do not appear under My applications.

What you will work on

  • 为超大模型API服务建设基于国产异构算力的大规模分布式推理集群,优化多级KVCache、动态调度、异构基础设施、延迟、成本和可靠性。

Experience and skills

Qualifications and expectations

  • 面向24–27届硕士及以上毕业生
  • 至少掌握C++/Python/Go等一种语言并具大型工程开发及性能优化能力
  • 深入理解KVCache并有缓存/存储/传输/压缩等优化实践,熟悉存储体系与Mooncake类项目
  • 熟悉云原生、分布式架构、容器、服务治理、负载均衡和故障定位/性能优化
  • 具备工程意识、系统设计和端到端问题闭环能力
  • 熟悉RDMA、SSD/HDD存储体系及Mooncake或同类型项目

Preferred qualifications (not mandatory)

  • 相关专业优先;系统基础、学习能力或工程实践突出者同样欢迎
  • 分布式推理集群研发或大型高性能系统研发经验
  • 大型开源项目深度贡献或优秀个人开源项目

ABOUT THE COMPANY / TEAM

科大讯飞(星火与AI应用/平台团队)

Listed company

讯飞星火、Agent应用与运行平台、智能办公和大模型推理基础设施

Why we follow it

兼有大型AI产品平台和明确应用岗位,从本科AI全栈/产品到硕士Agent Harness及推理工程,提供不同深度的AI开发路径。

AI business and adoption

成熟人工智能企业,本批限定星火Agent、模型推理及具名AI应用工程/产品岗位;不将一般业务研发纳入。

2026半年报:公司收入116.23亿元、同比增长6.52%,研发投入30.07亿元、增长25.73%;开放平台收入37.05亿元、增长36.01%。上述为公司及分产品财务口径,不是精选团队的收入或规模。

Company website ↗

Other open jobs at this company