# 大模型训练与推理Infra工程师-MiMo

外部公开机会：不能在 Agent觅聘 内申请，请前往官方渠道投递。

投递在官方渠道完成，完整外部回执留在本人工作区；已登录时，通过 CLI 明确记录的选择、本人自报投递和渠道观察三类最小事件默认上报平台。浏览或保存岗位不会触发上报，外部投递不会出现在“我的申请”里。

- 公司: 小米 MiMo 团队 (阶段未知)
- 地点: 北京
- 职能: 工程开发
- 前往官方投递: https://xiaomi.jobs.f.mioffice.cn/index/position/7446241662216700012/detail

## 雷达摘要（非 JD 全文）

1. 模型训练基础设施开发；- 设计和实现支持大规模分布式训练的计算平台，优化模型训练效率和资源利用率。；- 维护和扩展现有的分布式训练框架，确保平台的高性能和稳定性（如基于 PyTorch、TensorFlow 或 JAX）。；- 集成和优化高性能计算技术（如 CUDA、MPI、NCCL 等）。；2. 模型推理基础设施开发；- 构建高效的推理框架，支持大模型的在线和离线推理需求。；- 优化推理速度、内存占用和能耗，支持多种硬件架构（GPU、NPU等 ）。；- 实现PD分离、Context Caching、模型量化、推敲编码等推理优化技术。；3. 性能监控与优化；- 开发工具链和监控系统，跟踪训练与推理过程的性能瓶颈。；- 分析并优化数据加载、通信效率和硬件利用率等关键环节。；4. 跨团队协作；- 与模型研究团队密切合作，理解模型需求，定制训练和推理策略。；- 支持产品团队的模型部署需求，推动大模型在实际场景中的落地应用。

## 职责与交付物

- 1. 模型训练基础设施开发
- - 设计和实现支持大规模分布式训练的计算平台，优化模型训练效率和资源利用率。
- - 维护和扩展现有的分布式训练框架，确保平台的高性能和稳定性（如基于 PyTorch、TensorFlow 或 JAX）。
- - 集成和优化高性能计算技术（如 CUDA、MPI、NCCL 等）。
- 2. 模型推理基础设施开发
- - 构建高效的推理框架，支持大模型的在线和离线推理需求。
- - 优化推理速度、内存占用和能耗，支持多种硬件架构（GPU、NPU等 ）。
- - 实现PD分离、Context Caching、模型量化、推敲编码等推理优化技术。
- 3. 性能监控与优化
- - 开发工具链和监控系统，跟踪训练与推理过程的性能瓶颈。
- - 分析并优化数据加载、通信效率和硬件利用率等关键环节。
- 4. 跨团队协作
- - 与模型研究团队密切合作，理解模型需求，定制训练和推理策略。
- - 支持产品团队的模型部署需求，推动大模型在实际场景中的落地应用。

## 任职要求

- - 计算机科学、软件工程、机器学习或相关领域的本科及以上学历，
- - 深入理解深度学习原理和分布式训练框架（如 Horovod、DeepSpeed、Ray 等）。
- - 熟练掌握至少一种主流深度学习框架（如 PyTorch、TensorFlow 或 JAX）。
- - 熟悉高性能计算技术（CUDA、NCCL、cuDNN 等）及硬件架构（GPU、NPU 等）。
- - 具有扎实的编程能力，精通 Python 和至少一种系统级编程语言（如 C++）。

## 加分项

- 硕士或博士优先。
- - 有参与或主导过大规模模型（如 Transformer、大语言模型）的训练和部署经验。
- - 熟悉模型优化技术（如混合精度训练、剪枝、量化等）。
- - 对云计算和容器化技术（如 Kubernetes、Docker、Terraform）有实际经验。
- - 对新兴 AI 硬件（如 H卡）有实操经验。
- - 具备优秀的系统设计和性能调优能力。

## 申请方式

- https://xiaomi.jobs.f.mioffice.cn/index/position/7446241662216700012/detail
- 打开该精确官方岗位详情；决定申请时在官方页面确认岗位仍开放，并依官方页面要求继续。

---
opening_id: e77fb4e3-474c-4571-af35-3dee0fac42c8

`anm openings save --id e77fb4e3-474c-4571-af35-3dee0fac42c8`