推理引擎工程师(J14427)

Locations

西安

Team

模型推理引擎

Track

Campus

Salary

面议（具体薪资区间未披露）

Not disclosed: Employment, Employer application deadline

Apply through the official channel. The full external receipt stays in your workspace. When signed in, three minimal event types explicitly recorded through the CLI are reported by default: selection, self-reported application and channel observation. Browsing or saving a role does not report an event; external applications do not appear under My applications.

• 负责模型推理引擎的设计与研发，将算法团队交付的 Python 模型代码与模型权重（深度学习模型、小尺寸大语言模型）工程化封装为高性能 C++ 推理库与服务，支撑端云多场景部署与产品集成
• 负责模型转换、算子适配与推理性能优化（量化压缩、计算图优化、显存管理、批处理调度），保障工程实现与算法原型的精度对齐，达成时延、吞吐、成本目标，跟进问题闭环
• 参与面向 30B 级 MoE 大语言模型与多模态模型的下一代推理引擎预研（专家并行、KV Cache 管理、投机解码、多模态编码器融合等），应用 AI 工具赋能研发，提升工程效能。

Qualifications and expectations

• 学历专业：计算机、软件工程、人工智能、电子信息、数学等相关专业本科及以上。
• 专业基础：具备扎实的 C++ 功底（现代 C++、内存管理、多线程与并发），熟悉 Python 及 C++/Python 混合编程的基本方式（如 pybind11）；理解深度学习基础原理（Transformer 结构、前向计算流程），了解模型推理的基本概念（算子、计算图、量化、KV Cache），具备性能与精度问题分析的基础能力。
• 掌握 AI 编程工具在研发中的应用，能够借助 AI 辅助编写代码、分析性能数据、协助问题排查。
• 综合素质：具备性能剖析与精度对齐问题的分析、定位和复盘能力（会使用 profiler 定位热点，能排查工程实现与原型间的数值差异），逻辑清晰；重视工程质量与交付稳定性，做事严谨细心，能够独立承担模块级设计、开发与交付。
• 学习与创新能力：对推理加速、MoE 与多模态模型部署、端侧推理等方向感兴趣，主动追踪论文与开源社区前沿进展，愿意持续学习新技术；具备良好跨团队沟通能力，可配合算法研究员完成模型从原型到量产的落地。
• 职业素养：对 AI 基础软件与极致性能优化有热情，认同推理引擎作为模型能力落地核心载体的价值，乐于尝试新的技术思路，参与推理引擎体系与工具链建设。

Preferred qualifications (not mandatory)

• 核心能力与经验：有 ONNX Runtime/TensorRT/llama.cpp/vLLM 等推理框架的使用或源码阅读经历，或 CUDA/SIMD 性能优化、模型量化部署相关的课程项目、竞赛、开源贡献、实习经历者优先