跳到正文

AI开发

推理引擎工程师(J14427)

将模型工程化为高性能推理库与服务,承担模型转换、算子适配、量化和性能优化。

先看关键条件

地点
西安
团队
模型推理引擎
招聘类型
校招
薪资
面议(具体薪资区间未披露)

尚未披露:雇佣形式、雇主申请截止时间

申请路径与记录

投递在官方渠道完成,完整外部回执留在本人工作区;已登录时,通过 CLI 明确记录的选择、本人自报投递和渠道观察三类最小事件默认上报平台。浏览或保存岗位不会触发上报,外部投递不会出现在“我的申请”里。

你会做什么

  • 负责模型推理引擎的设计与研发,将算法团队交付的 Python 模型代码与模型权重(深度学习模型、小尺寸大语言模型)工程化封装为高性能 C++ 推理库与服务,支撑端云多场景部署与产品集成
  • 负责模型转换、算子适配与推理性能优化(量化压缩、计算图优化、显存管理、批处理调度),保障工程实现与算法原型的精度对齐,达成时延、吞吐、成本目标,跟进问题闭环
  • 参与面向 30B 级 MoE 大语言模型与多模态模型的下一代推理引擎预研(专家并行、KV Cache 管理、投机解码、多模态编码器融合等),应用 AI 工具赋能研发,提升工程效能。

需要怎样的经验

任职要求与期待

  • 学历专业:计算机、软件工程、人工智能、电子信息、数学等相关专业本科及以上。
  • 专业基础:具备扎实的 C++ 功底(现代 C++、内存管理、多线程与并发),熟悉 Python 及 C++/Python 混合编程的基本方式(如 pybind11);理解深度学习基础原理(Transformer 结构、前向计算流程),了解模型推理的基本概念(算子、计算图、量化、KV Cache),具备性能与精度问题分析的基础能力。
  • 掌握 AI 编程工具在研发中的应用,能够借助 AI 辅助编写代码、分析性能数据、协助问题排查。
  • 综合素质:具备性能剖析与精度对齐问题的分析、定位和复盘能力(会使用 profiler 定位热点,能排查工程实现与原型间的数值差异),逻辑清晰;重视工程质量与交付稳定性,做事严谨细心,能够独立承担模块级设计、开发与交付。
  • 学习与创新能力:对推理加速、MoE 与多模态模型部署、端侧推理等方向感兴趣,主动追踪论文与开源社区前沿进展,愿意持续学习新技术;具备良好跨团队沟通能力,可配合算法研究员完成模型从原型到量产的落地。
  • 职业素养:对 AI 基础软件与极致性能优化有热情,认同推理引擎作为模型能力落地核心载体的价值,乐于尝试新的技术思路,参与推理引擎体系与工具链建设。

优先条件(非硬门槛)

  • 核心能力与经验:有 ONNX Runtime/TensorRT/llama.cpp/vLLM 等推理框架的使用或源码阅读经历,或 CUDA/SIMD 性能优化、模型量化部署相关的课程项目、竞赛、开源贡献、实习经历者优先

认识这家公司 / 团队

科大讯飞(星火与AI应用/平台团队)

上市公司

讯飞星火、Agent应用与运行平台、智能办公和大模型推理基础设施

为什么关注它

公司提供星火大模型、Agent应用与运行平台、智能办公及推理基础设施;本批仅投影职责明确落在AI产品或工程的岗位。

AI 业务与实际采用

讯飞星火、Agent应用与运行平台、智能办公和大模型推理基础设施

公司2026年半年度报告及讯飞开放平台披露;公司与分产品口径需分开理解,不代表本岗位所属团队规模。

公司官网 ↗

同公司其他在招岗位