# 大模型平台策略推理优化工程师（J97422）

External opening: you cannot apply through AI Native Match; apply on the official site.

Apply through the official channel. The full external receipt stays in your workspace. When signed in, three minimal event types explicitly recorded through the CLI are reported by default: selection, self-reported application and channel observation. Browsing or saving a role does not report an event; external applications do not appear under My applications.

- Company: 百度 (Stage unknown)
- Locations: 北京
- Role: Algorithm
- Apply on the official site: https://talent.baidu.com/jobs/detail/SOCIAL/ec20ec64-6182-4d64-9790-2348702a9e55

## Role description from source

工作职责：-负责千帆MaaS平台级推理降本与效率优化策略设计与落地，并支持定制化推理性能优化 -负责量化、投机推理（MTP / speculative decoding / Eagle）等训练–推理协同优化方案的设计与落地 -负责建设大模型推理性能评测与收益评估体系 -前沿技术落地：调研并落地大模型推理多维度优化技术，包括但不限于模型量化（INT4/INT8/FP8，含PTQ/QAT两种方式）、MTP投机推理优化、结构化剪枝与稀疏化等，持续提升推理效率与资源利用率，降低部署成本。
职责要求：-教育背景： 计算机、人工智能等相关专业本科及以上学历。 -编程功底： 熟练掌握 Python、 PyTorch，具备扎实的数据结构与算法基础，具备良好的工程实现能力。 -大模型经验：熟悉 Transformer 模型结构与推理流程（prefill / decode / KV cache / attention），理解推理性能瓶颈及其与训练策略（量化、蒸馏、MTP）的关联 -加分项 -参与过 vLLM / SGLang / TensorRT-LLM 等推理系统优化 -有量化感知训练（QAT）或 MTP 训练 实践经验 -熟悉 EAGLE / Medusa / MTP variants（如DeepSeek MTP、MiMo MTP） 等投机推理或高效推理方案 -有大规模线上推理服务优化经验

---
opening_id: 99150318-d50f-43b1-98a5-01f259b28002

`anm openings save --id 99150318-d50f-43b1-98a5-01f259b28002`