智算云平台后端工程师-太初云

Locations

北京

Employment

Full-time

Track

Experienced

Not disclosed: Team, Salary, Employer application deadline

Apply through the official channel. The full external receipt stays in your workspace. When signed in, three minimal event types explicitly recorded through the CLI are reported by default: selection, self-reported application and channel observation. Browsing or saving a role does not report an event; external applications do not appear under My applications.

• 负责太初智算云推理服务与MaaS核心模块设计、开发和迭代，支撑大模型部署与稳定调用。
• 基于KServe、NVIDIA Triton设计推理服务，优化动态批处理、量化、模型预热及GPU/NPU上的高并发、低延迟。
• 建设模型仓库/版本管理、REST/gRPC服务接口和从模型研发到线上推理的MaaS链路，实现弹性扩缩容。
• 参与Volcano/GPU异构算力调度，建设Kubernetes编排、自愈、服务发现、自动部署及日志/指标/链路追踪、熔断降级、限流等稳定性能力。
• 配合CI/CD自动化交付；独立推进模块、编写技术文档并持续跟进vLLM/SGLang/TGI等框架。

Qualifications and expectations

• 本科及以上，计算机相关专业；3年以上后端开发经验。
• 熟练掌握Golang或Python至少一种，熟悉微服务，编码能力扎实、代码规范良好。
• 深入理解Cloud Native与AI Native；熟悉Kubernetes调度、网络、存储、RBAC并有集群使用/管理经验。
• 熟悉Docker及containerd/CRI-O基本机制，具备K8s开发运维实操、自动化部署和迭代能力。
• 了解AI推理技术，熟悉Triton或KServe，了解Prefill/Decode及连续批处理、张量并行等优化。
• 了解至少一种CI/CD工具，熟悉DevOps并有服务自动部署/迭代实操。
• 问题排查、自驱、独立承担模块设计实现和沟通协作能力。

Preferred qualifications (not mandatory)

• 有智算平台、AI云服务、MaaS平台或推理服务开发经验。
• 有大规模推理服务或MaaS商业化落地经验，熟悉阿里云PAI EAS、火山引擎方舟、HuggingFace TEI等主流MaaS产品架构。
• 熟悉GPU/NPU芯片特性，有华为Ascend CANN、NVIDIA CUDA开发经验，或精通Volcano调度器优化。
• 有Kubernetes Operator、CRD开发经验，或对K8s ApiServer/调度器源码有一定了解。
• 参与Cloud Native、AI Native开源项目，或有KServe/Triton推理服务性能优化经验。
• 熟悉PyTorch/TensorFlow等主流深度学习框架、能与算法团队高效协同，或有云管平台、Prometheus/Jaeger/OpenTelemetry等可观测性系统研发经验。