智算云平台后端工程师-太初云

地点

北京

雇佣形式

全职

招聘类型

社招

尚未披露：团队、薪资、雇主申请截止时间

投递在官方渠道完成，完整外部回执留在本人工作区；已登录时，通过 CLI 明确记录的选择、本人自报投递和渠道观察三类最小事件默认上报平台。浏览或保存岗位不会触发上报，外部投递不会出现在“我的申请”里。

• 负责太初智算云推理服务与MaaS核心模块设计、开发和迭代，支撑大模型部署与稳定调用。
• 基于KServe、NVIDIA Triton设计推理服务，优化动态批处理、量化、模型预热及GPU/NPU上的高并发、低延迟。
• 建设模型仓库/版本管理、REST/gRPC服务接口和从模型研发到线上推理的MaaS链路，实现弹性扩缩容。
• 参与Volcano/GPU异构算力调度，建设Kubernetes编排、自愈、服务发现、自动部署及日志/指标/链路追踪、熔断降级、限流等稳定性能力。
• 配合CI/CD自动化交付；独立推进模块、编写技术文档并持续跟进vLLM/SGLang/TGI等框架。

任职要求与期待

• 本科及以上，计算机相关专业；3年以上后端开发经验。
• 熟练掌握Golang或Python至少一种，熟悉微服务，编码能力扎实、代码规范良好。
• 深入理解Cloud Native与AI Native；熟悉Kubernetes调度、网络、存储、RBAC并有集群使用/管理经验。
• 熟悉Docker及containerd/CRI-O基本机制，具备K8s开发运维实操、自动化部署和迭代能力。
• 了解AI推理技术，熟悉Triton或KServe，了解Prefill/Decode及连续批处理、张量并行等优化。
• 了解至少一种CI/CD工具，熟悉DevOps并有服务自动部署/迭代实操。
• 问题排查、自驱、独立承担模块设计实现和沟通协作能力。

优先条件（非硬门槛）

• 有智算平台、AI云服务、MaaS平台或推理服务开发经验。
• 有大规模推理服务或MaaS商业化落地经验，熟悉阿里云PAI EAS、火山引擎方舟、HuggingFace TEI等主流MaaS产品架构。
• 熟悉GPU/NPU芯片特性，有华为Ascend CANN、NVIDIA CUDA开发经验，或精通Volcano调度器优化。
• 有Kubernetes Operator、CRD开发经验，或对K8s ApiServer/调度器源码有一定了解。
• 参与Cloud Native、AI Native开源项目，或有KServe/Triton推理服务性能优化经验。
• 熟悉PyTorch/TensorFlow等主流深度学习框架、能与算法团队高效协同，或有云管平台、Prometheus/Jaeger/OpenTelemetry等可观测性系统研发经验。