机器学习工程师

负责构建和维护AI推理管道中的端到端集成流程（服务、编排、API和基础设施）。设计、实施和优化LLM推理工作流，包括预填充和解码阶段。提高系统性能，重点关注吞吐量、延迟和互动性。使用Python编写生产级组件并将其集成到更广泛的系统中。贡献系统级逻辑，如智能硬件选择和执行策略。将模型（开源和定制）、服务和API集成到连贯且可靠的端到端应用流程中。

4年以上软件工程或机器学习工程经验。精通Python。有LLM推理系统和性能优化的丰富经验。有系统集成和端到端工作流的实践经验。熟悉推理框架如vLLM、TensorRT、SGLang等。有GPU/加速器系统的工作经验。