职位描述

您将负责 AI 核心：模型服务、检索增强生成（RAG）流水线、提示工程以及反馈到训练流水线。在第一阶段，您需通过上下文工程让基础模型表现尽可能优异，通过系统提示、少样本示例和检索优化实现，不修改模型权重。您还需设计定制化模型训练流程，使企业客户能够训练自有微调模型。这是 founding team 中最具影响力的个体贡献者角色。

职责包括：部署并优化大型语言模型用于生产推理（量化、连续批次处理、低延迟服务）；构建 RAG 流水线（文档分块、嵌入生成、向量存储、交叉编码器重排序、优化128K令牌上下文窗口的上下文组装）；构建上下文层（按租户系统提示、动态检索少样本示例、任务路由（将 incoming 请求分类到正确提示配置））；构建防御性输出解析（从未经修改基础模型生成结构化 JSON 输出并具备优雅回退）；设计并实施反馈收集流水线（捕捉用户修正和评分，自动生成未来微调的训练数据候选）；设计定制化模型训练流程（租户级 LoRA 训练、模型评估、A/B 测试、隔离部署）；监控并提升推理质量（解析失败率、引用准确性、幻觉率、延迟——所有按租户跟踪）；在试点阶段每日与领域专家迭代提示。

任职要求

5+ 年 ML 工程经验；2+ 年在生产环境中使用大型语言模型经验。具备 LLM 服务框架（vLLM、TGI 或等价）的实战经验。深入构建 RAG 流水线经验：分块策略、嵌入模型、向量数据库、重排序。强大的生产应用提示工程技能——您知道如何让基础模型产生一致、结构化、高质量的输出。Python：PyTorch、Transformers、FastAPI。熟悉 LoRA/QLoRA 微调流水线。