高级工程师 - LLMOps与MLOps

在转型办公室内担任高风险、注重执行的工程师角色。我们正在寻找一名‘第一天’的工程师，负责我们AI项目的生产生命周期。你的任务是构建连接遗留数据系统与现代AWS和Azure AI服务的自动化基础设施。你将负责AI的‘运维’：确保LLM应用、RAG管道和传统ML模型在多云环境中可部署、可观察和可扩展。

关键职责包括：构建和维护跨AWS（SageMaker/Bedrock）和Azure（AI Studio）的多云流水线；实施LLMOps框架，包括向量数据库管理（OpenSearch、Pinecone或Azure AI Search）和语义索引优化；构建从遗留系统（主frame、SQL Server、本地数据库）安全导入数据到云原生MLOps工作流的工程‘管道’；实施系统化的LLM评估框架（LLM-as-a-judge、ROUGE、METEOR）和传统ML验证以确保部署前的性能；部署实时监控以管理模型漂移、幻觉检测、延迟和令牌消耗；使用Terraform或CloudFormation管理所有AI资源作为代码；与Palantir、Databricks或Snowflake等平台合作确保分析本体与生产模型之间的高保真数据流；与中央IT和安全团队合作导航IAM角色、VPC对等连接和防火墙配置；优化模型服务端点以实现高吞吐和低延迟；建立严格的提示版本控制（PromptOps）以确保100%可审计性和回滚能力；支持数据科学生命周期通过自动化特征存储、特征工程管道和将实验笔记本转换为硬化生产微服务；实施自动化扫描和防护（如Bedrock Guardrails或Azure内容安全）以防止提示注入和数据泄露。

教育：计算机科学或相关领域学士学位要求；定量学科硕士学位高度 desirable。证明执行：6+年的工程经验，其中至少3年专注于MLOps或LLMOps在生产环境中的经验。AWS与Azure精通：深入掌握两个生态系统。你必须能够配置Bedrock和Azure OpenAI服务，包括私有网络和端点安全。技术栈：专家Python、SQL和PySpark。广泛的容器化（Docker、Kubernetes）和编排工具（Airflow、Kubeflow或Step Functions）经验。LLM工具：具备评估和可观测性框架（如LangSmith、Arize Phoenix或WhyLabs）的专业经验。数据科学风味：对统计验证、模型评估指标有深入理解，并能与数据科学家合作优化模型性能。转型心态：能够在初创公司速度的同时，维护在大型企业IT环境中所需的合作关系。

Sedgwick是知名的雇主，获《新闻周刊》评为美国最佳雇主，被认证为‘最佳工作场所’，并被评为《财富》最佳金融服务业工作场所。