LLM和AI平台工程师

我们正在寻找AI平台工程师，以构建和维护核心LLM服务和API，以推动下一代在线学习工具的发展。在该团队中，您将设计和实现服务和基础设施，使我们的功能团队能够快速开发和部署LLM功能，从而提升全球数千万人的教学和学习体验，同时保持高性能、安全性和可靠性。设计和实现API和领域服务，抽象使用LLM的复杂性，使我们的产品团队能够快速开发和部署LLM功能；构建可扩展的AWS基础设施用于LLM交互，包括提示管理、上下文处理、审计和响应处理；创建开发工具和文档，使与服务的集成变得直观易用；建立Instructure中AI和LLM使用的最佳实践，考虑可审计性、成本和性能；与功能团队合作，了解他们的需求并用平台能力解决；设计、开发和维护可扩展且高性能的API；编写干净、可维护且有文档的代码；参与代码审查并提供和接收建设性反馈。

具备软件工程经验，有API设计和分布式系统开发经验；有构建后端服务和REST或GraphQL API的强经验；了解API设计最佳实践，如安全、性能监控、速率限制等；了解LLM集成和使用模式；具备良好的协作和书面及口头沟通技能；有云基础设施经验， preferably on AWS；有Node.js或学习意愿；有TypeScript或学习意愿；有开发工具和API文档经验者优先。