职位描述

负责对LLM和多模态代理进行对抗性测试，实施自主工具使用的保护措施，开发宪法AI原则并协助RLHF对齐流程。要求具备网络安全、提示工程或对抗性机器学习背景，熟悉 jailbreak 分类学和自动化红队框架，具备识别边缘情况的分析能力。

任职要求

具备网络安全、提示工程或对抗性机器学习背景；有jailbreak分类学和自动化红队框架经验；具备识别边缘情况的强分析能力。