职位描述

负责语言模型和多模态代理的对抗性测试，实施自主工具使用的防护措施，开发宪法AI原则并协助强化学习与反馈对齐管道。要求具备网络安全、提示工程或对抗性机器学习背景，具备 Jailbreak 分类和自动化红队框架经验，具备强分析能力以识别边缘案例。

任职要求

具备网络安全、提示工程或对抗性ML背景；具备 Jailbreak 分类和自动化红队框架经验；具备强分析能力以识别边缘案例