上海人工智能实验室可信安全中心，致力于探索LLM/MLLM可信的能力扩展与安全防护。
小组在ACL/CVPR/Neurips等顶会发表多篇文章，优秀实习生可推荐26年实验室联培博士计划，欢迎感兴趣的同学自荐及推荐简历。
岗位方向（可选任一）
大模型可信评测：构建相关数据集，包括但不限于文本、图片、视频等数据，建立相关benchmark或开发评测工具对大模型进行评测。
大模型安全推理：通过价值引导或搜索改进进行可信输出，或提出可统计验证的安全可信指标，确保模型输出的合理且安全。
大模型攻击与风险识别：测试大语言模型和多模态大模型的安全性能，分析新一代 AI 的潜在安全风险边界，设计评测体系，进行 Red Teaming，识别安全风险。
大模型防护：根据识别出的风险或需避免的风险，通过安全向量引导或插入特殊可扩展模块，对模型输出进行安全防护。
大模型post training: 通过RL或相关方法进行对齐，增强大模型可信安全能力。
岗位要求
在大模型安全领域具备相关的研究经验，能够在团队中承担相关研究工作，提供创新的解决方案，确保大模型的可信及安全。
本科及以上学历，计算机科学、电子信息、信息安全或相关专业背景。
具备扎实的机器学习和深度学习基础知识和算法实践能力，了解大模型的设计和训练流程。
熟悉常用的深度学习框架和工具，具备良好的编程能力，熟练使用Python等编程语言。
加分项
在信息学奥赛、ACM 中获奖
有较强的数学功底
发表过相关论文
直通车
工作地点与时间：北京/上海，每周实习四天以上，至少六个月，一年以上者优先。
申请方式：lilijun@pjlab.org.cn
小组在ACL/CVPR/Neurips等顶会发表多篇文章，优秀实习生可推荐26年实验室联培博士计划，欢迎感兴趣的同学自荐及推荐简历。
岗位方向（可选任一）
大模型可信评测：构建相关数据集，包括但不限于文本、图片、视频等数据，建立相关benchmark或开发评测工具对大模型进行评测。
大模型安全推理：通过价值引导或搜索改进进行可信输出，或提出可统计验证的安全可信指标，确保模型输出的合理且安全。
大模型攻击与风险识别：测试大语言模型和多模态大模型的安全性能，分析新一代 AI 的潜在安全风险边界，设计评测体系，进行 Red Teaming，识别安全风险。
大模型防护：根据识别出的风险或需避免的风险，通过安全向量引导或插入特殊可扩展模块，对模型输出进行安全防护。
大模型post training: 通过RL或相关方法进行对齐，增强大模型可信安全能力。
岗位要求
在大模型安全领域具备相关的研究经验，能够在团队中承担相关研究工作，提供创新的解决方案，确保大模型的可信及安全。
本科及以上学历，计算机科学、电子信息、信息安全或相关专业背景。
具备扎实的机器学习和深度学习基础知识和算法实践能力，了解大模型的设计和训练流程。
熟悉常用的深度学习框架和工具，具备良好的编程能力，熟练使用Python等编程语言。
加分项
在信息学奥赛、ACM 中获奖
有较强的数学功底
发表过相关论文
直通车
工作地点与时间：北京/上海，每周实习四天以上，至少六个月，一年以上者优先。
申请方式：lilijun@pjlab.org.cn
相关职位：
