大模型可信诊断算法工程师
安全可信AI中心｜全职｜工程通道｜上海
2025-12-18
岗位职责
1. 核心参与深入研究LLM的安全可信问题，和团队合作开发评测工具和技术，优化不同场景下LLM的安全可信问题，如终端和电脑操作、具身场景等；
2. 开发高效的自动化测试工具与框架，实现对LLM安全能力（决策、知识、交互）的量化评估，持续迭代优化LLM行为；
3. 负责内容安全算法研发，包括但不限于文本、图像、视频、音频等多模态内容的识别与过滤。构建检测模型，提升安全水平；
4. 负责快速搭建交互环境，构建大规模、高效的数据生产链路，服务于模型训练和评测，负责构建高效的infra, 处理训练、评测中的优化问题。
2. 开发高效的自动化测试工具与框架，实现对LLM安全能力（决策、知识、交互）的量化评估，持续迭代优化LLM行为；
3. 负责内容安全算法研发，包括但不限于文本、图像、视频、音频等多模态内容的识别与过滤。构建检测模型，提升安全水平；
4. 负责快速搭建交互环境，构建大规模、高效的数据生产链路，服务于模型训练和评测，负责构建高效的infra, 处理训练、评测中的优化问题。
岗位要求
1. 计算机、人工智能、数学等相关专业，硕士及以上学历，3年以上LLM/NLP/深度学习算法研究与开发经验，具有LLM开发和实际落地经验
2. 具备扎实的LLM相关算法基础，有单模态/多模态LLM的训练（RAG/SFT/RL/Prompt）、部署和蒸馏等领域的实践经验，熟悉主流的开源/闭源LLM
3. 精通Python以及至少一种主流深度学习框架（如PyTorch），熟悉主流的大模型训练与推理框架/库，例如 DeepSpeed, Megatron-LM, vLLM, SGLang, Verl 等
4. 具备优秀工程能力，能够负责从问题分析、技术方案设计、数据治理、模型训练到评估验证的完整算法闭环
5. 具备优秀的沟通协作能力和团队合作精神，有技术好奇心，能及时关注和学习业界最佳实践
加分项：
1. 在国际顶级会议（NeurIPS/ICML/ICLR/ACL/EMNLP等）发表过高质量论文，在ACM、Kaggle等竞赛中取得优异成绩，或作为核心贡献者参与过有影响力的大模型相关开源项目
2. 有infra相关研发经验，或大规模数据处理经验
3. 有安全领域经验，如网络安全、流量安全、业务风控等经验
2. 具备扎实的LLM相关算法基础，有单模态/多模态LLM的训练（RAG/SFT/RL/Prompt）、部署和蒸馏等领域的实践经验，熟悉主流的开源/闭源LLM
3. 精通Python以及至少一种主流深度学习框架（如PyTorch），熟悉主流的大模型训练与推理框架/库，例如 DeepSpeed, Megatron-LM, vLLM, SGLang, Verl 等
4. 具备优秀工程能力，能够负责从问题分析、技术方案设计、数据治理、模型训练到评估验证的完整算法闭环
5. 具备优秀的沟通协作能力和团队合作精神，有技术好奇心，能及时关注和学习业界最佳实践
加分项：
1. 在国际顶级会议（NeurIPS/ICML/ICLR/ACL/EMNLP等）发表过高质量论文，在ACM、Kaggle等竞赛中取得优异成绩，或作为核心贡献者参与过有影响力的大模型相关开源项目
2. 有infra相关研发经验，或大规模数据处理经验
3. 有安全领域经验，如网络安全、流量安全、业务风控等经验
