【实习】大模型可解释性算法-医学智能中心

1. 开展大模型可解释性、表示学习和模型机制分析相关研究，探索提升模型透明性与可信性的技术方法。
2. 负责模型训练、实验系统搭建与算法优化，包括数据处理、模型微调和训练框架实现。
3. 设计模型评估方法，分析模型表示、解释能力和鲁棒性表现。
4. 跟踪前沿研究进展，复现和改进相关方法，探索创新研究方向。
5. 参与论文、技术报告及开源项目建设，推动研究成果落地。

1. 计算机科学、人工智能、数学、自动化或相关专业硕士及以上学历；特别优秀者可适当放宽。
2. 熟悉 Transformer 和大语言模型的基本原理，对模型训练、内部表示或可解释性研究有较深入的理解。
3. 具备扎实的机器学习基础，熟练使用 Python、PyTorch 和 Linux，能够独立完成模型训练、实验分析与问题诊断。
4. 具备良好的科研能力，能够进行文献调研、实验设计、结果分析和技术写作，对实验结论保持严谨审慎。
5. 对大模型可解释性研究有强烈兴趣，具备良好的沟通能力、协作意识和自主推进能力。

加分项
1. 具有大模型训练、强化学习、RLHF、表示学习、模型评估或可解释性研究经验。
2. 熟悉模型内部激活提取、activation intervention、probing、representation analysis 等方法。
3. 具有分布式训练或大模型推理系统的实践经验。
4. 在相关领域发表过高质量论文，或参与过有影响力的开源项目。
5. 具备良好的英文论文阅读和写作能力。