科研导师
Jiang老师讲师，清华博士
导师介绍
研究领域： 学术成果：
大语言模型指令微调关键算法及核心应用研究
- 课题名称
- 大语言模型指令微调关键算法及核心应用研究
- 学科专业
- 课题关键词
- 辅导模式
- 1对1
- 发表目标
- SCI期刊2-3区 CCF-B/C
- 课题介绍
- 近年来，大语言模型（LLMs）如GPT系列、LLaMA等在自然语言理解与生成领域取得显著突破，但其预训练阶段学习的通用知识与下游任务的具体需求间存在语义鸿沟。指令微调（Instruction Tuning）作为弥合这一鸿沟的关键技术，通过在高质量指令数据上进行二次训练，使模型能够理解复杂指令意图并生成符合人类偏好的输出。当前研究表明，指令微调不仅能提升模型在未见任务上的泛化能力（Zero/Few-shot Learning），还可增强模型的安全性与对齐性。然而，现有方法在指令数据构建的质量控制、微调策略的效率优化（如LoRA、Prefix-tuning等参数高效方法）、以及模型输出的事实一致性评估等方面仍存在挑战。本课题聚焦指令微调的核心算法机制，探索数据-模型-评估三位一体的优化路径，旨在为大语言模型的工程化应用提供理论支撑与技术参考。
导师信息
招生要求
面向具有相关学科背景与研究兴趣的学习者，具体要求以课题导师评估为准。