大语言模型的安全风险评估与防护机制研究

课题名称: 大语言模型的安全风险评估与防护机制研究
学科专业: 计算机科学
课题关键词: 安全风险评估防护机制研究可信AI生态
辅导模式: 1对1
发表目标: SCI期刊1-2区、CCF-A/B
课题介绍: 随着深度学习技术的飞速发展，大语言模型（LLMs）如GPT系列、LLaMA等在自然语言理解与生成任务中展现出卓越性能，已广泛应用于智能交互、内容创作、知识问答等领域，推动了人工智能技术的实用化进程。然而，其强大的自主生成能力也伴随显著安全风险：在内容层面，易生成虚假信息、仇恨言论或恶意代码；在数据安全层面，存在训练数据隐私泄露与模型记忆攻击风险；在算法公平性层面，可能放大历史数据中的偏见并强化歧视性输出。当前防护机制多聚焦于单一风险场景（如内容过滤），缺乏覆盖风险识别、量化评估、动态防御的系统性框架，难以应对黑箱模型的不可解释性与对抗攻击的复杂性。因此，开展大语言模型安全风险的系统性评估方法与主动防护机制研究，对提升技术可控性、构建可信AI生态具有重要理论价值与实践意义。

导师信息

Yan研究员

985高校博士，海外研究员

研究领域：自然语言处理,医学图像分析学术成果：1.发表论文36篇，其中SCI一区10余篇，包括 IEEE TNNLS, IEEE TII,IEEE TCSVT,ACL, EMNLP, AAAI等期刊和会议 2.获国家发明专利授权3项、实用新型专利授权1项

面向具有相关学科背景与研究兴趣的学习者，具体要求以课题导师评估为准。