学院新闻
京师智能讲堂第六十二期丨大模型多任务适配的“解耦与融合”:从高效微调到低秩合并
2026年11月13日下午,北京师范大学人工智能学院京师智能讲堂第六十二期在海淀校区电子楼206举办。本次讲座邀请北京航空航天大学殷荣老师,为学院师生带来题为“大模型多任务适配的‘解耦与融合’:从高效微调到低秩合并”的学术报告。讲座由人工智能学院李健老师主持,学院师生积极参与。

本次讲座,殷荣老师围绕大模型的高效适配与多任务融合,系统介绍了参数高效微调的基本原理及发展现状,并结合课题组近期研究成果,重点分享了多任务LoRA高效融合与动态路由方面的研究进展。

首先,殷荣老师介绍了大模型微调的基本原理及参数高效微调方法的发展现状。她指出,随着大模型在不同领域和任务场景中的广泛应用,传统全参数微调面临计算资源消耗大、存储成本高及知识遗忘等问题。参数高效微调通过冻结基座模型参数,仅训练少量新增参数,在保留模型通用能力的同时降低训练成本。其中,以LoRA为代表的低秩适配方法已成为大模型高效微调的重要研究方向。然而,在多任务场景下,如何协调不同任务之间的知识冲突,并实现多个适配器的高效融合与部署,仍是亟待解决的问题。
随后,殷荣老师重点分享了课题组在多任务LoRA高效融合方面的研究工作。针对现有模型合并方法计算开销较高、不同任务表征存在干扰等问题,课题组从低秩结构与谱分析的角度出发,探索通过共享循环变换实现不同任务适配器的有效对齐与融合。同时,针对多任务训练中的梯度冲突问题,介绍了结合动态路由与共享专家机制的Cross-LoRA方法,为实现多任务知识的高效协同提供了新的研究思路。实验结果表明,该方法能够有效降低计算与存储开销,缓解多任务训练中的梯度冲突,提升模型的多任务适配能力。
此外,殷荣老师还结合当前研究进展,探讨了参数高效微调领域面临的开放性问题,包括多模态学习中的模态不均衡、持续增量学习中的新旧知识协同,以及边缘设备资源受限条件下的模型部署等,为相关研究的进一步发展提供了思路。

在交流互动环节,现场师生围绕多任务知识融合、智能体记忆管理及模型合并方法展开深入讨论。对此,殷荣老师结合课题组在智能体记忆方面的研究,介绍了对不同层次记忆进行抽象、存储和更新的探索,并指出不同任务与记忆之间既可能存在冲突,也可能形成相互促进的作用,如何实现新旧知识的有效协同仍是值得深入研究的问题。随后,李健老师进一步就LoRA模型合并的技术细节与殷荣老师展开交流。殷荣老师结合实验结果,介绍了通过谱分析提取有效信息、减少任务冲突与噪声干扰的研究思路,并与现场师生探讨了相关方法在资源受限场景中的应用价值。
本次讲座围绕大模型多任务适配与模型融合的关键问题,展示了参数高效微调领域的前沿研究成果,为学院师生理解低秩适配、动态路由与模型高效融合等技术提供了新的思路。学院将继续依托京师智能讲堂等学术交流平台,推动前沿学术成果分享与交流,拓宽师生学术视野,助力人工智能领域的科研创新与人才培养。
联系电话:010-58807943
邮编:100875
地址:北京市海淀区新外大街19号电子楼

