2024年11月6日，北京师范大学人工智能学院举办智能学术沙龙第二十八期——《多模态大模型与数据智能研究》。人工智能学院副教授钟方威、上海交通大学人工智能学院副教授赵波出席，我校各院系学生38人参加。活动由人工智能学院钟方威老师主持。

赵波老师分享了如何压缩大数据集得到小数据集，从而用更少的时间训练性能接近的模型。他指出传统样本选择方法的局限，以及基于 meta-learning 的压缩方法存在的问题。为解决这些问题，他提出了基于梯度匹配的数据压缩方法。该方法避免了递归计算图的展开，提高了可扩展性，并且更容易优化。

在数据压缩与模型训练的探索中，赵老师指出传统的合成数据在加入增强策略后并不能有效提高模型性能，因此提出了对称可导的增强方案，从而学习出具备数据增强能力的合成数据。实验结果显示，该方法取得了显著的性能提升。

此外，赵老师还介绍了一种新的基于数据分布匹配的数据压缩方法，该方法基于MMD损失启发，避免了计算二阶导数，具有更好的可扩展性和并行性。

讲座现场互动热烈，学生们就训练数据等问题积极提问。赵老师给予了详细而悉心的解答，现场气氛热烈高涨，学术氛围浓厚。此次智能学术沙龙为师生们提供了学术交流的平台，人工智能学院将继续举办讲堂沙龙等学术活动，促进学生学业发展。