【医学部生物医学工程学院学术讲座】大模型适应分布变化的能力如何?

来源: 发布时间:2024-06-17 15:04:56 浏览次数: 【字体:

主讲嘉宾:韩忠义

2024年06月27日(周四)上午 9:00–12:00

深圳大学丽湖校区生物医学工程学院A2-517大会议室

主持 薛武峰

202406171503189293.Jpeg

韩忠义,博士、KAUST博士后,研究方向为开放环境机器学习和AI for Science,曾于2016-2018年在加拿大Western University 交流访问,2018-2019年在百度AI 创新业务部担任Research fellow,2019-2020年在南京大学LAMDA交流访问,2023-2024年在MBZUAI做博士后。目前以第一作者和通讯作者在TPAMI、TIP、TKDE、TMI、MedIA、CVPR、AAAI、IJCAI、MM、IPMI、MICCAI等国际顶尖期刊和会议发表论文三十余篇。所发表论文至今累计谷歌学术引用1800余次。曾获青岛科技进步奖、ACM 济南分会优博、国家奖学金、山东大学优秀学生、山东省人工智能优秀论文、山东省人工智能学会优秀硕士论文等多项奖励、担任多个知名国际期刊和会议的审稿人,包括TPAMI、TIP、TNNLS、TMI、MedIA、AI in Medicine、Neural Networks、ICML、NeurIPS、ICLR、UAI、ICCV、CVPR、ECCV、AAAI、ACM MM、MICCAI等。

 

报告简介(Abstract):

典型机器学习模型在满足独立同分布假设的静态封闭环境中具有相对完备的理论保证和较好的泛化性能。但在现实应用中,训练和测试样本偏离同分布假设,面临多种以分布变化为主的开放环境。本报告以分布变化为主题,首先介绍了传统机器学习方法如何解决域不变特征表示学习不充分、源域数据受损、隐私保护条件下源域数据不可见和目标域出现新类等问题。然后重点介绍了大模型在应对分布变化时的适应能力,特别是GPT-4V在自然、医学和分子领域中的表现。最后,将介绍我们在使用上下文学习(In-Context Learning)提升大模型泛化能力方面的最新研究成果,包括提出的InvariantSelectPR方法如何在数据分布变化环境中显著提高模型的性能。

分享到:
【打印正文】
×

用户登录