我国青年学者在联邦长尾学习方面取得进展
无忧课题
743 阅读
2024-02-29 09:21:41
图联邦长尾学习研究示意图
联邦长尾学习面向数据隐私保护和长尾分布进行联合建模,目标是在满足隐私保护的要求下充分利用长尾数据分布信息,实现高精度、个性化、强泛化的全局和局部模型决策,在医疗健康、金融风控和公共安全等数据高度敏感和稀缺的领域具有重要应用价值。
在国家自然科学基金青年基金项目(批准号:62106222)等资助下,浙江大学刘佐珠研究员项目组在联邦长尾学习领域取得进展。项目组创新构建了联邦长尾学习联合建模范式(图),在具有隐私保护特性的联邦学习框架中,设计了系列针对长尾数据的全局和局部联合学习策略。项目组基于神经坍缩原理构建一种新型静态稀疏等角紧框架分类器,提高分布式长尾数据下的模型表征学习能力,并通过先验分析和自调节梯度平衡,有效抑制了长尾分布下数据异质性引起的错误分布漂移。项目成果有效解决了当前研究面临的少数类数据特征坍缩、本地和全局学习耦合度低、模型泛化性差等难题,为后续研究与实际应用提供了重要的理论基础和技术支撑。
相关研究成果被计算机人工智能领域国际顶级会议《神经信息处理系统大会》(NeurIPS 2023,CCF A类会议)和《国际表征学习大会》(ICLR 2024)接收。项目组自2020年以来,在联邦学习、长尾学习及其应用领域[IEEE TCOMM 2020,IEEE TMI 2022, Patterns 2023,ICLR 2023,NeurIPS 2023]开展了持续深入研究,单篇论文Google Scholar引用最高超过500次,并面向智慧医疗领域应用成立浙江大学校企联合研究中心,获医疗领域龙头企业经费资助逾2500万。
下一篇: 我国学者在行为视觉理解领域取得进展