1月16日上午,加拿大圭尔夫大学计算机科学学院Xiaodong Lin教授在线上为学院师生分享“联邦学习安全与隐私研究的最新成果”,并就相关前沿问题进行了深入探讨。本次报告由学院王景景教授主持,学院40余名师生参加。
![](/__local/C/51/66/7EDFDFD8A7246221FBF9153F223_11F9A292_2C86F1.png?e=.png)
联邦学习是一种新兴的人工智能技术,在2016年由谷歌最先提出。Lin教授提到,联邦学习能够充分利用参与方的数据和计算能力,使多方可以协作构建通用、健壮的机器学习模型而不需要共享数据,在数据监管越来越严格的大环境下,联邦学习能够解决数据所有权、数据隐私、数据访问权以及异构数据的访问等关键问题。
Lin教授围绕联邦学习中的安全与隐私问题,介绍了其团队发表在顶会NeurIPS 2023的最新研究成果“RECESS Vaccine for Federated Learning: Proactive Defense Against Model Poisoning Attacks”。RECESS是一种新的针对模型中毒攻击的主动防御机制,其精心构建的测试梯度可以实现良性异常值和恶意异常值的正确区分,进而完成对恶意客户端的主动检测。此外,RECESS还使用了一种新的信任评分机制以实现梯度的鲁棒聚合,进一步提升了系统容错能力。
![](/__local/0/6F/7E/A661CE4D6163C5E76C65F2F63A1_26FD89A0_33E302.png?e=.png)
本次活动得到了广大师生的热情参与,在场师生积极提问交流。Lin教授针对每一个问题进行了全面细致地解答。此次报告会开拓了学院师生的研究视野,激发了同学们的研究兴趣,为深入研究该领域提供了重要指导。
报告人简介:
Xiaodong Lin,IEEE Fellow,加拿大圭尔夫大学终身教授,国际知名信息安全专家,研究方向包括无线通信与网络安全、计算机取证、分布式金融安全和应用密码学。发表会议和期刊论文各160余篇,谷歌学术引用次数超过30000。林教授是许多国际期刊的副主编,曾担任或正在担任IEEE、Elsevier和Springer杂志许多特刊的客座编辑,并担任IEEE/ACM会议的研讨会主席或分会议题决策组成员。曾在许多国际会议项目委员会任职,曾任IEEE通信协会通信和信息安全技术委员会(CISTC)主席(2016-2017)。