实验室简介

广东省安全智能新技术重点实验室成功举办SAILING讲坛第二十五期

发表时间:2025-04-25 15:05:22 来源: 作者: 浏览:

【文章导读】2025年4月22日,广东省安全智能新技术重点实验室主办,深圳市计算机学会元宇宙专委会,深圳市计算机学会大模型专委会协办的SAILING讲坛第二十五期于哈尔滨工业大学(深圳)顺利召开。广东省安全智能新技术重点实验室是由广东省科学技术厅于2022年批准成立的省级科研平台,依托哈尔滨工业大学(深圳)进行建设管理。实验室遵循“开放、流动、联合、竞争”的发展方针。以提高自主创新能力为目标,聚焦广东优势学科、支柱产业以及...

2025年4月22日,广东省安全智能新技术重点实验室主办,深圳市计算机学会元宇宙专委会,深圳市计算机学会大模型专委会协办的SAILING讲坛第二十五期于哈尔滨工业大学(深圳)顺利召开。



广东省安全智能新技术重点实验室是由广东省科学技术厅于2022年批准成立的省级科研平台,依托哈尔滨工业大学(深圳)进行建设管理。实验室遵循“开放、流动、联合、竞争”的发展方针。以提高自主创新能力为目标,聚焦广东优势学科、支柱产业以及重大战略需求,科学规划、整体布局,推进实验室体系提质增效,着力加强基础研究和源头创新能力,着力推进科技研发和成果转化,着力培育创新型人才队伍,着力强化开放共享,使之成为支撑广东建设更高水平科技创新强省的战略科技力量。



本期论坛围绕《人工智能前沿技术中的安全与鲁棒性挑战》展开。随着人工智能领域的前沿技术不断涌现,其在各行各业的广泛应用对技术的安全性和鲁棒性提出了更高标准。人工智能技术在面对对抗攻击、后门攻击或能耗攻击等复杂环境时,能否保持其稳定性和可靠性,不仅关乎技术本身,更牵涉到社会安全与伦理规范,是影响技术落地与社会信任的关键科学问题。本次SAILING讲坛由哈尔滨工业大学(深圳)陈斌副教授主持,由特邀嘉宾中山大学的陈川副教授和香港中文大学的吴锡欣助理教授做精彩报告。



陈川老师做了题为《On the Robust Heterogeneous Federated Learning Algorithms》的特邀报告。报告中,陈川老师首先指出了联邦学习(FL)在异构场景下面临的挑战,包括数据异构、任务异构和模型异构。然后介绍了三种针对这些挑战的创新方法:一是基于张量驱动的优化,以捕获复杂的跨客户端相关性;二是提出原型对齐机制来实现域不变的特征表示;三是无生成器的知识蒸馏技术,以实现非独立同分布(Non-IID)数据下的有效知识转移,为提升联邦学习鲁棒性提供了新思路。报告结束后,现场师生就异构场景下联邦学习的性能与陈川老师展开了热烈讨论。



吴锡欣老师做了题为《Copyright Voices Protection from Unauthorized Voice Cloning》的特邀报告。吴老师指出,当前零样本文本到语音(TTS)生成模型在能够迅速生成高质量语音的同时,个人语音面临着被克隆并恶意使用的风险,可能导致身份盗用或虚假内容传播。吴老师团队通过给音频添加水印,并且训练开源模型在遇到水印音频时拒绝克隆请求来达到保护声音版权的目的。实验证明,该方法在保持模型生成高质量语音的同时,对多种攻击保持鲁棒性。报告结束后,现场师生就如何更好地保护语音版权问题与吴锡欣老师展开了热烈讨论。


嘉宾简介:


陈川,中山大学副教授,博士生导师。从事可信机器学习理论与应用及图机器学习理论与应用等研究方向。近年发表SCI索引国际期刊及国际会议论文80余篇,包括中科院一区及CCF A类论文50余篇, ESI高被引论文2篇。现任Elsevier国际期刊Software Impacts副主编,IEEE TIP/TSP/TNNLS/TCCB等多份国际期刊审稿人,IJCAI/AAAI等多个国际学术会议的(高级)程序委员会委员及论坛主席,中国计算机学会(CCF)人工智能与模式识别专委会委员,入选全球前2%顶尖科学家榜单(斯坦福大学)。


报告相关论文:

Advances in Robust Federated Learning: A Survey with Heterogeneity Considerations

https://ieeexplore.ieee.org/document/10833754


“Privacy-Preserving Vertical Federated Learning With Tensor Decomposition for Data Missing Features”

https://ieeexplore.ieee.org/abstract/document/10929023


“A Swiss Army Knife for Heterogeneous Federated Learning: Flexible Coupling via Trace Norm”

https://openreview.net/forum?id=3YkeHuT1o6


“Learn the global prompt in the low-rank tensor space for heterogeneous federated learning”

https://www.sciencedirect.com/science/article/abs/pii/S0893608025001984


“FedSeProto: Learning Semantic Prototype in Federated Learning”

https://openreview.net/forum?id=PPSxL4XJyw


吴锡欣,香港中文大学系统工程与工程管理系助理教授。研究方向为语音合成与识别、情感计算和神经网络不确定性。曾在剑桥大学工程系机器智能实验室的语音小组担任研究助理,研究成果广泛发表在顶级期刊与会议,如IEEE/ACM Transactions on Audio, Speech, and Language Processing及ICASSP。


报告相关论文链接:

“The Codecfake Dataset and Countermeasures for the Universally Detection of Deepfake Audio”

https://arxiv.org/html/2405.04880v2


A Comprehensive Survey with Critical Analysis for Deepfake Speech Detection

https://arxiv.org/abs/2409.15180


High Fidelity Neural Audio Compression

https://arxiv.org/abs/2210.13438


“Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers”

https://arxiv.org/abs/2301.02111


“Audio Deepfake Detection: A Survey”

https://arxiv.org/abs/2308.14970

(审核:陈斌)