2022年8月26日下午,广东省安全智能新技术重点实验室研讨会于大梅沙京基海湾酒店顺利召开。华南理工大学教授、广东省计算机学会理事长韩国强、广东工业大学教授、广东省计算机学会副理事长李振坤、广东省计算机学会副理事长兼秘书长/高工黄轩、广东工业大学教授、计算机学院副院长、广东省计算机学会副理事长陈平华、华南理工大学教授、计算机学院副院长、广东省计算机学会女工委主任高英、清华大学深圳国际研究生院教授、科技处处长、深圳市计算机学会监事长江勇、鹏城实验室网络智能部综合处处长邱景飞、清华大学深圳国际研究生院夏树涛、暨南大学教授、珠海校区管委会副主任方俊彬、平安科技有限公司技前沿技术部门负责人王磊、战略总监谭涛、副总工程师王健宗、华润数科控股有限公司Xlabs实验室技术总监钟焰涛等十余位嘉宾,哈尔滨工业大学(深圳)计算机科学与技术学院副院长王鸿鹏、副院长何道敬、院长助理徐睿峰,以及王轩、刘川意、罗文坚、廖清、徐增林、张永兵教授等30余人出席会议。会议由计算机科学与技术学院蒋琳副教授主持。
研讨会开始,分别来自广东省计算机学会和深圳市计算机学会的领导相继发表致辞。广东省计算机学会理事长韩国强教授对王轩教授的邀请表示感谢,并表示未来要继续加强省计算机学会和深圳市计算机学会的联动,并祝贺重点实验室研讨会顺利召开。广东省计算机学会副理事长李振坤教授致辞中指出广东省计算机学会和深圳市计算机学会之间的沟通和交流是很有必要的,要让沟通的渠道更加畅通和顺利。广东省计算机学会副理事长兼秘书长黄轩表示了对参会嘉宾的感谢并表示欢迎大家未来莅临广东省计算机学会进行指导和讲座。深圳市计算机学会监事长江勇教授表示了对参会嘉宾的感谢,欢迎广东省计算机学会领导的到来。
![](/__local/7/52/D3/1698081CD06CF5FAB78D1D7D8F9_CE65DB18_85673.png)
广东省计算机学会理事长、华南理工大学韩国强教授致辞
![](/__local/C/90/29/37C6AA58C0C3CE36E16F27F2A5C_A8E9D9F0_83C85.png)
广东省计算机学会副理事长、广东工业大学李振坤教授致辞
![](/__local/1/7F/71/2FAACEA66BECC6C13E4FB4200E3_30BAB7A9_A2CA0.png)
广东省计算机学会副理事长兼秘书长/高工黄轩教授致辞
![](/__local/0/95/3E/DCB9C196970891C8BFECE5F4011_14D0DAC5_814B1.png)
深圳市计算机学会监事长、清华大学深圳国际研究生院科技处处长江勇教授致辞
随后,蒋琳副教授介绍了广东省安全智能新技术重点实验室的申请、筹备和执行情况。省重点实验室由方滨兴院士指导、计算机科学与学院王轩教授牵头申请和筹备,于2022年3月批准立项,并依托于哈尔滨工业大学(深圳)建设。实验室面向人工智能及网络安全融合的世界科技前沿、面向人工智能安全、可靠、可控的国家重大需求、以及高速发展中的广东省经济主战场,围绕智能安全技术、安全学习技术、隐私智能技术和安全智能系统等四个方向开展研究,对保障网络空间安全、有效维护社会稳定具有重要的意义。同时,省重点实验室团队在人工智能安全领域深耕多年,承担国家重点研发计划、国家自然科学基金项目、广东省重点领域研发计划等项目多项,已搭建了国家级网络靶场、异构多源信息安全分析、态势感知与决策系统和云计算环境用户数据隐私保护关键技术及系统等,形成了由方滨兴院士牵头编著的《论网络空间主权》、《人工智能安全》两部重要著作。实验室设置了由实验室主任王轩牵头、刘川意、王鸿鹏、卢光明、徐睿峰、罗文坚5位副主任协助的行政机构,由学术委员会主任方滨兴院士及若干位委员构成的学术指导架构,下设了由4位学术带头人引领的4个研究所,实验室骨干成员包括国家级人才和国家级青年人才10余人以及一批中青年一线教师共40余人。科研方面,联合鹏城实验室打造基于数据信托模式的AI靶场,将多方数据安全托管至AI靶场,充分发挥数据要素价值。另外,实验室承办了2022国际数据智能与安全会议ICDIS,并同步举办了数据库参数调优大赛、昂楷杯第一届数据安全竞赛、AI Demo大赛,与本次研讨会同时举行。
![](/__local/3/92/61/078F63CCE58ECF3F327DE285313_A59292A3_97D98.png)
蒋琳副教授介绍广东省安全智能新技术重点实验室
随后,参会人员一起进行了合影留念。
![](/__local/5/27/F4/F33D378723E41A31EB87EBF2A3D_17E957F6_14F93.png)
与会人员合影留念
研讨会下半场分别邀请了清华大学国际研究院夏树涛教授、哈尔滨工业大学(深圳)刘川意教授、暨南大学方俊彬教授进行了技术报告的分享。首先,夏树涛教授分享了题目为《信息论、机器学习与AI安全初探》的技术报告,报告中介绍了其课题组分别机器学习领域、计算机视觉领域以及信息论编码、网络安全领域的工作。其中,重点对其课题组在AI安全领域的工作和成果做了详细的介绍,相关工作包括对抗攻击和防御、后门攻击和防御以及隐私及版权保护。在后门攻击与防御方向,夏树涛课题组位于世界最前沿水平。其团队在目标追踪、语音识别、弱监督/无监督/跨视角图像/视频检索等重要任务上首次提出对抗攻击/后门攻击方法,并揭示了主流深度学习模型的脆弱性;发表了后门攻防领域目前的最高引综述论文,并开发了业内第一个后门攻防开源工具箱:BackdoorBox (https://github.com/THUYimingLi/BackdoorBox)。
随后,刘川意教授分享了题目为《AI靶场——破解数据隐私保护与价值挖掘矛盾的思考与实践》的技术报告。在对AI靶场的情况进行介绍时指出,如何解决数据隐私保护与价值挖掘的矛盾,是AI靶场所针对的问题,并阐述了AI靶场的四个技术理念:数据不动程序动、分享价值不分享数据、数据可用不可见以及保留数据所有权和使用权。随后指出,隐私保护,除了控制数据之外,还要控制数据开发者的权利,阐述了数据开发利用安全模型,阐述了数据开发者权限控制的重要性,并对AI靶场对应用前景进行了介绍。最后,方俊彬教授分享了题目为《AI视觉系统物理对抗攻击》的技术报告。该报告首先分析了数字对抗攻击在实际应用环境中对AI视觉系统威胁的局限性,接着介绍了AI视觉系统物理对抗攻击如何通过物理手段植入对抗攻击的微扰动,并提出一种基于LED照明调制的、人眼不可察觉的黑盒对抗攻击技术,成功攻击了多个人脸识别系统和自动驾驶的视觉系统,具有计算复杂度低、隐蔽性强、高泛化性的优势,最后对AI视觉系统物理对抗攻击下一步的工作和思考进行了介绍。
![](/__local/0/01/3B/D750D6C318ADB9C0F2B1D6D2D7C_0EC99B08_52F52.png)
清华大学深圳国际研究生院夏树涛教授进行技术报告分享
![](/__local/5/BE/99/57798D2AF27DEBD43E6231BA858_CD8928B3_4675A.png)
哈尔滨工业大学(深圳)刘川意教授进行技术报告分享
![](/__local/0/52/53/2815EE3592A701ED2042764BE64_088F0C92_65D36.png)
暨南大学方俊彬教授进行技术报告分享
最后,研讨会进入自由论坛阶段。与会嘉宾围绕省重点实验室未来发展展开热烈讨论,并结合各自研究领域对实验室的建设方案、研究方向提出了建设性意见。邱景飞教授表示本次研讨会收获很大,技术报告的内容值得大家去深入的了解和研究。 夏树涛教授就如何解决AI安全性、鲁棒性的问题发表了意见,并期待安全智能新技术重点实验室能够在这方面做出出彩的成果。实验室主任王轩教授阐述了广东省安全智能新技术重点实验室成立的初衷,指出人工智能大航海时代的风险与机遇并存,人工智能和网络安全两条需要协同发展,衷心期待重点实验室能够不负初心,完成它的使命。华南理工大学计算机学院副院长高英教授指出,广东省计算机学会和深圳市计算机学会要借助安全智能新技术重点实验室的平台加强联系和沟通。平安科技有限公司的副总工程师王健宗对实验室的建立表示了祝贺,对实验室的架构工作表示肯定,希望实验室能够越办越好。(审核人 刘洋)
![](/__local/2/31/21/5AC73B45A66FE54A8A19FBF4327_F7DEFF4C_9F832.png)
自由论坛环节王轩教授发言