2026年8月29日（星期六）下午14:00至18:00，由中国计算机学会（CCF）主办，CCF YOCSEF深圳组织的观点论坛《聚力破局，智守安全：智能体浪潮奔涌，安全边界如何重塑？》在广东省深圳市南山区深圳大学城哈尔滨工业大学（深圳）校区信息楼L416室顺利召开。本次论坛聚焦智能体落地进程中，由其自主决策、跨工具调度、无人干预作业等特性所带来的新型安全防护风险，行业普遍面临的技术防护滞后、权责界定模糊、管控标准缺失等痛点，开展了深入探讨。
本次论坛由CCF YOCSEF深圳委员、哈尔滨工业大学（深圳）副教授吴宇琳，CCF YOCSEF深圳AC委员、深圳大学副教授章秦共同担任执行主席。本次论坛参会嘉宾来自清华大学、哈尔滨工业大学（深圳）、华东师范大学、鹏城实验室、北京理工大学（珠海）、南方科技大学、深圳大学、深圳技术大学、深圳北理莫斯科大学、光明实验室等知名高校与科研机构，以及腾讯科技、南方航空、顺丰科技、深侬科技、云鼎智算、立谱智造、锐软科技、舟道教育等企业。
章秦首先介绍了YOCSEF的文化与发展历程。随后，吴宇琳介绍了论坛举办的背景和意义。她指出，全球AI智能体市场规模正经历爆发式增长，然而产业格局从“拼模型”转向“拼落地”的同时，安全风险也从“AI会说错什么”演变为“AI会做错什么”。智能体安全不再是技术发展的“附加项”，而是决定产品能否落地、企业敢不敢用的“前提”。智能体自主落地进程中的安全技术迭代、安全标准完善、安全合规建设等问题亟需受到关注。
本次论坛邀请了多位国内高校的知名专家作引导报告，围绕智能体的推理隐私、可信智能体构建、智能体安全防护等展开深入探讨。
南方科技大学教授张殷乾做了题为《大模型推理的隐私风险与安全防护》的报告。他系统梳理了云端大模型推理面临的三类攻击者：网络攻击者、共享资源攻击者与特权攻击者，并结合三星数据泄露、模型训练数据回流等案例，剖析了企业使用云端大模型时的隐私困境。他指出，私有化部署成本高昂且迭代滞后，传统密码学方案又面临性能瓶颈，基于TEE（可信执行环境）的隐私保护推理系统是实现在不可信环境中构建可信执行空间的途径之一。目前，相关技术已在律所合同自动化脱敏等场景落地。
华东师范大学教授殷赵霞做了题为《从数据模型安全到可信智能体》的报告。她介绍了从多媒体信息安全到人工智能安全的不同研究脉络，以及可逆对抗样本、推理模型越狱攻击、模型水印与AIGC鉴伪溯源等方面的研究进展，并从可信记忆治理、工具调用、持续进化三个方面对智能体安全问题进行了深入剖析。
哈尔滨工业大学（深圳）教授罗文坚做了题为《关于智能体安全的三个问题》的报告。他首先介绍了“智能安全”“安全智能”与“隐私计算”三个方向的研究进展，提出“AI模型安全不等于智能体安全”，后者需在模型之外叠加记忆、环境、身份、工具与系统等维度。
论坛随后进入思辨环节，大家围绕“智能体安全的研发边界、权责边界和治理边界”等三方面展开了深入思辨。
针对第一个议题“智能体安全研发边界：开源与闭源如何取舍与协同？”，深圳大学特聘研究员、副教授陈杰作为特邀嘉宾进行了引导发言。他提出，智能体开源应分层而治：通用智能体可全链条开源以集众智提升Safety；行业智能体涉及核心数据资产，基座模型宜闭源；安全组件与工具层则可开源共享，避免重复造轮。针对第二个议题“智能体安全权责边界：多主体权责如何界定与分担？”，深圳大学副教授李俊杰和鹏城实验室助理研究员邓文峰进行了引导发言。李俊杰以自动驾驶为类比，指出智能体责任体系需明确有限责任边界，服务协议并非免责金牌，应遵循“谁受益谁担责”原则，并通过技术与法律双重机制实现风险隔离。邓文锋进一步提出“Agent并非独立责任主体”的核心观点，认为运营方因掌握权限配置而负主要责任，开发者、工具提供者、使用者依过错分担；他强调，自主性不是责任减免项，而是安全义务的放大器。针对第三个议题“智能体安全治理边界：安全约束与创新发展如何平衡？”，深侬科技联合创始人王根平进行了引导发言。她提出，智能体治理需差异化准入：个人娱乐等低风险场景可先试先行，医疗、金融、政务等高风险领域需内置安全管控；安全标准宜分层建设，例如基础国家安全、行业标准、企业制度等，在统一底线与差异化创新间寻求动态平衡。
与会人员就各个议题充分交流、深入研讨，达成共识：智能体安全不是发展的“绊脚石”，而是产业“行稳致远”的“压舱石”，需在开源与闭源的协同、权责与利益的平衡、约束与创新的博弈中，共同重塑智能体时代的安全边界。最后，CCF YOCSEF深圳AC主席李蒙对本次论坛进行了总结，强调智能体安全的保证需要全生命周期、多层次的防护，技术保障之外，还需要开源社区审计、行业标准和监管框架的共同支撑。
吴宇琳副教授简介：
吴宇琳，博士，计算机科学与技术学院/计算机应用研究中心/网络空间安全研究院副教授，博士生导师，哈工大青年拔尖人才，鹏城孔雀计划特聘岗位，深圳市高层次人才，广东省科协青年培育项目入选者。担任广东省安全智能新技术重点实验室、深圳移动互联网应用安全产业公共服务平台、哈工大（深圳）-平安科技粤港澳智慧金融研究中心等科研平台主任助理，担任IEEE Trans TDSC, Information Sciences等国际顶级期刊和会议审稿人。
研究方向为人工智能安全，隐私计算，智能博弈决策。曾前往澳大利亚卧龙岗大学国际信息安全专家、IEEE Fellow Willy Susilo教授课题组访问研究两年。已在包括IEEE Transactions on Dependable and Secure Computing, IEEE/ACM Transactions on Computational Biology and Bioinformatics, Information Sciences等国际顶级期刊和会议发表学术论文30余篇，专著1部；申请发明专利30余项，授权20余项；主持国家自然科学基金青年项目、深圳市基础研究项目、面上项目等，参与国家863计划、国家重点研发计划、国家自然科学基金面上项目，鹏城国家实验室AI赋能重大项目，广东省重点研发计划等多个项目，研究成果应用于中国平安、华润集团、中国移动、奇安信、中国航空工业信息中心、中电长城、奇虎360等知名企业，获2022年度国家教育部科技进步二等奖，2025年中国人工智能学会吴文俊科技进步一等奖，2024年中国高校计算机教育大会教学案例大赛特等奖，2024年哈尔滨工业大学计算学部校企合作贡献奖，2025年哈尔滨工业大学计算学部竞赛指导突出贡献奖。指导多个研究生团队分别获2024年世界自动化谈判智能体竞赛世界第二，2025年世界计算经济挑战赛异质经济智能体赛道世界第三名，2025年全国“挑战杯”揭榜挂帅专项赛战略博弈赛道全国特等奖，2023年全国青年人工智能创新创业大会创新组一等奖；指导本科生团队获2023年全国大学生机器人大赛国家二等奖，2024年全国“挑战杯”广东大学生创业计划竞赛省级铜奖。
编辑|吴宇琳
初审|黄颖欣
复审|漆舒汉
终审|王轩
