讲座主题：人工智能安全：对抗学习的范式演进
时 间：2026年10月20日11:00
主讲人：纪守领 教授
地 点：信息科学与技术学院三楼会议室（绿2-303）
专家简介：纪守领，浙江大学计算机学院求是特聘教授/长聘教授、博士生导师，可信人工智能研究中心主任。获佐治亚理工学院电子与计算机工程博士学位、佐治亚州立大学计算机科学博士学位，入选教育部长江学者、高层次科技创新人才、国家青年特聘专家等。主要研究方向为可信人工智能、软件与系统安全，主持国家重点研发计划项目、国家自然科学基金联合重点项目等多项，发表CCF A类论文100余篇、含安全四大顶会论文60余篇，研制的系统在多个大型平台上获得部署应用。获安全顶会IEEE S&P 2025杰出论文奖、ACM CCS 2021最佳论文奖等10项最佳论文奖、全球黑客大会Pwnie Awards最具创新研究奖提名等。
讲座简介：随着人工智能从深度学习模型向大语言模型和智能体演进，安全边界也由算法内部扩展至语义交互、系统权限和现实行动。本报告以对抗学习的演进为主线，探讨深度学习、大模型与智能体三个阶段安全问题的内涵变迁：从围绕表征与决策边界的数据侧和模型侧对抗，发展为开放语义空间中的对齐绕过、指令操纵与行为植入，并进一步演化为贯穿指令、状态和权限的系统控制权争夺。结合课题组相关研究，报告将总结人工智能安全由局部脆弱性向系统性风险演进的规律，并探讨如何通过鲁棒量化、机理解释与系统化评测，构建可验证、可复现的人工智能可信保障体系。
