6月16日,信息工程学院网络教研室邀请西安四叶草信息技术有限公司安全攻防演练工程师习翼作题为《大模型安全攻防——真实边界下的安全之眼》的技术讲座。学院网络空间安全相关专业的教师、研究生及本科生积极参与。
习翼紧密围绕“大模型安全攻防”这一前沿主题,首先介绍了大语言模型(LLM)的基础知识、发展历程及其关键技术,为师生构建了必要的知识框架并重点剖析了大模型面临的核心安全威胁与典型攻击手段。结合真实案例,他生动解析了包括提示词注入攻击、越狱攻击、数据投毒、后门植入等在内的多种高风险攻击方式,揭示了其在现实场景中的危害。针对存在的安全威胁,给出了当前主流的应对策略与防御机制,提出了构建更健壮、安全的大模型系统的具体方法。在攻防演练与实操挑战环节,让大家在模拟环境中亲身体验了实战环境攻防对抗,深化对理论的理解。最后大家共同探讨了AI安全研究的当前边界与未来发展趋势。
本次讲座为学院师生带来了一场聚焦AI安全前沿实战挑战的深度分享,讲座内容兼具理论高度与实践深度,有效提升了师生对大模型安全问题的认知水平和实战应对能力,对推动学院在人工智能安全领域的研究与人才培养具有重要意义。
(文、图:赵江波/审核:冉照海/编辑:陈庆芝)