025年9月10日下午，由中国图象图形学学会、蚂蚁集团、云安全联盟CSA大中华区联合主办的2025全球AI攻防挑战赛在上海 Inclusion·外滩大会上圆满收官并举行颁奖典礼。上海交通大学人工智能安全实验室组建的SJTU-AISL团队（成员：武飞、牛子健、丁光豪、康耀宇、刘灿、王桢锐）凭借创新性的技术方案与扎实的实战能力，荣获图像生成赛道与视频生成赛道两项“最佳方案奖”。

2025年5月23日至5月25日，上海交通大学人工智能安全实验室（AI Security Lab）何怡博士和杨磊博士参加了在苏州举办的第50届IEEE国际声学、语音与信号处理会议（International Conference on Acoustics, Speech and Signal Processing, ICASSP 2025）苏州卫星会议，并在会议上对实验室录用的5篇论文进行了现场报告。期间，实验室师生与国内外领域专家进行了深入交流，并在会场合影留念。

由上海交通大学2024年春季《人工智能安全技术》课程（NIS3353）讲义拓展而来（教师：张倬胜），旨在提供大模型相关的入门编程参考。通过简单实践，帮助同学快速入门大模型，更好地开展课程设计或学术研究。涵盖微调与部署、提示学习与思维链、知识编辑、模型水印、越狱攻击、多模态模型、大模型智能体与安全等内容。