深圳大学人工智能学院周年系列活动——青年科学家论坛

受限知识下的视觉模型对抗：从图像防护扰动到黑盒补丁

潜在扩散模型(LDM)与大型视觉语言模型(LVLM)已被广泛用于图像编辑与跨模态感知,也带来了内容篡改与模型安全方面的新问题。本报告介绍报告人近期的两项工作。第一项针对LDM驱动的图像编辑,提出基于潜变量后验坍塌的灰盒对抗防护方法:对图像施加微小扰动,使其经VAE编码后语义结构坍塌,从而无法被正常编辑。该方法只需访问占全模型参数不足4%的VAE编码器,跨多种LDM变体通用,且不依赖任何提示词;相比现有基线运行时间最多降低约74%、显存最多降低约69%。第二项针对真实安全场景中仅返回文本的LVLM,提出硬标签黑盒对抗补丁方法:在无法获取梯度与置信度的条件下,通过比较各区域被遮挡前后输出语义的变化来定位敏感区域,再以无梯度探针估计优化补丁,以更小的扰动面积取得更高攻击成功率。

报告人郭重良,现任英国阿伯丁大学长聘助理教授,研究方向为可信人工智能。他于英国圣安德鲁斯大学获得计算机博士学位,师从Ognjen Arandjelović教授(Fellow of Trinity College、Fellow of the Cambridge Overseas Trust),代表性工作被评为CVPR 2025 Highlight Paper。他曾获英国皇家学会(Royal Society)"全球人才"杰出潜力(Exceptional Promise)背书及英国研究与创新署(UKRI)"全球人才"背书。他目前担任Pattern Recognition副编辑(Associate Editor)兼可信人工智能专刊首席客座编委,以及《中国信息融合学报》副编辑。

面向密态图数据的图神经网络训练与推理

图神经网络作为处理图结构数据的重要框架，已在社交网络分析、推荐系统、知识图谱等领域得到广泛应用。随着人工智能应用规模的不断扩大，将图神经网络的训练和推理部署到云计算平台或第三方算力基础设施等非完全可信环境中，已成为降低本地计算成本、提升模型服务能力的重要方式。然而，图数据通常包含大量敏感信息，在非完全可信环境中开展图神经网络训练和推理将面临严重的隐私泄露风险。针对上述问题，本报告将介绍一个面向密态图数据的图神经网络训练与推理系统。该系统基于轻量级密码学技术，并结合图神经网络计算流程的特点，设计了面向图结构信息加密、邻居节点状态安全聚合、激活函数安全计算以及模型收敛安全评估的一系列定制化协议，在保护图数据、模型参数和推理结果隐私的同时，实现接近明文训练与推理的精度表现。本报告还将进一步探讨其在安全人工智能、云端算力服务和隐私保护图学习中的潜在应用价值。

报告人王松磊，深圳大学人工智能学院、大数据系统计算技术国家工程实验室助理教授，博士生导师、硕士生导师。研究方向聚焦图数据的安全搜索与分析，提出了首个面向密态图数据的图神经网络训练与推理框架、首个面向密态图数据流的模式匹配系统，以及首个面向密态图数据库的图相似性搜索系统，为密态图数据计算提供了多个基准性方案。已发表学术论文20余篇，其中以第一作者/通讯作者发表CCF-A类论文12篇，相关成果发表于网络空间安全领域四大会议USENIX Security、IEEE S&P，以及数据库领域顶级会议VLDB等。已获授权隐私计算相关国家发明专利9项。担任IEEE TIFS、IEEE TDSC、IEEE TKDE、IEEE TSC等CCF-A类期刊审稿人，并担任CSDP 2026、MSN 2025、DASFAA 2024/2025等国际会议程序委员会成员或审稿人。