岗位描述
1. 参与多模态大模型(MLLM)及其应用场景的安全风险研究,探索文本、图像、视频、音频等跨模态交互中的新型攻击面(如跨模态语义鸿沟利用、隐写攻击),进行威胁建模与风险定级。 2. 协助开展多模态安全攻防实验,包括视觉/语音越狱(Visual/Audio Jailbreak)、对抗样本生成(Adversarial Perturbation)、跨模态提示注入等,评测主流多模态模型在复杂输 入下的鲁棒性与防御边界。 3. 研究多模态大模型的原生安全增强技术,探索基于潜在空间防御(Latent Space Defense)的改进算法,从模型底层提升安全性。 4. 跟踪前沿研究进展,调研多模态学习、对抗机器学习、模型对齐与可信AI领域的顶级会议论文(如CVPR, NeurIPS, ICLR等)及技术方案,为团队提供前沿技术洞察。 5. 协助构建多模态安全评测基准与自动化工具链,沉淀高质量的跨模态攻击数据集,形成可复现的评测流程,支持团队在多维感知场景下的风险分析与能力验证。