智能体威胁识别与对抗防御研究-阿里星

1、负责集团端管云全链路场景下的智能体安全能力建设，针对不同意图与形态的智能体（GUI Agent、API Agent 等）构建高效的威胁识别、行为分析与对抗防御体系； 2、探索面向 VLA 的对抗样本生成与防御技术，包括跨模型/跨任务可迁移的通用对抗攻击、感知-决策链路的鲁棒性评估及防御机制设计； 3、探索智能体幻觉问题的检测与缓解，覆盖感知幻觉（界面元素误识别、属性/关系错误）与推理幻觉（指令偏离、逻辑谬误、事实捏造），构建幻觉诊断基准并设计缓解机制； 4、参与基础安全域模型的安全能力建设与迭代，探索解决安全域样本标注昂贵稀缺、可读性差等核心瓶颈问题。