岗位描述
1. 负责研究大模型攻击机理，覆盖提示注入、模型越狱、知识蒸馏、思维链（CoT）窃取、数据投毒等方向，建设系统化的攻击方法论、攻击库与攻击工具链； 2. 针对各类攻击机理，设计并落地模型侧（对齐加固、鲁棒性训练）与应用侧（输入输出防护、运行时监测）防御方案，重点攻关反蒸馏与模型资产保护（输出扰动、水印、蜜罐投毒等）； 3. 构建大模型攻防评测集（攻击集 + 防御效果集），定义并基准化攻击成功率、防御召回率、蒸馏还原度等核心指标，驱动攻防能力可度量、可迭代； 4. 沉淀攻防技术文档与最佳实践，跟踪学术前沿（顶会论文、开源攻击/防御项目），参与技术分享与标准共建。