岗位描述
一、词库治理，违禁词库建设与维护 1. 负责全场景违禁词库的日常增删改查，覆盖内容安全色情、违法违规、公序良俗、嘲讽辱骂等风险问题；建立词库分级体系，制定差异化处置策略； 2. 绕审变体识别与对抗：建立乱序词、谐音词、拆字词、符号插入等绕审手法的检测能力，基于模型构建变体词索引，替代逐个枚举排列的粗放模式，定期巡检词库命中率，清理高误 报词； 3. 正则规则引擎优化：维护正则匹配规则，针对正则覆盖不足问题，持续扩充匹配模式，建立正则规则的回归测试集，确保新增规则不引入误伤； 二、算法调优，机审策略配置与调优 1. 负责机审路由策略，优化各检测能力的权重与组合逻辑，调整转人工阈值，在拦截率与误伤率之间寻找最优平衡点； 2. 漏放分析与模型迭代，建立三维度漏放监控体系：对漏放样本做 case 级归因分析（关键词盲区/正则覆盖不足/模型误判/信号缺失），推动模型迭代，基于漏放分析结果，提炼新特征需求，协同算法团队完成模型训练与评测； 3. AI 审核能力建设：设计并迭代大模型内容安全审核 Prompt，覆盖政治敏感、暴恐、色情、违法、未成年保护、公序良俗等风险，针对词库提取、扩展、优化、预警、分析提效； 三、运营闭环，审核效率运营 1. 监控各场景核心指标，发现异常波动及时介入，对于风险覆盖指标负责，与各个场景环节联动建立运营指标，并基于准、召等指标，定义运营优化的流程并负责落地； 2. 对问题风险负责，具备问题定位、复盘、方案优化的能力，能够快速应对各类突发问题，并及时给出应对方案，例如舆情、客诉问题；