岗位描述
研究领域： 大模型 项目简介： 1. 当前面临的核心瓶颈 数据稀缺与质量瓶颈：安全等专业领域的高质量原始语料高度稀缺，且已有数据表达形式单一、多样性不足，制约模型泛化能力。单纯增加算力若无优质新数据，模型能力将停滞。 合成数据的突破：通过教师模型生成安全类语料（如结构化数据、多跳推理样本），并训练轻量级幻觉检测器筛选合成内容，可超越原始数据质量。但合成数据仍需配合归因机制，才能形成完整的自我进化闭环。 反馈归因缺失：模型在安全任务中出现错误时，现有反馈仅停留在“标注-修正”层面，缺乏对错误根本原因的系统性追溯，导致迭代效率低。 自迭代瓶颈：当前模型自适应主要依赖启发式规则或简单强化学习，缺乏科学、可解释的归因指导，难以实现持续稳定的性能提升。 2. 与当前AI浪潮的结合 从“数据清洗”到“数据生成”：传统AI侧重清洗现有数据，本课题聚焦合成安全领域的推理语料（如思维链），同时引入因果归因技术，通过设计层层递进的评测题，从模型中间步骤的错误反向推断训练语料中的因果关系颠倒、关键证据缺失等问题，实现从“什么错了”到“为什么错”的跨越。 自我进化与科学归因：利用合成数据训练新模型，新模型再生成更优数据，形成自我进化飞轮。在此基础上，通过评测题发现的归因信号，定向补充缺失语料或修正错误标注，形成“发现问题—归因定位—修复数据”的闭环，确保自迭代稳定可控。 多模态、长文本与可解释性：当前热点是处理长上下文和多模态数据。合成技术可生成互联网稀缺的长程依赖数据；在金融、安全等高风险场景，因果归因提供的可解释性直接支撑模型决策的可信度。 AGI路径中的自迭代：模型自我改进是通向通用人工智能的核心能力。科学因果归因为实现稳定可控的自进化提供方法论，与数据合成飞轮共同构成持续学习的两大引擎。