大安全
参与安全统一模型 V3 合训,负责短剧数据构造与 SFT 训练评测。在 SFT 阶段推进密集 Caption 数据优化,并针对上线约 2% 的打扰率探索 Rubric RL。
暑期实习生转正答辩 · 机器智能 · 安全内容智能
参与安全统一模型 V3 合训,负责短剧数据构造与 SFT 训练评测。在 SFT 阶段推进密集 Caption 数据优化,并针对上线约 2% 的打扰率探索 Rubric RL。
面向短剧热点挖掘,生成带时间定位、跨章节一致的剧情描述。CausalChapter 同骨干 CIDEr +21.52,第一作者录用 EMNLP 2026 主会。
定位同一风险域内音视频分布异质造成的训练退化。接入自动聚类、分群训练与评测迭代,负责风险域提升 4 个点,全程无需人工分类。
面向科研论文与书籍,设计递归知识结构化 Agent。支持自底向上聚合和 Outline 引导补全,较 Vanilla RAG 平均提升约 6 个点。
搭建教师定位、轨迹、视线、骨骼动作与表情分析方案。入选首批“人工智能+高等教育”典型案例,一作论文录用《计算机科学》。
面向不同风险域与专项能力,通过分阶段训练、能力融合和评测回流,形成可统一部署并持续迭代的安全多模态模型。
通用多模态基础能力
恢复基础能力
注入安全知识与规范
安全概念与规则知识
专项任务监督样本
动态规则与审核推理
密集视觉事实覆盖
多专项教师分布
引导统一建模
发现误打扰并定位错误环节
构造针对性反馈并优化训练
多风险域、多专项能力
统一部署
业务准召、白样本打扰
与专项能力回归
以自动圈选、动态规则和快慢思考模板构造可直接进入统一合训的业务指令数据,并在不同规模模型上验证收益。
匹配规则与图像、视频语义,筛选与规则相关的业务内容。
聚合单集或合集视频、ASR 与代表帧,形成多模态输入。
围绕同一素材构造不同规则边界,使结论由规则条件决定。
结合视觉内容与规则生成审核推理,过滤结论不一致的轨迹。
将规则、ASR、视频帧与 CoT 转为可直接进入统一合训的数据。
规则、视频帧与 ASR 作为多模态输入,模型回答包含可回溯的分析过程和审核结论,可直接写入 SFT 训练集。
业务指令样本 · JSONL动态规则的业务指令数据 围绕文本规则和审核目标训练模型,同一张图中与当前问题无关的视觉信息很少进入监督。
成年女性背对镜头站在窗边,身体未穿衣物,胸部、腹部、腿部等部位可见;但未见臀部大面积裸露且臀沟或裆部皮肤清晰可见,也未能清晰辨识敏感部位轮廓,最终判断通过。
女性主播穿着无袖短上衣,腹部明显露出;但未见完整露出肚脐,因此判断不命中穿着风险。
同一图片匹配不同规则,模型能够随规则变化作出不同判断。
每条 QA 只围绕当前规则提供监督,画面中的其他对象、属性和关系很少进入训练。
让同一批业务素材提供更全面的图像信息,为不同规则保留可复用的视觉基础。
业务指令数据 训练模型依据规则作出判断,Caption 补充画面中的可见事实。两类监督共同使用同一批业务图像和视频。
为同一素材替换审核规则并生成不同问答,使模型学习规则条件、风险边界与审核结论。
每条问答通常只监督一两个风险实体,未参与当前判断的对象、文字和关系很少进入答案。
描述不依赖具体审核规则的可见事实,使同一份视觉证据能够被不同规则、风险域及后续专精训练复用。
Caption 与业务 QA 一起训练,补充业务指令数据之外的视觉事实监督;后续专精训练与 MOPD 流程保持不变。
多风险域业务指令数据 注入规则判断能力;Caption 使用同一批业务图像和视频补充视觉事实监督。
在业务 SFT 模型上训练对抗 OCR、细粒度感知等方向专家,再将专家能力蒸馏回统一模型。
业务 Caption 同时要求视觉覆盖、上下文理解和可控汇总。现有方法各自只解决其中一部分。
单独使用 紧裁剪丢失上下文,逐 Mask 描述重复、调用量大。
Pipeline 只路由易遗漏的小实例,用 Padding、吸收与组合保留上下文并减少调用。
Patch Matters · DAM · DenseWorld-1M单独使用 框、Mask 和标签难以表达开放业务语义,识别错误会传入最终描述。
Pipeline 视觉专家只负责定位,局部 MLLM 结合上下文生成自然语言。
Visual Fact Checker · attribute experts单独使用 只能整理已识别的事实,补不回视觉遗漏,全量拆分成本高。
Pipeline CaptionUnit 组织局部增量,Claim Ledger 检查融合内容是否有来源支持。
CompreCap · CCCaption · DBD论文原图:DAM · Visual Fact Checker · CompreCap
全图描述保留整体叙事,局部链路补充容易遗漏的小实例。融合后的 Dense Caption 与业务 QA 一起进入第一阶段 SFT。
老人倚墙坐在地上,手持物品靠近嘴边,脚边散落随身物品。
局部 Caption
老人将黑色口琴置于嘴边吹奏;深色头巾包裹头部;蓝色拖鞋与塑料袋位于脚边。
仅在发现无来源事实、重复或冲突时改写一次。
完整、细粒度、可追溯的视觉事实监督
规则条件、审核边界与业务结论
Router 在构造 CaptionUnit 时扩展上下文并组合关联实例;局部 Caption 生成时再输入对齐 Mask,明确当前描述对象。
直接沿检测框裁剪。框偏移容易截断目标;即使框准,孤立小框也缺少动作与场景线索。
沿目标边界保留人物嘴部、手部和持握动作,进一步识别为正在吹奏的口琴。
相邻小目标分别裁剪和描述,对象关系被拆散,同时产生多次模型调用。
组合空间相邻、场景相关的实例,一次恢复脚边物体及位置关系,并减少局部生成次数。
视野扩大后同时出现人物、衣服和手部,模型难以确定当前应该描述哪个目标。
同时输入局部原图与对齐 Mask,保留完整场景,并将描述集中在指定目标及其关系上。
保留各模型的完整输出,逐句核对原图。红色表示明确的事实错误,橙色表示识别不充分或缺少图像依据。
画面里是一名成年男性,独自坐在粗糙墙面旁的地上,身体侧靠着墙,双腿弯曲收在身前,赤着脚,脚下像垫着一双蓝色拖鞋。他身形很瘦,脸部和手臂线条都很明显,头上包着深色头巾,穿一件深灰色短袖上衣和浅色长裤。男子嘴边含着一个小型金属物件,右手也扶着它,左手拿着一个金属杯或罐状容器,视线朝前方伸手的方向。地面上靠近他臀部位置放着一个打火机和一根细长的黄色物件,身后垫着一块带有蓝黄图案的包装袋或软垫。整个场景是在室内或有遮挡的墙边地面,光线偏自然,画面气氛安静、压抑,人物显得疲惫而落魄。结合你补充的时间背景 2026-09-12,这仍然只是对这张图片内容本身的如实描述。
画面中是一位身形消瘦、面容沧桑的年长男子,他正背靠着一面质地粗糙的灰白色墙壁坐在地上休息。男子头戴一顶深褐色的无檐软帽,脸上布满深深的皱纹,颧骨高耸,皮肤呈黝黑的古铜色,神情专注。他上身穿一件深灰色的短袖衬衫,下身是一条浅卡其色的宽松长裤,裤脚卷起,双脚赤裸,脚底隐约踩着一双带蓝色鞋带的拖鞋。他屈起双腿、双膝抬高,右手握着一个银色的金属罐状容器,左手则捏着一根细长的深色物件送到嘴边,似乎正在咀嚼或品尝什么,其右手手指上还戴着一枚金色的戒指。在他身侧的地面上,放着一个蓝、白、黄相间的塑料袋,袋旁散落着一根吃剩的香蕉皮。男子所坐的地面由深色的石板或大理石地砖铺成,砖面带有天然的纹理,整幅画面呈现出一种街头休憩、朴素而真实的生活气息。
照片中是一位年迈的老人,他头戴深色帽子,身穿灰色短袖上衣和浅黄色长裤,赤脚坐在粗糙的水泥地面上,靠着一面斑驳的灰墙。他正用右手拿着一个金属小杯子,将杯子嘴对准嘴唇,似乎在吸食或吹奏某种管状物,左手则握着杯子,手指上戴着一枚戒指。他的面容苍老,皮肤黝黑干瘦,眼神专注而略带沧桑。身旁放着一个彩色的塑料袋和一支橙色打火机,脚边还有一双蓝色拖鞋。老人姿态蜷缩,像是在街头乞讨或休息,整体画面透出一种贫困与岁月的痕迹,但他的动作却带着某种生活的仪式感或自娱自乐的意味。
一位瘦削的老年男子赤脚坐在铺有深色石砖的地面上,背靠粗糙的浅灰色墙面,双膝弯曲抬起,身体微微侧向画面右侧。他头戴一顶深棕色头巾,表面可见编织纹理,边缘整齐地贴合额头和耳部上方;身穿深灰色短袖衬衫和宽松的米黄色长裤。男子右手举着一支黑色口琴靠近嘴边吹奏,口琴部分被手部遮挡;左手握着一个银色金属容器,一根黄色细绳缠绕在手指与容器之间,将两者连接。他脚边放着一个蓝白相间、印有黄色标签的塑料袋,旁边横放着一根带木质手柄和金属连接部分的工具;地面上还有两只分离的蓝色人字拖,其中一只部分被他的脚部遮挡。画面右上角可见“ANTHONY ASAH”字样。
现有方案没有稳定识别决定场景含义的小目标和动作关系;自建 Pipeline 借助局部上下文与明确指代,恢复了口琴、吹奏动作及脚边物体之间的具体关系。
单案例精细分析保留各模型完整输出。切换图像与模型后,红色标出事实错误,橙色标出证据不足;Pipeline 中稳定恢复的关键事实加粗。
固定同一业务 SFT 配置,仅追加 Caption 数据。每行是一个业务场景,先用粗条给出该场景在各能力方向上的平均提点,再往下展开该方向内各 Benchmark 的明细(橙色条长度为加入 Caption 后的真实得分)。
SFT + Caption 1K vs 仅财富 SFT
SFT + Caption 1K vs 仅广告 SFT
SFT + Caption 1K(E2)vs 仅底线 SFT(E2)
口径说明:基线为同数据量仅业务 SFT,明细为各能力方向内的代表性 Benchmark;9B 对照取财富场景同配置的 CapRL Caption。完整逐项数据见 caption-risk-radar。
视频证据多了时间维度:全局锚定与局部证据被扩展为帧级轨迹、ASR 与时序事件。左侧为流程框图预留位置,右侧对比同一样本上的 Caption 产出,定量结果默认只看方向均值、点击展开明细。
SFT + Caption 1K
相对仅短剧 SFT
短剧、广告、底线、财富各抽取 5K 业务数据模拟统一合训,在此基础上加入 4K Caption,比较加入前后的业务与视觉能力。
多域业务数据扩大了视觉覆盖;追加 4K Caption 后,各业务域仍获得增量收益,细粒度视觉与自建能力提升更明显。
小规模数据配方实验。四个风险域各抽取 5K 业务数据,并追加 4K Caption;域内均值只使用两组模型共同完成的指标等权计算。
统一模型落地到输入来源更复杂的阿宝问答式 RAG 搜图场景后,Lite 快思考模式白样本打扰约 2%,距离 1/万业务目标仍有明显差距;抽样发现错误分布在视觉识别、概念关联与规则推理等不同环节。
“……图片展示了一名小女孩的面部特写,其嘴部被大面积的深色色块(马赛克/色块)遮挡。……”
“……红灯内部显示的是一个红色发光的人形图案……该图像展示的正是“¥¥人”意象的变体……”
“……中国近现代史(1840年至今)上经官方认定的英雄或者烈士形象(规则重述)……图片将美国前总统奥巴马置于“卖主”、“假业务”等负面语境中,属于对国家领导人形象的娱乐化、低俗化处理,符合管控细则第6条中关于“使用恶搞图片或将英烈形象与低俗内容相结合……”
相同的误打扰结果,对应不同的纠错目标。单一结果标签无法指出错误发生的位置,需要根据每条样本的具体矛盾提供针对性的训练反馈。
以样本级 Rubric 组织强化训练:同组比较稳定奖励,固定参照锚定尺度,延迟更新让训练聚焦仍未解决的样本。
在扫描构建的白样本打扰 Bench 上,Lite 模型完成 100 步小规模训练后,打扰率由 43.59% 降至 2.90%;同时在真实业务评测集抽样验证准召,检查纠错是否以损伤原有业务能力为代价。
模型输出越来越符合针对该样本定义的正确判断标准
固定参照不变的情况下,模型自身生成结果的评分优势持续扩大
训练后期,大部分组内生成结果都能够稳定超过固定参照
已稳定学会的样本退出更新,训练逐渐聚焦剩余难例
训练设置:Lite V3 SFT,训练集 6,547,验证集 1,611,rollout.n=4,固定参照 2 条,Verifier 为 Kimi-K3。右图验证集由真实业务评测集抽样构成,每 5 步评估一次,指标为百分比。
三项工作分别补充业务指令、视觉事实与白样本纠错信号,贯穿统一模型从 SFT 数据构造到事实性校准的完整链路。
关键结论 建立从自动圈选、动态规则到快慢思考模板的构造链路,数据可直接进入统一合训。
关键结论 业务指令数据与 Dense Caption 形成互补监督;扩大业务数据规模后,Caption 仍提供稳定增量。
关键结论 扫描归因将不同推理环节的错误转为样本级 Rubric;小规模训练降低打扰,同时暂未观察到明显准召损失。
近期方法分别把 Rubric 用作结构化奖励、蒸馏指导和动态课程。反馈更细了,但仍不能直接覆盖动态规则审核中的样本级纠错。
核心思路 将任务要求拆成样本级判据,逐项评价后汇总为奖励,替代只看最终答案的单一结果分。
适配限制 一次推理仍被压缩成一个总分;同一样本的多条错误轨迹之间缺少直接比较,信用分配仍然较弱。
RaR · Rubric Anchors核心思路 RGR-GRPO 同时提供奖励与离线指导;ROPD 从教师参考与学生轨迹的差异中生成判据,再用于 on-policy 更新。
适配限制 判据虽然更具体,候选轨迹通常仍逐条独立评分;不同错误阶段没有在同一组中显式比较。
RGR-GRPO · ROPD核心思路 随策略能力调整判据的难度、权重或内容,让训练重点从基础能力逐步迁移到复杂推理。
适配限制 审核样本的图像事实和规则边界应保持稳定;判据随训练漂移,可能改变原本的决策目标。
RcRL · RuCL · DR Tulu研究参考:RaR, ICLR 2026 · RGR-GRPO · ROPD · RuCL