VDR · 多模态检索
2026-08-03 · DATA + MODEL

多模态检索
引擎

文档 · 图像 · 音视频统一检索底座。当前主线是 v0.5:causal 融合已完成,bidir×seed-merge 在跑,Hard-neg H1/H2 已就绪。

VDR DATA ENGINE 775,635 当前主线训练集 v0.5
0.726当前最好 · Avg4@10
0.745Nemotron 8B · Avg3@10
在跑bidir × 3-seed 融合
就绪Hard-neg H1 / H2

数据资产

训练 · 预训练 · 合成 · 冻结评测
RETRIEVAL PAIRS 5.61M

Docmatix-IR

1 个正例 + 20 个 hard negatives;依赖 Docmatix 图片关联。

PRETRAIN PAGES 18M

PDFA

约 216 万 PDF、1,800 万页;作为页面预训练底库。

OPEN CORPUS 1.27M

Wiki-SS

44,002 个训练 Query,连接 126 万张维基页面截图。

SYNTHESIS MATERIAL 173K

Shennong Chart

中文图表 + Markdown / HTML 真值,用于离线证据校验。

PDFA 数据家族 三层资产按 key / 页序 / 图像指纹登记同源
PDFADocmatixDocmatix-IR
6当前 v0.5 训练源
4主评测:ViDoRe v1/v2/v3 + JinaVDR
5现有多语训练语言
角色资产规模覆盖
TRAINColPali118KDocVQA / 图表 / 论文
TRAINVisRAG Synthetic239K手册 / 教材 / 论文
TRAINVisRAG In-domain123K图表 / 信息图 / 幻灯片
TRAINVDR Multilingual281Kde / en / es / fr / it
TRAINTAT-DQA + TabFQuAD14.8K财务 / 法语表格
PRETRAINPDFA18M 页英文 PDF
CORPUSWiki-SS1.27M 页维基截图
SYNTHShennong Chart173K 图中文图表
EVALViDoRe v1 / v2 / v3多版本多领域 / 多语言
EVALJinaVDR42 子集截图 / 扫描 / 图表 / 多语
EVALMIRACL-VISION18 语言多语言检索
EVALMMLongBench / ViDoSeekPDF 级长文档 / 多跳

数据漏斗

单位:训练对
775,635
100%
775,635
100%
v0.5
主线
712,459
历史

模型情况

现在可训 · 有对比 · 有下一步
CURRENT MODEL ColQwen3.5 · 4.5B

v0.5 主线;causal 3-seed 融合 Avg4@10=0.726。bidir×seed-merge 正在平台跑。

LoRA多向量Late Interaction
IN PROGRESS bidir × seed-merge

三 seed(42/123/456)各训评后融合;相对 causal 融合仅改 BIDIR=on。

双向注意力模型融合
NEXT Hard-neg H1 / H2

列表已冻结:H1 单/双负 CE;H2 为 T=0.02 的 3/1/0 listwise。

难负样本Listwise
MULTI-VECTOR 多向量检索

页级 token 多向量 + MaxSim late interaction,比单向量更贴合版式与局部证据。

BIDIRECTIONAL 双向注意力

相对 causal masking,文档页编码可看全上下文;v0.5 上 bidir 的 Avg4 略优。

HARD NEGATIVE 难负样本

复用已有 8B MaxSim;H1 单/双负 CE,H2 为 T=0.02 的 3/1/0 listwise。

v0.5 · causal vs bidir

当前主线
ViDoRe v1 nDCG@5
causal0.907
bidir0.911
ViDoRe v2 nDCG@5
causal0.578
bidir0.586
ViDoRe v3 nDCG@10
causal0.555
bidir0.579
JinaVDR nDCG@10
causal0.768
bidir0.745

当前主线与外部对照

本地 v0.5 与 Nemotron 官方参考
模型数据V1@5V2@5V3@10Jina@10
v0_5_causal~776K0.9070.5780.5550.768
v0_5_bidir~776K0.9110.5860.5790.745
v0_5_seed_merged~776K · 当前最好0.9100.5940.5860.784
v0_5_bidir_seed_merged在跑
Nemotron 3B-v2本地 2×8 卡0.9190.6290.598
Nemotron 4B-v2本地 2×8 卡0.9220.6470.615
Nemotron 8B-v2本地 2×8 卡0.9260.6470.638

怎么做的

四步
01建清单统一指纹
02建训练对六源合并
03导出v0.5 主线训练集
04训练ColQwen LoRA