VDR / 项目文档 / 项目状态
项目状态
唯一状态入口：当前阶段、资产、阻塞项与下一步
VDR 当前状态
状态日期：2026-07-27
本文是项目当前状态的唯一入口。计划内训练与冻结评测开源资产已全部落盘并完成 Case 分析和本地抽样；合成原型已跑通。完整泄漏审计、正式数据治理、Registry、Release、外部训练、统一评测和 Hub 发布均未完成。
当前阶段
资产募集与分析（完成）
→ 本地抽样与合成原型（完成）
→ 完整泄漏审计（当前下一步）
→ Registry 与正式 Release
→ 外部训练、统一评测和发布现在不需要继续无边界募集数据，也不能直接开训；重点是把已有资产治理成可信 Release。
资产清单
“泄漏审计”中的“精确”仅指已做的 Query、ID 或文件名匹配，不等于图片/PDF 感知去重完成。
| 角色 | 数据与本地路径 | 已分析 | 本地样本 | 泄漏审计 | 说明 |
|---|---|---|---|---|---|
| TRAIN | data/colpali_train_set/ |
是 | 100 | 精确审计有结果 | 含 108 条 ArxivQA Query+正图泄漏；train/test 必须分离 |
| TRAIN | data/VisRAG-Ret-Train-Synthetic-data/ |
是 | 100 | 已查 6 个 VisRAG 测试集 | 未见规范化精确 Query 重合；感知去重待补 |
| TRAIN | data/VisRAG-Ret-Train-In-domain-data/ |
是 | 100 | 精确审计有结果 | 与 5 个 VisRAG 测试集有 Query 重合，使用前须过滤 |
| TRAIN | data/vdr-multilingual-train/ |
是 | 100 | 精确审计有结果 | 与对应测试集页面 ID 无交集，西语有 1 条 Query 重合 |
| TRAIN | data/tatdqa_train/ |
是 | 100 | 未做 | 自带 eval，必须隔离；还需审计 ViDoRe 资产 |
| TRAIN | data/tabfquad_train_set/ |
是 | 100 | 未做 | 还需审计 ViDoRe 资产 |
| TRAIN | data/VDR_Military/ |
是 | 100 | 未做 | train/test 隔离；filtered OCR 只供校验 |
| TRAIN | data/VDR_Energy/ |
是 | 100 | 未做 | 可能与 ViDoRe 上游重合 |
| TRAIN | data/VDR_Hydrogen/ |
是 | 100 | 未做 | filtered OCR 只供校验 |
| TRAIN | data/VDR_Geotechnie/ |
是 | 100 | 未做 | 法语岩土领域 |
| TRAIN | data/Docmatix/ |
是 | 100 | 同源登记待完成 | images/pdf 与 PDFA 同源；zero-shot-exp/test 永久冻结 |
| PRETRAIN | data/pdfa-eng-wds/ |
是 | 100 | 同源登记待完成 | 无现成 Query；与 Docmatix 按 PDFA key 追溯 |
| SYNTHESIS MATERIAL | data/shennong2_chart/ |
是 | 100 | 不适用原始 Query；输出黑名单不完整 | 172,975 张图表，无 Query；Markdown/HTML 只做离线校验 |
| TRAIN / JOIN | data/docmatix-ir/ |
是 | 100 | 同源登记待完成 | 5,612,890 条；1 正 + 20 hard neg；join Docmatix images |
| TRAIN / JOIN | data/wiki-ss-nq/ + data/wiki-ss-corpus/ |
是 | 100 | 未做 | train 44,002 / test 3,610（test 空正例）；corpus 1,267,874 截图；docid join 已核验 |
| EVAL FROZEN | data/vdr-multilingual-test/ |
是 | 15 | 精确审计有结果 | 5 语言 × 3 页面类型，候选池不得混合 |
| EVAL FROZEN | data/VisRAG-Ret-Test-{ArxivQA,ChartQA,InfoVQA,MP-DocVQA,PlotQA,SlideVQA}/ |
是 | 无 | 精确审计有结果 | 已确认 ColPali / In-domain 泄漏；完整感知去重待补 |
| EVAL FROZEN | data/MMLongBench-Doc/ |
是 | 无 | Query 精确检查完成 | PDF/图片级感知去重待补 |
| EVAL FROZEN | data/JinaVDR/ |
是 | 100 | 未做 | 42 个子集分别建候选池 |
| EVAL FROZEN | data/miracl-vision/ |
是 | 100 | 未做 | 18 种语言分别评测，保留多正例 |
| EVAL FROZEN | data/NayanaIR-Bench/ |
是 | 100 | 未做 | Mono 与 CrossBench-v3 分开评测 |
| EVAL FROZEN | data/ViDoSeek/ |
是 | 100 | 未做 | 完整 PDF 候选池；页码按 1-based 核验 |
| EVAL FROZEN | data/eval/（ViDoRe v1，约 2.3G） |
是 | 100 | 未做 | 10 子集、隐式正对；合成子集 90% 空 Query 为候选页 |
| EVAL FROZEN | data/eval_v2/（ViDoRe v2，约 2.3G） |
是 | 100 | 未做 | corpus/qrels；human-labeled 只用 test |
| EVAL FROZEN | data/eval_v3/（ViDoRe v3，约 49G） |
是 | 100 | 未做 | 8 领域×6 语；英合计 Q 2419 / 页 19252；qrels 六语合池 |
| INFRA | data/hf_cache/ |
不适用 | 不适用 | 不适用 | 下载缓存，不是可登记训练或评测数据 |
ViDoRe 阻塞项
eval、eval_v2、eval_v3 的结构、Case 和 review-only 抽样已完成，但它们很可能与 colpali_train_set、tabfquad_train_set、tatdqa_train、VDR_Energy 等存在上游重合。当前合成 blocklist 尚未覆盖这三套目录；完成泄漏审计并接入 blocklist 前，不得宣称新合成数据已通过完整评测隔离，也不得发布正式 Release。
样本盘点
- 训练侧 15 个已分析资产各 100 条：原 7 源、
VDR_*四套、pdfa-eng-wds、Docmatix、wiki-ss-nq、docmatix-ir。 - 冻结评测：
vdr-multilingual-test15 条；JinaVDR、miracl-vision、NayanaIR-Bench、ViDoSeek、ViDoRe_v1/v2/v3各 100 条 review-only。 - 计划内开源资产的下载、Case 分析和本地抽样已齐；剩余主线是泄漏审计、Registry 和正式 Release。
合成批次
| 来源范围 | 请求 / 成功页 | pass | provisional | fail | 趋势导出 |
|---|---|---|---|---|---|
| 基础 7 源 × 100 | 700 / 694 | 90 | 555 | 28 | 645 |
| 扩展 6 源 × 100 | 600 / 600 | 52 | 474 | 49 | 526 |
两批均为趋势观察：只有 pass 属于严格通过。当前文件名 最终训练数据.jsonl 不代表正式 Release；详细分布统一见 docs/生成样本分析.md。
下一步
- 对全部冻结评测与训练/合成材料运行 Query、ID、图片/PDF 和上游来源泄漏审计，并扩充 blocklist（含
eval*）。 - 把 Docmatix-IR / Wiki-SS 的 join 主键写入正式 Registry，并完成与 PDFA 的同源去重登记。
- 再建设有版本、有审计记录的正式 Release。
事实优先级
发生冲突时按以下顺序取信：
- 本文
docs/STATUS.md docs/开源数据集分析.md、docs/开源测试集分析.md中的事实记录docs/大一统VDR数据中台.md的架构愿景- 研究想法、待办和未验证推断
项目来龙去脉和下一阶段路线见 大一统VDR数据中台.md。