补齐 CVF 逐日目录并保留缺失摘要页的索引证据 #4

Merged
Zayden-Jung merged 1 commits from codex/cvf-coverage into main 2026-11-06 10:56:38 +00:00
Collaborator

CVF 旧年度有只提供逐日目录的页面,旧采集逻辑未遍历这些入口;单个摘要页面 404 也会阻断整届采集。现在合并全部明确链接的日期,并保留缺失页面的官方索引元数据与错误证据。

  • 逐日页面按论文 URL 去重;标题、作者或 DOI 冲突则停止,清单记录实际入口和原始条目数量。
  • All Papers 链接失效时可使用全部已列出的日期;403 等访问拒绝保持失败。
  • 摘要页 404 保留官方索引题目、作者及发表证据,摘要为空、整份清单为 partial,不推断或编造摘要。
  • 局部缺失刷新保留已有的论文摘要与来源观察信息,后续来源恢复后可更新。
  • --retry-catalogue 可选择既有 blocked 届次并写入独立目录,避免与正在运行的采集任务改写同一状态文件。

验证:ces-control CI 907 通过105项测试及wheel安装验证。新增覆盖逐日重复/冲突、缺失页面、访问拒绝、入口失败回退、独立补采和摘要保留/恢复。真实官方页面确认CVPR2018/2019/2020与ICCV2019只有逐日入口。

依赖PR #2,合并顺序#2→本PR;其增量为vision.py、store.py及对应测试和数据源文档。base: main;head: codex/cvf-coverage。等待用户手动合并,不启用自动合并。

CVF 旧年度有只提供逐日目录的页面,旧采集逻辑未遍历这些入口;单个摘要页面 404 也会阻断整届采集。现在合并全部明确链接的日期,并保留缺失页面的官方索引元数据与错误证据。 - 逐日页面按论文 URL 去重;标题、作者或 DOI 冲突则停止,清单记录实际入口和原始条目数量。 - All Papers 链接失效时可使用全部已列出的日期;403 等访问拒绝保持失败。 - 摘要页 404 保留官方索引题目、作者及发表证据,摘要为空、整份清单为 partial,不推断或编造摘要。 - 局部缺失刷新保留已有的论文摘要与来源观察信息,后续来源恢复后可更新。 - --retry-catalogue 可选择既有 blocked 届次并写入独立目录,避免与正在运行的采集任务改写同一状态文件。 验证:ces-control CI 907 通过105项测试及wheel安装验证。新增覆盖逐日重复/冲突、缺失页面、访问拒绝、入口失败回退、独立补采和摘要保留/恢复。真实官方页面确认CVPR2018/2019/2020与ICCV2019只有逐日入口。 依赖PR #2,合并顺序#2→本PR;其增量为vision.py、store.py及对应测试和数据源文档。base: main;head: codex/cvf-coverage。等待用户手动合并,不启用自动合并。
codex-bot added 3 commits 2026-11-06 10:14:56 +00:00
Package Paper Atlas with organized modules and a unified CLI
Metadata integrity checks / metadata (push) Successful in 1m12s
1c18cbe03a
Normalize endings in extracted documentation and shared utilities
Metadata integrity checks / metadata (push) Successful in 1m26s
6ae46b6717
Collect every CVF day and retain index evidence for missing abstract pages
Metadata integrity checks / metadata (push) Successful in 55s
d4d02ee814
Zayden-Jung merged commit 29e5708959 into main 2026-11-06 10:56:38 +00:00
Sign in to join this conversation.
No Reviewers
No Label
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: Zayden-Jung/paper-atlas#4