souheil007/rag_full_version 的最新提交 a9aeab5(2026-10-17) 并不是添加代码,而只新增了一份设计文档。plans/plan9.md 新增了 100 行,没有删除任何内容。仓库说明指出,该项目是一个文档 RAG,通过 IBM Docling AST 解析、基于 Pixtral 的 VLM 表格修复、双表示序列化以及混合 RRF 检索实现低于 2 秒的响应时间。本文档是重新设计该 RAG 评估方式与表格修复流程的 'Plan 9' 草案。
该计划的第一条主线是评估分离。在当前结构下,正确文档 ID 为空的语音查询(无法回答的问题)也被计入检索指标,并按 0 分汇总,结果可能导致检索性能数值偏低。该计划只对能够回答的查询应用检索评估(Hit Rate@K、MRR、Precision、Recall),而对语音查询单独计算 abstention accuracy(回避准确度),即统计是否以“不知道”的意图作答,从而将 scorecard 分离。
第二条主线是 VLM 回环验证。将损坏的表格交给 Pixtral 修复布局后,再把结果重新送入 TableSanityChecker,确认与原文的对应关系和列计算是否正确;如果未通过,则以 repaired=False 和 method='vlm_validation_failed' 予以拒绝,并在 AST 中保留原始表格。其中还包含防止表头归一化把数值前移到数据单元的单元格不变式校验,以及区分 VLM 转换目标 5%(成本 SLA)与检测准确度(Recall/Precision)的文档整理。
不过本次提交只包含计划本身。evaluator.py、table_repairer.py、测试、文档更新都只作为清单条目保留,未包含实际实现和测量结果。检索指标分离与 VLM 回环验证目前是否生效、表格修复被拒绝的频率有多高,仅凭这次提交无法得知。许可证和 star 数量也未给出。