来源是数字文本、扫描 PDF,还是 Word 内容?
可选择文本的 PDF 走清洗路径,扫描页走 OCR 到 Markdown,DOCX 走 Word 抽取,让不同来源进入同一套可审阅文本管线。
Elysia Tools
导航
Workflow Playbook
清洗 PDF 与 Word 来源,移除抽取噪声,扫描隐藏提示风险,拆分文本,评分分块质量,并生成可引用的 RAG 输入。
专题
RAG 质量在创建第一个向量之前就已经开始决定。语料可能包含可选择文本的 PDF、扫描页、Word 文档、重复页面元素、隐藏指令、附录、目录,以及很难自然切开的长章节。这个工作流把这些准备决策显性化,避免索引过程变成黑箱。
先用 pdf-page-range-extractor 缩小来源范围,再选择抽取路径。可选择文本的 PDF 用 pdf-to-clean-text-for-llm,图像较多的页面用 scanned-pdf-ocr-to-markdown,DOCX 来源用 word-text-extractor。这样不同来源会先进入同一个可比较的文本层。
接受文本前,还要检查风险。pdf-header-footer-noise-remover 用来发现重复页眉页脚,tagged-pdf-inspector 判断语义结构是否保留,pdf-prompt-injection-scanner 则检查隐藏或页外指令,避免它们进入自动化提示词或检索语料。
用 ai-token-estimator 检查计划分块是否适合目标模型和检索策略,再用 sentence-splitter 或 text-splitter 生成候选边界。最后用 ai-rag-chunk-quality-scorer 比较连贯性、覆盖度、重叠健康度和大小稳定性;当分块需要页码引用时,再用 pdf-rag-chunker-citation-pack。最终交接应包含已接受的分块设置、被拒绝的清洗风险,以及足够追溯到来源页的引用元数据。
工作流指南
先选定属于检索语料的页面和文档来源,再把 PDF、扫描件和 Word 文件转换成可审阅文本或 Markdown。
确认页眉页脚、薄弱 PDF 结构或隐藏提示注入文本不会污染 embeddings 或后续答案依据。
估算 token 大小,按句子或分隔符边界拆分文本,生成符合检索系统限制的候选分块。
比较候选分块方案的连贯性、覆盖度、重叠健康度和大小稳定性,再准备带页码引用的入库包。
可选择文本的 PDF 走清洗路径,扫描页走 OCR 到 Markdown,DOCX 走 Word 抽取,让不同来源进入同一套可审阅文本管线。
答案必须追溯到页码或区域时使用 citation pack;如果只是比较入库前的分块策略,则先用通用拆分和质量评分。