RAG 深度面试指南

RAG 到底有几层可以出错

生成层：prompt 组织、引用约束、拒答策略

精排压缩层：重排、上下文裁剪、去重

在线检索层：查询改写、向量检索、稀疏检索、RRF 融合

离线索引层：文档解析、分块、embedding、HNSW

Chunking

面试高频陷阱：被问"chunk 设多大"时，回答具体数字（如 512）会被追问到崩。正确答案是——取决于 Embedding 模型的有效上下文长度、文档信息密度、以及下游 LLM 的上下文预算，并且要给出 A/B 验证方案，而不是拍脑袋。

最推荐的组合是结构化切分 + 父子块 + 上下文标题注入：每个 chunk 前面拼上它所属的章节路径（如"第三章 > 3.2 退款规则"），单这一项在很多业务上就能带来 5~10 个点的召回提升。

检索

评估

必须把评估拆成检索与生成两段，否则永远不知道该优化哪里。

环节 核心指标 含义 检索 Recall@K 相关文档进入 Top-K 的比例，召回上限 检索 MRR / NDCG@K 相关文档排得够不够靠前 生成 Faithfulness 答案是否完全由上下文支撑（反幻觉） 生成 Answer Relevance 答案是否真正回答了问题 生成 Context Precision 喂进去的上下文有多少是真有用的