术语
检索增强生成(RAG)
检索增强生成是一种从模型训练数据之外的来源获取相关信息,并为生成提供支持性上下文的方法。相关材料显示,它可用于语义搜索、知识库、代理应用,以及文档和代码库搜索。
检索增强生成(RAG)是一种从模型训练数据之外的来源获取相关信息,然后将其作为生成过程支持性上下文的方法。
如何使用?
- 语义搜索和从文档中检索信息。
- 支持基于检索和生成的知识库。
- 在生成或推理之前,为人工智能代理提供上下文。
- 搜索代码库、文件和多媒体内容。
检索质量的重要性
RAG 应用的质量并不只取决于最终文本。错误可能源于选择了错误的数据库、检索到不相关的文档,或应用了不恰当的范围过滤器。因此,相关材料建议跟踪搜索操作、检索到的数据、重新排序过程和被调用的工具,然后评估从检索到生成的完整流程。
过滤与范围
可以在相似性搜索之前应用元数据过滤器,将结果限制在特定租户、类别、状态或范围内。AWS 提到,这种方法面向 RAG 和文档搜索等应用,尤其适用于目标集合只占索引较小部分的情况。
更广泛工作流中的 RAG
RAG 可以与同一系统中的其他工具集成。根据 GitHub 上发布的材料,代理可以使用 MCP 访问工具和数据,遵循 Skills 以应用项目特定的指令,并借助 RAG 获取支持性上下文。相关材料没有证明其中任何一个组件可以取代其他组件。
评估与运行
- 评估完整流程:测试检索和生成,并验证输出,而不只是调用模型本身。
- 跟踪组件:关联索引版本、嵌入模型、检索设置、提示词和运行设置。
- 多样化测试:纳入常规问题、以往的失败案例、含糊案例以及缺乏证据的案例。
- 结合多种指标:在存在明确规则时使用确定性检查;当判断难以简化为规则时,结合人工审查或语义评估。
可推断内容的局限
有限的结果或仅凭语言模型的判断,都不足以证明 RAG 应用在所有情况下的质量。此外,任何检索模型或索引的适用性都取决于数据类型、所需的检索精度、硬件限制以及独立测试结果。所提供的材料没有对 RAG 解决方案进行总体排名,也没有提供全面比较。